量化

1 篇文章

2026年9月25日BF16/FP8/MXFP4/MXFP8/UE8M0：数字格式与 511GB 显存账本"MXFP4 量化"翻译成人话就是一个参数半个字节。把官方 511 GB 的账本逐项算一遍：专家 259.5 GiB、Engram 183.1 GiB，而光"块 scale"就要占 21.9 GiB。顺带说明数字格式如何决定硬件能不能跑（MI325X 没有 FP4 MFMA，MXFP4 专家只能走 Triton），以及 GB 与 GiB 之间那 7% 的差异。DeepSeek vLLM 模型部署量化术语科普