FLOPs

1 篇文章

2026年10月7日如何扩展你的模型（4）：Transformer 数学全知道中英对照第 4 篇：把 Transformer 前向与反向的 FLOPs、参数量、激活显存、KV cache 大小全部用公式算清楚，为后面的并行策略打底。左栏原文，右栏译文。Transformer FLOPs KV Cache scaling 中英对照