注意力

1 篇文章

2026年10月11日少搬一趟：FlashAttention 四代进化史写给大学生的 FlashAttention 四代科普：从 HBM 搬砖讲到 FA1–FA4，在线 softmax、分块、warp 分工、乒乓与有条件重缩放。FlashAttention GPU 注意力 CUDA 科普