#212·FlashMLA

稀疏 MLA 解码不是批量不变的: 行的输出取决于其批量成员 (1-2 ULP), 在接近相等的标记处会翻转 argmax

作者: apejcic创建于 2026年8月21日更新于 2026年8月21日

Sparse MLA decode is not batch-invariant: a row's output depends on its batchmates (1–2 ULP), flipping argmax at near-tie tokens

内容来源: deepseek-ai/FlashMLA