稀疏 MLA 解码不是批量不变的: 行的输出取决于其批量成员 (1-2 ULP), 在接近相等的标记处会翻转 argmax
作者: apejcic创建于 2026年8月21日更新于 2026年8月21日
Sparse MLA decode is not batch-invariant: a row's output depends on its batchmates (1–2 ULP), flipping argmax at near-tie tokens
内容来源: deepseek-ai/FlashMLA