#1621·ggml

MUSA: flash-attn TILE GQA 路径 (ncols2>1) 当注意力窗口长度为 256 的倍数时,会输出所有 NaN 的 logits

作者: shengjuntu创建于 2026年9月7日更新于 2026年9月7日

环境

  • 平台: MUSA (Moore Threads) - GPU M1000, cc 2.2, 32 GB
  • 操作系统: aarch64 Ubuntu
  • MUSA SDK 5.1.0 (/usr/local/musa)
  • 构建: GGML_MUSA=ON, MUSA_ARCHITECTURES=22, GGML_CUDA_FA=ON, GGML_CUDA_GRAPHS=OFF, Release
  • 主机项目: audio.cpp (0xShug0/audio.cpp) 附带了 ggml 子树, HEAD f6277c1