MUSA: flash-attn TILE GQA 路径 (ncols2>1) 当注意力窗口长度为 256 的倍数时,会输出所有 NaN 的 logits
作者: shengjuntu创建于 2026年9月7日更新于 2026年9月7日
环境
- 平台: MUSA (Moore Threads) - GPU M1000, cc 2.2, 32 GB
- 操作系统: aarch64 Ubuntu
- MUSA SDK 5.1.0 (/usr/local/musa)
- 构建: GGML_MUSA=ON, MUSA_ARCHITECTURES=22, GGML_CUDA_FA=ON, GGML_CUDA_GRAPHS=OFF, Release
- 主机项目: audio.cpp (0xShug0/audio.cpp) 附带了 ggml 子树, HEAD f6277c1
内容来源: ggml-org/ggml