macOS 27: 长上下文推理比 macOS 26.6 慢 10 倍(即使在修复 HOST_VM_INFO64 后也是如此)
作者: gbeta创建于 2026年6月11日更新于 2026年9月17日
环境 omlx: 0.4.4rc1 (也测试过 0.4.3) macOS: 27.0 (升级自 26.6) 硬件: M3 Max (16 核 CPU, 40 核 GPU), 48GB RAM (也在 M2 Ultra 48GB 上重现) 模型: mlx-community/Qwen3.6-35B-A3B-4bit 背景 问题 #1749 (HOST_VM_INFO64 死机) 已在 0.4.3 中修复,且不再出现死机。然而,长上下文推理性能与使用相同的 omlx 版本、模型和设置的 macOS 26.6 相比仍然严重下降。
内容来源: jundot/omlx