[错误]: 前缀缓存 + MTP 在 v0.28.0 中的混合 Mamba/GDN 模型仍会损坏输出(#43559 已关闭但未修复)
作者: ionut-anghelina创建于 2026年8月26日更新于 2026年9月29日
标签kv-cache-manager
描述错误
摘要。 --enable-prefix-caching 与 MTP 猜测解码一起,在 v0.28.0 中仍会对混合 (GDN/Mamba) Qwen3.5 类模型的输出造成损坏。一小部分响应会变成重复的标点符号(!!!!…)或为空。这与 #43559 相同,该错误在 2026-08-06 关闭完成,合并的调度器端修复 (#51113) 不包括它,而缓存管理器端的修复 (#43650、#48375) 仍然处于开放状态。
内容来源: vllm-project/vllm