#240·nano-vllm

[错误] may_append 分配新区块时延迟了一个令牌,导致 KV 缓存写入未分配的区块

作者: MrPaoBrother创建于 2026年6月8日更新于 2026年6月9日

描述

内容来源: GeeeekExplorer/nano-vllm