#17095·TensorRT-LLM

[错误] DSpark: 在使用注意力 DP 且采用不对称 (仅基因) 的推测性解码的情况下,分解的基因仅有的基准会陷入死锁

作者: lishicheng1996-nv创建于 2026年7月31日更新于 2026年9月18日
标签Speculative DecodingDisaggregated serving

描述

内容来源: NVIDIA/TensorRT-LLM