在 Mamba 系列模型中,右边填充的预填充会导致缓存损坏(零转换状态,衰减的 SSM 状态)
作者: benthecarman创建于 2026年8月24日更新于 2026年10月1日
No traceback: the failure is silent. Nothing raises; the model simply produces wrong continuations after a right-padded prefill.
内容来源: huggingface/transformers