ExponentialDecayLengthPenalty 与最小长度限制结合时会生成 NaN EOS 分数
作者: gitedmond创建于 2026年10月1日更新于 2026年10月2日
标签bug
When `exponential_decay_length_penalty` starts before `min_new_tokens` is reached, it turns the masked EOS score into NaN. Greedy and beam decoding can terminate before the minimum; sampling raises an error.
内容来源: huggingface/transformers