#2323·litgpt

在采样概率为 float16 时,LLM.generate() 可以在 CPU 上默默地选择被 top_k 排除的令牌

作者: rookieLiu2018创建于 2026年9月8日更新于 2026年9月8日

Change only the default dtype:

内容来源: Lightning-AI/litgpt