令牌索引序列长度长于此模型指定的最大序列长度(4158 > 2048)

作者: tginart创建于 2023年4月27日更新于 2024年8月5日

Describe the bug Running the Pythia-7B fine-tune script on 4 x A10 (24GB each). It seems like an issue with seq len:

内容来源: togethercomputer/OpenChatKit