微调模型

作者: ElizavetaSedova创建于 2022年9月27日更新于 2025年1月14日

你好! 请告诉我在新风格之前微调预训练的顶层需要哪些资源。我想使用 5b 模型。是否可以在没有 GPipe 的情况下实现? 我运行了以下命令,但使用了我的数据:

内容来源: openai/jukebox