KM缩放定律中的数据错误
作者: LJHzju创建于 2024年3月6日更新于 2024年3月10日
关于您论文第 2.1 章中的 KM 扩展定律,根据原 OpenAI 论文中的图 1(c),模型大小范围应为 768\~1.5B,而不是 7.68B\~1.5B。
内容来源: RUCAIBox/LLMSurvey
关于您论文第 2.1 章中的 KM 扩展定律,根据原 OpenAI 论文中的图 1(c),模型大小范围应为 768\~1.5B,而不是 7.68B\~1.5B。
内容来源: RUCAIBox/LLMSurvey