我有一个问题,关于调优 7B 模型所需的 VRAM 要求。
作者: mangyeong创建于 2025年1月15日更新于 2025年12月22日
在 GitHub 的 README 中,有这样一段说明:“处理 OOM - 粗略估计,微调 7B 模型需要大约 7 x 4 x 4 = 112 GB 的 VRAM。”请您详细解释这个计算是如何得出的?
内容来源: tatsu-lab/stanford_alpaca
在 GitHub 的 README 中,有这样一段说明:“处理 OOM - 粗略估计,微调 7B 模型需要大约 7 x 4 x 4 = 112 GB 的 VRAM。”请您详细解释这个计算是如何得出的?
内容来源: tatsu-lab/stanford_alpaca