本地部署 LLaMA 3 70B,进行微调和推理,需要的硬件配置
作者: P11GH创建于 2024年5月10日更新于 2025年2月18日
你好,我想在本地部署 LLaMA 3 70B,我想问一下需要什么样的硬件?比如两块 A100/A800 80G 是否足够?
内容来源: LlamaChinese/Llama-Chinese
你好,我想在本地部署 LLaMA 3 70B,我想问一下需要什么样的硬件?比如两块 A100/A800 80G 是否足够?
内容来源: LlamaChinese/Llama-Chinese