百科.dev
全部条目AI 编程趋势榜开源项目技术资讯提交条目
登录
返回工具页/返回 Issues 列表
#3787·axolotl

量化 MoE 的专家级分层 CPU 卸载: 30B-A3B QLoRA 约为 7 GB (单个驻留专家层,延伸了层卸载思想)

作者: pjordanandrsn创建于 2026年7月2日更新于 2026年7月19日
标签waiting for reporter

使用案例

内容来源: axolotl-ai-cloud/axolotl

查看 GitHub 原文在 GitHub 查看讨论