试图使用 Heretic 让 Gemma 4 31B QAT 失去读写能力
作者: Roman215创建于 2026年6月9日更新于 2026年6月30日
所以这是我第一次尝试使用 heretic,鉴于我还没有找到新的 QAT 模型的任何很好的替代方案,所以我想自己尝试一下。最初,我尝试运行以下普通命令:
内容来源: p-e-w/heretic
所以这是我第一次尝试使用 heretic,鉴于我还没有找到新的 QAT 模型的任何很好的替代方案,所以我想自己尝试一下。最初,我尝试运行以下普通命令:
内容来源: p-e-w/heretic