抱歉,我必须说出来:哇!

我对人工智能领域还是比较陌生,我花了一周时间在非常恶劣的条件下测试了许多不同的模型(仅使用 CPU 和 16GB RAM)。 这绝对是所有模型中**最好的一个**。 认识我的人会感到惊讶,因为我很少这样赞扬任何东西。 我想如果将其大小减小到大约 8GB,会有多大的下降呢…… 我测试了一个 16GB 的 GGuF 模型( wizardlm-13b-v1.2.Q4_0.gguf),结果非常惊人。