为每个 2 位检查点安装了 Bonsai/t5 加载补丁,且没有测试覆盖该路径
作者: LXD-8创建于 2026年9月17日更新于 2026年9月17日
□ 什麽
`omlx/utils/model loading.py'在任何时间安装 Bonsai/t5 装载补丁 检查站宣布 " 量化.bits " 为1或2, 不与模型协商 类型 :
[Python] quant cfg = config.get ("量化") 或 QQ . . . . . . . . 如果以 (1, 2) 为单位的位数 : 应用 bonsai t5 load patch ()
`应用 bonsai t5 load patch ()'重写'nn.Module.load 重量'和
`mx.quantized matmul'全过程为整个过程的寿命。
∮为什么它很重要∮
任何2位的检查站——不只是Bonsai/t5家族的补丁目标——都选它
起来 DeepSeek V4.1检查站的 " mlx lm " 社区2位转换就是这样
装上一个时撞到它: 补丁安装了,模型安装了
装入和生成正确,所以似乎不会在那里造成伤害。 不过
是一个安装在它没有被写入的家族上的全球猴标。
单位测试也没有覆盖:它们直接使用V4.1装载器,
永远无法到达“ utils/ model loading.py ” , 所以没有练习补丁
" 载重 " / " 量子化 " 和 " 非Bonsai 2位 " 型号。
□ 建议
打开它写给的家族的补丁(其实是模型类型)
),或者在注释中说明为什么单位宽度是正确的信号.
如果你愿意的话,我很乐意送补丁——我可以复制路径
这台机器上有2位检查站.内容来源: jundot/omlx