bitsandbytes · Issues· 90 开放

[BUG] NF4 Linear4bit 在 gfx1100 上出错 (预构建的 ROCm 6.4 轮); 解量化正确

在块大小为 64 时,NF4 重构比 affine int4 表现更差

几个测试失败: 未找到固定件 'device'

[错误] FSDP1 封装通过扁平分片大小更改了 AdamW8bit 状态精度

PytorchLARS.step() 在默认 momentum=0 设置下发生 UnboundLocalError 导致崩溃

Params4bit.to() 跳过 .cuda()/.xpu() 所应用的 CPU AVX512 包装逆转,因此 model.to(device) 会默默地损坏权重

AdEMAMix32bit 和 PagedAdEMAMix32bit 分配了单个大小的 state1,并在第一步出错

提供帮助改进 MPS 后端回退的建议

对于包含确切 >= 2^31 个元素的张量,quantize_4bit 会出现"无效配置参数"错误(ops.cu:54)

请求了 CPU `gemm_4bit_forward` 内核,但没有指定 `backend="cpu"`,因此在 CUDA torch 构建中永远不会加载

8 位优化的错误文档和函数签名

CPU dequantize_4bit 即使长度为偶数的 1-D 输入也返回形状 (1, n);其他所有后端返回 (n,)

无法量化 nemotron 3.5

在 Windows 上, get_gaudi_sw_version() 无限循环 — 模块级子进程运行时使用 shell 管道进行 grep 搜索

Adam/AdamW/LAMB/AdEMAMix: 默认和 Triton 后端中，权重衰减的顺序不正确，与 CUDA 内核不一致