CPU dequantize_4bit 即使长度为偶数的 1-D 输入也返回形状 (1, n);其他所有后端返回 (n,)

作者: 2sumtech创建于 2026年8月20日更新于 2026年8月20日

`bitsandbytes::dequantize_4bit` 的本机 CPU 路径会将 1-D 的 `shape` 参数重塑为 `(1, shape[0])`,然后再分配输出(`bitsandbytes/backends/cpu/ops.py`,`if len(shape) == 1: `),因此 1-D 向量的量化/反量化往返在 CPU 上返回 2-D。

内容来源: bitsandbytes-foundation/bitsandbytes