在块大小为 64 时,NF4 重构比 affine int4 表现更差
作者: Asadkhan282创建于 2026年9月11日更新于 2026年9月11日
我已经将 NF4 与匹配的块大小下的纯粘性 (非对称) int4 量化器进行了比较,结果表明,随着块的变小,排序顺序发生反转。
内容来源: bitsandbytes-foundation/bitsandbytes
我已经将 NF4 与匹配的块大小下的纯粘性 (非对称) int4 量化器进行了比较,结果表明,随着块的变小,排序顺序发生反转。
内容来源: bitsandbytes-foundation/bitsandbytes