BitNet · Issues· 332 开放

ggml_vec_dot_i2_i8_s_1x1 中的隐性 int16 溢出: 每条通道的 128 次 maddub 运算与 32767 的上限相冲突

在使用 TL2 GGUF 模型时,build/bin/LLaMA-cli 会抛出 SIGSEGV 错误,段错误

在 Papers with Code 上验证评估

i2_s AVX2 GEMM 将 int16 累加器折叠的次数比其自身所需的次数多 10 倍（测量值为 7.5%）

[错误]: BitNet FFN 使用 SILU 而不是 ReLU² — Perplexity 在每个 CPU 后端上的比率为 99.8 与 17.1

BitNet-b1.58-2B-4T 在 ARM64/NEON 上产生垃圾输出 (没有 AVX2) — 标量回退使用了错误的 I2_S 解包方案

ggml-cpu.c: `src1_cont` 未声明 → 在搭载 i8mm 的 ARM CPU 上构建失败 (Apple M2/M3/M4, Graviton3, …)

bitnet-b1.58-2B-4T 使用 SiLU 运行FFN 而不是 relu2 - 每个后端的错误对数

回归:无法加载 Falcon-E 模型 - "未知的预分词器类型: 'falcon_e'" (在 #268 中添加的支持在 LLaMA.cpp 子模块更新中丢失)

转换- hf- to-gguf-bitnet.py-outtype i2 s 默地为 LlamaForCausalLM BitNet 检查站(Falcon3 / Falcon-E 1.58bit) 写出 F16(不是 I2 S)

README "从 .safetensors 转换" 流程出现问题: convert-ms-to-gguf-bitnet.py 发生 KeyError MODEL_ARCH.BITNET_25, 并且 LLaMA-quantize 没有 I2_S ftype (setup_env.py 的 I2_S 转换路径也受到影响)

MacBook M2 上的 setup_env.py 失败

[错误]: I2_S GEMM 快速路径在仅支持 AVX 的 CPU 上对多标记提示产生垃圾

[错误]: i2_s 量化在没有 AVX2 的 x86 CPU 上产生垃圾输出（缺少回退）

警告: `huggingface-cli` 已被弃用,不再可用。请使用 `hf`。