#27364·llama.cpp

其他错误: 每秒令牌指标出现问题

作者: MartinEmrich创建于 2026年8月19日更新于 2026年9月17日
标签bug-unconfirmed

名称和版本

LLaMA-服务器-版本 版本:0.12-dev(建造10493,承诺04b569142) Linux x86 64 用 GNU 14. 2. 0 创建

操作系统

链接

您知道哪些 LLaMA.cpp 模块会受到影响吗 ?

LLaMA服务器

QQ 命令行

贝壳 LLaMA-server -v-平行 1-hf unsloth/Qwen3.8-27B-GGUF:Q5 K M-jinja-temp-0.5-min-p 0.1-top-p 0.93-top-k-20-repeat-penalty 1.05-press-pens-pens-pens-0.06-ctx-pens-大小81920-host-0.0-port 8012-ts-ts 47/19-ngl 99-fa on-ctk q8 0-ctv-q8 0-fit off-no-mmap


QQ 问题描述和复制步骤

自从升级到最新的LLaMA.cpp版本(为运行Quen3.8)后,两个公尺'lamacpp:prepted tokens seconds'和'lamacpp:prompt tokens seconds'不再有意义了.

此前,他们给出了正确的数字(每秒取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取

<img宽=""1032"高="472" alt="Image" src="https://GitHub.com/user-attachments/assets/21e4c280-ac67-42ff-a6e4-ad1965680816"/.

但是在升级后,他们几乎总是读出0.0,只产生非零数:

<img宽="554"高="385" alt="Image" src="https://GitHub.com/user-attachments/assets/00185157-fbf2-4f94-a010-4becd30f53b6"/.

第一次失败的提交

工作版:建造10252 (fe2adf0e7)
破损版本:10493 (04b569142)

(如果今天我找到时间,会尝试一个合适的小节, 但也许有人已经有预感了? )

QQ 相关日志输出

内容来源: ggml-org/llama.cpp