其他错误: 每秒令牌指标出现问题
作者: MartinEmrich创建于 2026年8月19日更新于 2026年9月17日
标签bug-unconfirmed
名称和版本
LLaMA-服务器-版本 版本:0.12-dev(建造10493,承诺04b569142) Linux x86 64 用 GNU 14. 2. 0 创建
操作系统
链接
您知道哪些 LLaMA.cpp 模块会受到影响吗 ?
LLaMA服务器
QQ 命令行
贝壳 LLaMA-server -v-平行 1-hf unsloth/Qwen3.8-27B-GGUF:Q5 K M-jinja-temp-0.5-min-p 0.1-top-p 0.93-top-k-20-repeat-penalty 1.05-press-pens-pens-pens-0.06-ctx-pens-大小81920-host-0.0-port 8012-ts-ts 47/19-ngl 99-fa on-ctk q8 0-ctv-q8 0-fit off-no-mmap
QQ 问题描述和复制步骤
自从升级到最新的LLaMA.cpp版本(为运行Quen3.8)后,两个公尺'lamacpp:prepted tokens seconds'和'lamacpp:prompt tokens seconds'不再有意义了.
此前,他们给出了正确的数字(每秒取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取取
<img宽=""1032"高="472" alt="Image" src="https://GitHub.com/user-attachments/assets/21e4c280-ac67-42ff-a6e4-ad1965680816"/.
但是在升级后,他们几乎总是读出0.0,只产生非零数:
<img宽="554"高="385" alt="Image" src="https://GitHub.com/user-attachments/assets/00185157-fbf2-4f94-a010-4becd30f53b6"/.
第一次失败的提交
工作版:建造10252 (fe2adf0e7)
破损版本:10493 (04b569142)
(如果今天我找到时间,会尝试一个合适的小节, 但也许有人已经有预感了? )
QQ 相关日志输出
内容来源: ggml-org/llama.cpp