在 OpenAI/completion 和 vllm/completion 使用 prompt_template 时会被忽略 — 服务器收到的是未格式化的前缀,而不是格式化的 FIM 提示
作者: MetalKnight创建于 2026年7月21日更新于 2026年7月21日
标签bug-unconfirmed
环境 ● Tabby v0.32.0, 通过 Docker 自主托管 (官方 tabbyml/tabby:latest 镜像) ● 推理后端: 外部 OpenAI 兼容服务器 (AMD Lemonade Server, NPU 后端), 以 /v1/completions 为接口 ● 模型: Qwen2.5-Coder-1.5B-Instruct-NPU ● 客户端: VS Code 扩展 TabbyML.vscode-tabby v1.28.0, tabby-agent v1.9.0-dev
内容来源: TabbyML/tabby