QAIRT 后端: 在 apply_chat_template 中默默丢弃了工具参数,工具调用不正常
作者: EurusZhang创建于 2026年9月11日更新于 2026年9月17日
描述错误 通过 geniex serve 运行支持 QAIRT 的模型(例如 qualcomm/Qwen3-VL-8B-Instruct:W4A16)时,OpenAI 兼容的 /v1/chat/completions 请求中的 tools 参数正确地通过 GenieX 的 Go 层传递到 C 层的 geniex_vlm_apply_chat_template 调用中,但在提示渲染期间却被静默丢弃。最终的 prompt_utf8 与未带 tools 的请求相同,prompt_tokens 未变化,响应中的 tool_calls 总是为空。
内容来源: qualcomm/GenieX