与 LM Studio + Quen3. 6 → 27B (skipSearch= true, 空内容) 一起被困入“ 暴雨”
描述 Vane 1.12.2 通过 Docker 在 macOS 上连接到 LM Studio。LM Studio 接收请求并返回完成结果,但“日常研究”配置文件中的 UI 卡在了第一个“大脑风暴”阶段,永远不会显示答案,即使对于非常简单的提示(如“只说你好”)。 ** 环境 ** Vane 版本:1.12.2(设置 → 版本) 安装方法:git clone https://GitHub.com/ItzCrazyKns/Vane.git + Docker compose up -d 操作系统:macOS(Apple Silicon MacBook Pro) ** LM Studio:** 本地服务器端口:1234 “在本地网络上服务”:打开(服务器可在 http://10.0.0.233:1234 上访问)** 模型:Qwen/Qwen3.6‑27B(MLX,4 位)** Vane LM Studio 连接: 基础 URL:http://host.Docker.internal:1234/v1 配置文件:“LM Studio – Everyday Research” ** 我做了什么 ** 启动 LM Studio,加载 Qwen3.6‑27B,并确认本地服务器正在端口 1234 上运行。 从克隆仓库中启动 Vane,使用 Docker compose up -d。 在 Vane 设置 → 模型中,创建/编辑一个 LM Studio 连接,基础 URL 为 http://host.Docker.internal:1234/v1。 在“Everyday Research”配置文件中选择该连接。 提出一个简单查询:只说你好。 ** 我期望的结果 ** Vane 应该显示一个短回答(“hello”),并可选地跳过搜索,因为模型不需要外部数据来回答这个问题。 ** 实际发生的情况 ** UI 保持在“大脑风暴”阶段,永远不会进入搜索或回答阶段。 然而,LM Studio 的开发日志显示请求已成功完成。 LM Studio 日志片段 以下是 LM Studio 为“Say hello”提示返回的示例: { "id": "chatcmpl-bd5jgsksbf4zzb6fogggs", "object": "chat.completion", "model": "Qwen/qwen3.6-27b", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "", "reasoning_content": "{\"classification\": {\"skipSearch\": true, \"personalSearch\": false, \"academicSearch\": false, \"discussionSearch\": false, \"showWeatherWidget\": false, \"showStockWidget\": false, \"showCalculationWidget\": false}, \"standaloneFollowUp\": \"Say hello\"}", "tool_calls": [] }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 1356, "completion_tokens": 60, "total_tokens": 1416, "completion_tokens_details": { "reasoning_tokens": 59 } }, "system_fingerprint": "Qwen/qwen3.6-27b" } 因此,LM Studio 正在: 接收请求。 生成包含“skipSearch”:true 的结构化 reasoning_content。 返回一个空内容字符串。 从用户的角度来看,Vane 永远不会离开“大脑风暴”,尽管模型已经决定跳过搜索并提供了一个后续操作。 其他注意事项 我可以看到多个 LM Studio 日志条目用于 Vane 请求,因此网络布线(Docker + host.Docker.internal)似乎正确。 版本是 1.12.2,因此这种情况发生在当前构建中。 我很乐意测试任何自定义配置或调试构建,如果这有助于解决问题。 谢谢
内容来源: ItzCrazyKns/Vane