#1104·vanna

Vanna2.0 是否支持与 vLLM 连接?

作者: viphonestsong创建于 2026年2月26日更新于 2026年2月26日

我的环境使用 Oracle 数据库,大型模型通过 vLLM 在本地部署。在官方网站上,我只找到了有关 OpenAI 或 Ollama 的文档,但没有关于本地部署 vLLM 模型的说明。我想知道: 1. Vanna 2.0 是否支持本地部署的 vLLM 或遵循 OpenAI 兼容 API 规范的大型模型? 2. 如果不是,我是否可以通过自己扩展代码来实现支持? 3. 能否提供一些指导和提示? 谢谢。