关于 LLM 端点

作者: kyk666123创建于 2026年1月20日更新于 2026年8月25日
标签questionverlproxyv0.x

如果我想使用 VERL 进行训练,而在代理管道中,有些节点使用本地模型,而其他节点则调用商业 API(同时只训练开源模型),那么在初始化代理类时,我是否需要通过 resources 参数传递一个 agl.LLM 对象(该对象包装了商业 LLM 的实际端点和模型名称)?此外,对于本地模型,其端点和模型名称是否直接在 VERL 的配置文件中指定,并且资源中是否会自动包含一个 main_llm 字段,我可以访问这个字段吗?最后,本地模型和商业 API 模型都需要调用 LLM.get_base_url() 来获取它们的最终端点吗?非常感谢您的时间和指导,我非常感谢您能提供的任何澄清!

内容来源: microsoft/agent-lightning