功能请求: 为高级模型功能支持 extra_body 参数
作者: wqj97创建于 2024年11月13日更新于 2025年6月30日
标签enhancement
背景 vLLM 目前通过配置参数支持各种模型功能,但缺乏通过 extra_body 传递额外的模型特定参数的支持,这对于结构化输出等功能尤其重要。 https://GitHub.com/vllm-project/vllm/blob/v0.6.0/vllm/engine/arg_utils.py#L276
内容来源: sashabaranov/go-openai