响应 vLLM 后端通过 TP 环境值作为字符串
作者: sylvesterkaczmarek创建于 2026年8月16日更新于 2026年8月16日
□ 总结
Presensation API vLLM 后端定义了 lamor 并行性 :
TP = os.environ.get ("TP", 2)当TP'未被设定时,倒数为整数2'。 当用户配置环境变量时,`os.environ.get ()' 返回字符串,该字符串直接传递给:
[Python] LLM(., lator system system=TP,...)
“ tensor system system” 是一个整数配置值, 因此, 清晰的环境会改变数值的类型, 而不是仅仅改变其大小 。
□ 影响
在用户设定"TP=4"等值时,被记录/可配置的TP路径在vLLM引擎设置过程中可能会失败,即使默认路径有效.
□ 拟议决议
分析环境变量为整数 :
```2ZZ
TP = int(os.environ.get ("TP", 2)).增加一个回归,将后端用 " TP=4 " 导入,并验证 " 装载-型号() " 的整数 " 4 " 改为 " LLM " .
内容来源: openai/gpt-oss