#8979·server

k8s-onprem 自动调整规模指标 avg_time_queue_us 会低估队列时间,大致相当于加载的模型数量

作者: bilelomrani1创建于 2026年9月18日更新于 2026年9月18日

Description

内容来源: triton-inference-server/server