TensorRT-LLM 后端支持吗?
作者: npuichigo创建于 2023年10月21日更新于 2026年9月1日
标签enhancementgood first issue
是否有关于 NVIDIA 新的 TensorRT LLM 后端的计划? https://GitHub.com/NVIDIA/TensorRT-LLM/tree/release/0.5.0
内容来源: lm-sys/FastChat
是否有关于 NVIDIA 新的 TensorRT LLM 后端的计划? https://GitHub.com/NVIDIA/TensorRT-LLM/tree/release/0.5.0
内容来源: lm-sys/FastChat