Triton Python、C++ 和 Java 客户端库，以及 go、java 和 scala 通过 GRPC 生成的客户端示例。
C++ 和 Python API 可让您从 C++ 或 Python 应用程序中轻松与 Triton 通信。使用这些库，您可以通过 HTTP/REST 或 GRPC 请求向 Triton 发送请求，以访问其所有功能：推理、状态和健康状况、统计和指标、模型仓库管理等。这些库还支持使用系统和 CUDA 共享内存来传递输入并接收来自 Triton 的输出。
protoc 编译器 可以在许多编程语言中生成 GRPC API。
image_client 的 C++ 和 Python 版本，这是一个示例应用程序，它使用 C++ 或 Python 客户端库在 Triton 上执行图像分类模型。请参阅 图像分类示例。
暂无开放 Issues，或尚未同步最近议题。