百科.dev
全部条目在线工具AI 编程趋势榜开源项目技术资讯提交条目
登录
< 返回工具列表
P

python_backend

> 编程语言
开源

Triton 后端,可在 Python 中实现预处理、后处理和其他逻辑。

679 stars0 点赞1 次浏览
访问官网GitHub

工具介绍

Triton 后端,可在 Python 中实现预处理、后处理和其他逻辑。

Python 后端

  • Python 后端
    • 用户文档
    • 快速入门
    • 从源代码构建
    • 使用
      • auto_complete_config
      • initialize
      • execute
        • 默认模式
        • 错误处理
        • 请求取消处理
        • 解耦模式
          • 用例
          • 异步执行
        • 请求重新调度
      • finalize
      • is_ready
    • 模型配置文件
    • 推理请求参数
    • 推理响应参数
    • 管理 Python 运行时和库
      • 构建自定义 Python 后端代理
      • 创建自定义执行环境
      • 重要说明
    • 错误处理
    • 管理共享内存
    • 多模型实例支持
    • 运行多个 Triton 服务器实例
  • 业务逻辑脚本
    • 使用与解耦模型一起使用的 BLS
    • 模型加载 API
    • 使用与状态模型一起使用的 BLS
    • 限制
  • 互操作性和 GPU 支持
    • pb_utils.Tensor.to_dlpack() -> PyCapsule
    • pb_utils.Tensor.from_dlpack() -> Tensor
    • pb_utils.Tensor.is_cpu() -> bool

Issues· 0 开放

查看全部 Issues在 GitHub 打开

暂无开放 Issues，或尚未同步最近议题。

> 标签

C++

暂无评论，来聊聊你的看法吧

> 工具信息

发布日期2026年8月1日
最后更新2026年9月17日
分类编程语言
定价开源

> 相关工具

T
TypeScript
JavaScript 的超集，为前端与全栈提供静态类型
P
Python
通用编程语言，广泛用于 Web、数据与 AI
G
Go
Google 推出的简洁高效系统语言