百科.dev
全部条目在线工具AI 编程趋势榜开源项目技术资讯提交条目
登录
< 返回工具列表
N

nixl

> 编程语言
开源

NVIDIA 推理传输库 (NIXL)

1.2K stars0 点赞1 次浏览
访问官网GitHub

工具介绍

NVIDIA 推理传输库 (NIXL)

NVIDIA 推理传输库 (NIXL)

NVIDIA 推理传输库 (NIXL) 旨在加速 AI 推理框架 (如 NVIDIA Dynamo) 中的点到点通信,同时通过模块化插件架构为各种类型的内存 (例如 CPU 和 GPU) 和存储 (例如 文件、块和对象存储) 提供抽象。

文档和资源

  • NIXL 概述 - 核心概念/架构概述(docs/nixl.md)

  • Python API - Python API 使用和示例(docs/python_api.md)

  • 后端指南 - 后端/插件开发指南(docs/BackendGuide.md)

  • 遥测 - 可观测性和遥测详情(docs/telemetry.md)

nixl Python API 和库(包括 UCX)可直接通过 PyPI 进行下载。例如,如果您的 GPU 运行在 Linux 主机、容器或虚拟机上,则可以执行以下安装操作:

Issues· 0 开放

查看全部 Issues在 GitHub 打开

暂无开放 Issues,或尚未同步最近议题。

> 标签

C++

暂无评论,来聊聊你的看法吧

> 工具信息

发布日期2026年8月1日
最后更新2026年9月17日
分类编程语言
定价开源

> 相关工具

T
TypeScript
JavaScript 的超集,为前端与全栈提供静态类型
P
Python
通用编程语言,广泛用于 Web、数据与 AI
G
Go
Google 推出的简洁高效系统语言