基于 NVIDIA GPUDirect RDMA 技术的高速 GPU 内存复制库
基于 NVIDIA GPUDirect RDMA 的低延迟 GPU 内存复制库 技术。
虽然 GPUDirect RDMA 旨在从主机直接访问 GPU 内存, 对于第三方设备,可以使用这些相同的 API 来创建 GPU 内存的完全有效的 CPU 映射。 CPU 驱动复制的优点是开销非常小 这一点可能在需要低延迟时很有用。
GDRCopy 提供了创建 GPU 内存用户空间映射的基础架构, 然后可以像处理普通主机内存一样操作（需要注意一些限制） 这里)。
它的一个简单副产品是具有以下特征的复制库: - 由于由 CPU 控制,开销非常低,例如,目前一个 cudaMemcpy 可能会产生 6-7us 的开销。 - 需要一个初始内存"锚定"阶段,这可能会很昂贵,取决于缓冲区大小,为 10us 到 1ms。 - 快速 H-D,因为采用了写入合并。在 Ivy Bridge Xeon 上, H-D 带宽为 6-8GB/s,但它会受到 NUMA 效应的影响。 - 缓慢的 D-H,因为支持映射的 GPU BAR 无法进行预取,因此 PCIE 无法生成突发读取事务。
库中包含了一些测试，例如：
GPUDirect RDMA 需要基于 Kepler 或更新代的 NVIDIA 数据中心 GPU 或 NVIDIA RTX GPU (以前称为 Tesla 和 Quadro)，请参阅 GPUDirect RDMA。有关更一般的信息，请参阅官方 GPUDirect RDMA 设计文档。
暂无开放 Issues，或尚未同步最近议题。