LibreCuda

LibreCUDA 是一个项目，旨在替换 CUDA 驱动 API，以在不依赖专有 CUDA 运行时的情况下在 Nvidia GPU 上运行 CUDA 代码。它通过通过 ioctls 直接与硬件通信（具体是 Nvidia 的 open-gpu-kernel-modules 所指的 rmapi），以及 QMD（Nvidia 的 MMIO 命令队列结构）来实现这一点。LibreCUDA 能够将 CUDA ELF 二进制文件上传到 GPU，并通过命令队列启动它们。

• 分配和释放 GPU 内存，并将内存映射为 CPU 可访问的内存
• 上传 CUDA 核函数（CUDA ELF 二进制文件）
• 为 CUDA 函数设置动态共享内存
• 启动 CUDA 核函数
• 支持在单个流上启动便宜的异步核函数
• 主机到设备（DMA），设备到设备（计算），设备到主机 memcpy（DMA）
• 支持在单个流上启动便宜的异步 memcpys

连接驱动程序 API 库