lightning-thunder

Thunder 是一个用于 PyTorch 的源到源 深度学习 编译器,其重点是使模型的训练和推理优化变得简单。它提供了:

• 方便地分析 深度学习 程序,将单个操作映射到内核,并交互检查程序
• 通过编程将一系列操作替换为优化版,查看对性能的影响
• 通过灵活扩展解释器,获取完整的计算图,无需断开图形
• 修改程序,充分利用特定硬件上的最新内核库
• 编写单 GPU 模型,并将其转换为分布式运行
• 快速迭代混合精度和量化策略,寻找对质量影响最小的组合方案

最后，你应该将 Thunder 视为一种高效的工具，用于从“未优化”转换为“优化”。如果这对你有兴趣，请继续阅读以安装 Thunder 并快速开始使用。