将 FlashMLA 变为 libtorch 和 cpython 的稳定扩展

你好! 我使用 PyTorch,特别是我一直专注于解决生态系统问题,其中 PyTorch 自定义扩展必须为新的 PyTorch 版本重新构建(因为 libtorch.so 保证没有 ABI 稳定性)。因此,我们一直在开发一个限定的稳定 ABI 子集,以覆盖最常见的自定义操作用例。有关更多详细信息,请参阅 https://docs.pytorch.org/docs/stable/notes/libtorch_stable_abi.html。