提供帮助改进 MPS 后端回退的建议

我想帮助推动 MPS 后端的状态，我已经准备好直接参与其中（Apple Silicon，可以在本地构建和测试）。我之前已经在 MPS 方面（#1994）和优化器方面（#1998）做出了贡献，因此我对其布局有一定了解。从目前的后端（#1983、#2004）中读到的内容，我对其设计的理解是：在可用时尝试使用 kernels-community/bitsandbytes-mps Hub 内核，否则回退到纯 PyTorch，而这些回退正是 所反映的。我不想打断您正在进行的工作，因此不如猜测，我更希望了解哪些贡献会最有用。如果有以下几个方向可以考虑，可能会有帮助：

• 在 backends/mps/ops.py 中分析和加速特定的 PyTorch 回退，遵循 #1960 的精神。
• 为目前只触及通用慢路径的操作填补 MPS 特定的回退。
• 扩展 MPS 回退路径的测试覆盖和正确性。 如果 8 位优化器路径（即 ）是您希望获得帮助的内容，我很乐意也去看看，不过我需要先确认它是否符合您的计划。请告诉我哪些会最有用，或者如果您更希望我目前保持在较小的正确性和覆盖范围方面。