Mamba SSM 架构
Mamba Mamba: 有选择的状态空间的线性-时间序列建模\ Albert Gu, 三道相纸:https://arxiv.org/abs/2312.00752 变形器是:通用模型和高效算法\通过结构化的国产空间 Dality=Tri Dao, Albert Gu\ Paper: https://arxiv.org/abs/2405.21060 Mamba-3: 利用国家空间原则改进序列建模\通过结构化的国产空间 Dality=Aakash Lahoti, Kevin Y. Li. Berlin Chen, Caitlin Wang, Aviv Bick, J. Zico Kolter, Tri Dao†, Albert Gu†\ Paper: https://arxiv.org/abs/2603.15569 About Mamba是一个新的状态空间模型架构,在语言建模等信息密集数据上表现出有希望的性能,之前的子平面模型还不如"变形器". 它以结构化的状态空间模型的进步线为基础,具有高效的硬件感知设计和以"闪电"的精神实施.