添加条形长文字注意边界基准( 一个命令 + 公尺)

很多长上下文性能讨论都陷入僵局,因为人们对不同的脚本、不同的序列长度和不同的指标进行基准测试,因此结果无法比较。 请求: 为 xFormers 添加(或记录)一个标准的"长上下文注意力边界"基准,任何人都可以运行它: - 一个单一的命令/配置(数据类型、头部维度、序列长度、批量/并发、设备) - 要报告的指标(每秒的 token 数或时间/操作 + p99; 可选的内存带宽/移动的字节数) - 以及一条简短的说明,指出该边界对注意力/关键值相关的内存流量产生了压力(而不是模型质量)。 如果您告诉我现有的最佳基准入口以及您认为是"唯一"的接受货币的指标,我可以运行它并返回收据(在同一边界上进行的前后测试),而不是发表意见。