一次选择多个令牌。

您好,BERTViz 维护者们,首先,我要感谢你们在 BERTViz 上所做的工作。 目前,我正在探索 BERT 中的注意力模式,希望通过可视化多个 token 对序列中所有其他 token 的综合注意力来增强我的分析。 具体来说,我希望可视化选定 token 的注意力分数之和,以了解它们如何共同关注输入的其他部分。 根据我的了解,当前的 BERTViz 实现允许在每个 token 基础上进行注意力可视化。 我希望得到指导,了解如何修改 BERTViz 以支持以下功能: 1. 同时选择多个 token。 2. 求和这些选定 token 的注意力分数。 3. 在用户界面中可视化累积注意力。 例如,请参阅附件中的图表,可视化显示了单个 token ("What") 的注意力分数,但是,我希望能够以交互方式同时选择多个 token (例如 "Capital" 和 "France") 并可视化这些选定 token 的注意力分数之和。 如果此功能尚未提供,您是否能提供一些指导,说明如何通过最小代码更改来实现此功能? 任何关于从何处开始,应该关注代码的哪些部分或高级方法的建议都将非常有用。 感谢您抽出时间并提供帮助。