对 BlockDiagonalMask 或 BlockDiagonalCausalMask 的自定义

❓ 问题和帮助 我正在尝试使用 BlockDiagonalMask 的自定义版本，其中添加了一个额外的变量 group_lengths_list。 在每个块中，令牌被分成 3 组（组数是超参数），所有令牌都可以看到同一组中的令牌以及最后一组（这里是第三组）中的令牌。 例如，具有 group_lengths_list: [1, 1, 2] 和 [2, 2, 3] 的对角线上的 2 个块将如下所示