#161·fun-rec

6.1.4.1节中的公式(6.1.3)有误

作者: Leatsy创建于 2026年5月17日更新于 2026年5月17日

文中给出的公式是对注意力分数 A(X) 和 V(X) 进行元素级乘法,论文《Actions Speak Louder than Words: Trillion-Parameter Sequential Transducers for Generative Recommendations》的第三节中给出的是一般的矩阵乘法。而且如果这里是元素级乘法,那么注意力机制实际上在这儿失去了本来的作用。

内容来源: datawhalechina/fun-rec