Activation Beacon，关于 Loss 定义的疑问：平均 token loss 是否会稀释真正依赖 beacon memory 的位置？

{'loss': 2.1343, 'grad_norm': 0.2808859348297119, 'learning_rate': 4.979447262550289e-05, 'epoch': 0.0} {'loss': 2.1084, 'grad_norm': 0.226092129945755, 'learning_rate': 4.957582648242085e-05, 'epoch': 0.01} {'loss': 2.1167, 'grad_norm': 0.1432613581418991, 'learning_rate': 4.9357180339338815e-05, 'epoch': 0.01} {'loss': 1.9753, 'grad_norm': 0.16457320749759674, 'learning_rate': 4.913853419625678e-05, 'epoch': 0.02} {'loss': 2.0601, 'grad_norm': 0.12638713419437408, 'learning_rate': 4.891988805317474e-05, 'epoch': 0.02} {'loss': 2.0375, 'grad_norm': 0.14955464005470276, 'learning_rate': 4.870124202671599e-05, 'epoch': 0.02}