AdaLayerNorm_Final 中分块值的顺序

上述代码的执行结果是: 先进行缩放,再进行偏移,这在训练和推理时都可以正常工作,只要使用的模块相同。 但是,当我想使用 huggingace/diffusers 中的预训练的 F5-TTS 模块时,其中包含: https://GitHub.com/huggingface/diffusers/blob/20364fe5a2afbddbf2ec5097ec5d483ce0cc689a/src/diffusers/models/normalization.py#L74,该代码在 AdaLayerNorm 和 AdaLayerNorm_Final 中保持了先进行偏移,再进行缩放的顺序,这会导致结果不佳。 建议保持相同的顺序。