#44·DiT

损耗低,效果差

作者: HassanJbara创建于 2023年7月16日更新于 2025年2月22日

问好。我要先声明一下,我对 ML 没有太多经验,而且自己还在探索,所以如果这个问题听起来很蠢或太一般化,请原谅我。我正在使用这个架构和库来训练自己的模型,针对某一类隐变量。如果我将训练目标设置为预测每一步的噪声,我的模型就能成功地达到低损失值(约为 0.15)。然而,它生成的样本与原始数据完全不同。只有将目标设置为预测原始 x 隐变量时,才能正常工作。我不明白为什么会这样,也许您至少能给我一些潜在原因的提示,或者给我一些解决问题的直觉?

内容来源: facebookresearch/DiT