在训练 CVAE 模型时出现 KL 损失问题。
作者: dayunyan创建于 2024年4月18日更新于 2024年6月7日
当我使用自己的数据集训练 CVAE 时,发现结果非常差。仔细检查后,我发现在训练和验证时 KL 损失过大,达到 10^27 附近,而且不会减小。仔细观察发现,编码器输出的 `log_var` 为 50~60。我已经调整了很长时间,但没有效果。如何解决这个问题?
内容来源: AntixK/PyTorch-VAE
当我使用自己的数据集训练 CVAE 时,发现结果非常差。仔细检查后,我发现在训练和验证时 KL 损失过大,达到 10^27 附近,而且不会减小。仔细观察发现,编码器输出的 `log_var` 为 50~60。我已经调整了很长时间,但没有效果。如何解决这个问题?
内容来源: AntixK/PyTorch-VAE