重量初始化

我不确定我所说的对不对,但我在 3DViT 模型中没有看到我们初始化权重的地方。我已经试验了 2 天,发现模型无法有效地学习,且效果变化在 50% 附近。我不确定这是这种行为的原因,但我确实注意到了这个差距。