使用预训练的窗口大小
作者: abhiagwl4262创建于 2025年9月22日更新于 2025年9月22日
我对 WindowAttention 类中的 pretrained_window_size 的使用感到困惑。 我感觉到，在 SwinV2 中，我们可以自由使用窗口大小。 因此，如果我在预训练模型时使用图像大小为 256，窗口大小为 8，而在微调下游任务时使用图像大小为 512，窗口大小为 32，就不需要像在 ViT 中那样处理连续相对位置偏差，例如进行插值等。 但我们仍然这样做 -
内容来源: microsoft/Swin-Transformer