是否允许在 CvT 中使用分类令牌?
作者: Yash-10创建于 2024年11月21日更新于 2024年11月21日
感谢您提供了如此惊人的 ViT 实现集合! 从 CvT 论文 来看,它还允许使用类别标记(类似于 ViT,但 SimpleViT 论文的作者在 SimpleViT 中已将其删除)。然而,仔细看一下此仓库中的 CvT 代码,似乎并未实现此功能。是否是出于设计选择,还是您认为添加分类标记的选项可能是值得的?如果是前者,也许可以在 README 中进行说明?我不确定文献中是否有使用和不使用分类标记的基准测试。 为了参考,我正在查看与论文一起提供的 CvT 代码(此行),其中似乎有一个名为 with_cls_token 的选项。
内容来源: lucidrains/vit-pytorch