MobileViT中MV2 Block問題
Author: nick70422Created May 14, 2024Updated May 14, 2024
MobileViT當中的MV2 block，expansion != 1的情況，最後面為什麼接了一個SiLU，原論文裡面只有前兩次convolution有接SiLU吧?MobileViT原論文當中也沒有相關改動描述，這是根據什麼才加上這個SiLU的?
Source: xmu-xiaoma666/External-Attention-pytorch