SparseConvNet

Submanifold Sparse Convolutional Networks 这是用于训练 Submanifold Sparse Convolutional Networks 的 PyTorch 库。此外，该库还引入了Submanifold Sparse Convolutions，可用于构建计算效率高的稀疏 VGG/ResNet/DenseNet 类型网络。

使用常规的 3x3 卷积，活动（非零）点集会迅速增长：

使用子流形稀疏卷积，活动点集保持不变。活动点会查看其活动邻居（绿色）；非活动点（红色）没有计算开销：

堆叠子流形稀疏卷积来构建 VGG 和 ResNet 类型的 ConvNet，信息可以沿活动点的线或曲面流动。

断开的组件最初不会进行通信,但由于采用步长操作(无论是池化还是卷积)的影响,它们会合并。此外,向网络添加 ConvolutionWithStride2-SubmanifoldConvolution-DeconvolutionWithStride2 路径可使不相邻的活动点进行通信;请参阅论文中的 'VGG+' 网络。


从左到右: (i) 高亮显示了一个活动点;步长为 2 的卷积可以看到绿色活动点 (ii) 并生成输出 (iii);(i) 中高亮显示的活动点的"子"活动点被高亮显示;子多维稀疏卷积可以看到绿色活动点 (iv) 并生成输出 (v);去卷积操作可以看到绿色活动点 (vi) 并生成输出 (vii)。

维度和"子流形"SparseConvNet 支持具有不同空间/时间维度的输入。高维度的输入更有可能是稀疏的，因为存在"维度诅咒"。
维度|在"torch.nn"中的名称|用例

:--:|:--:|:--: 1|Conv1d|文本、音频 2|Conv2d|2D 空间中的线条，例如手写字体 3|Conv3d|3D 空间或 (2+1)D 时空中的线条和曲面 4| - |线条等，在 (3+1)D 时空中