SENet 是 ImageNet 2017(ImageNet收官赛)的冠军模型,和ResNet的出现类似,都在很大程度上减少了之前模型的错误率,并且复杂度低,新增参数和计算量小。
SE block并不是一个完整的网络结构,而是一个子结构,可以嵌入到其他分类或检测模型中。作者在文中将 SENet block 和 ResNet 插入到现有的多种分类网络中,都取得了不错的效果。SENet 的核心思想在于通过网络根据 loss 去学习特征权重,使得有效的 feature map 权重大,无效或效果小的 feature map 权重小的方式训练模型达到更好的结果。
当然,SE block 嵌入在原有的一些分类网络中不可避免的增加了一些参数和计算量(相对于原始的 ResNet-50 只相对增加了 0.26%,可以忽略不计),但是在效果面前还是可接受的。最方便的是SENet思路简单,很容易扩展在已有的网络结构中。
深度学习论文翻译解析(十六):Squeeze-and-Excitation Networks - 战争热诚 - 博客园