Unet_Family

2024-02-01 18:06:46

UNet Family Ideas

参考：https://github.com/ShawnBIT/UNet-family

module汇总：

DAC(Dense Atrous Convolution module)
RMP(residual multi-kernel pooling)
AAM(Augmented Attention Module)
CAM(channel attention module)
SAM(sequential channel attention and spatial attention module)
BAM(parallel channel attention and spatial attention module)
RRS(Ringed Residual Structure)
UP-Link with attention

1.CE-Net(2019)

该结构加入了DAC block和RMP block。
DAC和RMP的作用均是增加提取图像的特征，只不过是是用不同的办法。

DAC(Dense Atrous Convolution module)的方法是结合不同空洞率的空洞卷积所提取的特征，其结构如下图：
RMP(residual multi-kernel pooling)的是结合不同大小池化所提取的特征的特征，其结构如下图：

2.RAUNet(Residual Attention U-Net)(2019)

模型背景：Some existing work adopts skip connections to concatenate the low-level features with the high-level
features, which contributes to replenishing the position details. But this is a naive
method. Due to the lack of semantic information in low-level features, it contains
a lot of useless background information. This information may interfere with
the segmentation of the target object.
AAM(Augmented Attention Module):其作用是捕获高级语义信息，并强调目标特征。(改进的部分)

GAP(Global average pooling )

3.MFP-Unet(multi-feature pyramid U-net)(2019)

该结构结合了空洞卷积核特征金字塔

4.ScleraSegNet(2019)

该模型用于角巩膜是分割，作者加入了bottleneck模块。
而对于bottleneck模块，作者分别尝试了5种结构，见下图：

CAM(channel attention module):
该模块首先在SENet中提出，发展于BAM。
这个模块期望通过显式地建模通道之间的相互依赖性来自适应地重新校准通道方式的特征响应。公式如下：
M§ = σ(Mc§)
= σ(MLP(GAP§))
= σ(W1(W0(GAP§) + b0) + b1)
SAM(sequential channel attention and spatial attention module)
该模块在（J. Park, S. Woo, J. Lee, and I. S. Kweon. Bam: Bottleneck attention module. In British Machine Vision Conference, page147, 2018.）中提出。这个模块期望为了在不同空间位置强调和抑制特征去学习到一个空间注意图。公式如下：
M§ = σ(Ms§)
= σ(f1×1(Fd3= 4 ×3(Fd3=4 ×3(F1×1§))))
BAM(parallel channel attention and spatial attention module)
就是CAM和SAM的结合，其中element-wise summary是指逐个相加。

5.RRU-Net(2019)

该网络结构在文中是用在分割拼接伪造的图像中，它的特点是提出了循环残差结构（Ringed Residual）。
RRU-Net是端对端图像本质属性分割网络，独立于人类视觉系统，它可以直接定位伪造区域，而无需任何预处理和后处理。
此外，RRU-Net
可以有效地减少错误的预测，因为它可以更好地利用图像中的上下文空间信息