v1
需求:传统网络内存需求大,运算量大。嵌入式,移动设备设备无法运行。
google团队 2017 轻量级CNN网络
论文地址 https://arxiv.org/pdf/1704.04861.pdf
亮点:模型参数与运算量少。DW卷积
Depthwise Cov
传统卷积:filter channel = 输入channel 输出channel=num of filter
DW卷积:filter channel fixed = 1 一个filter负责一个输入channel
PW卷积:filter large fixed = 1
模型结构:
两个超参数一个调节卷积核个数一个调节输入图像大小-进一步减少模型计算量。
问题:卷积核参数大部分为0 v2改进
v2 2018
准确率更高,模型更小
亮点:inverted residuals and linear bottle necks
传统residual block:
1*1 降维
3*3普通卷积
1*1卷积升维
倒残差:
1*1 卷积升维
3*3 DW卷积relu6= min(max(x,0),6)
1*1 卷积降维