MobileNetV3 主要贡献

一句话总结： mobilienet v3主要在神经网络结构搜索NetAdapt算法上，针对激活函数，

• Complementary search techniques（主要针对神经网络搜索的NetAdapt算法，修改了优化目标，原始论文最小化accuracy change，当前论文最小化latency change 与accuracy change的比值）
• New efficient versions of nonlinearties practical （这部分主要解决非线性映射函数 s w i s h   x = x ⋅ σ ( x ) swish\ x=x \cdot \sigma (x) swish x=x⋅σ(x)）中的sigmoid函数计算复杂度高的问题，提出 h − s w i s h [ x ] = x ⋅ R e L u 6 ( x + 3 ) 6 h-swish[x]=x\cdot \frac{ReLu6(x+3)}{6} h−swish[x]=x⋅6ReLu6(x+3)​近似代替原始映射函数）
• New efficient network design （这部分）