MXNET框架基础7-BN

 

1、ailab 代码中wobn和wbn模型的区别

wbn with BN 层模型的训练        前800轮wbn训练

wobn without BN的模型训练      800轮后wobn训练

正如图

 

 

 

局部放大图

 

 这时出现的大抖动 就是wbn训练后 抽调BN层，导致wobn开始训练时出现抖动，后逐渐平稳。

2 为什么用WOBN

 

3 BN 原理