1. 首页
  2. 编程面试题
  3. Python
  4. 数据分析

什么是批量归一化,其优点是什么



1)批量归一化(Batch Normalization,简写BN)指在神经网络中间层也进行归一化处理,使训练效果更好的方法,就是批归一化。

2)优点

- 减少了人为选择参数。在某些情况下可以取消 dropout 和 L2 正则项参数,或者采取更小的 L2 正则项约束参数;
- 减少了对学习率的要求。现在我们可以使用初始很大的学习率或者选择了较小的学习率,算法也能够快速训练收敛;
- 可以不再使用局部响应归一化(BN 本身就是归一化网络) ;
- 破坏原来的数据分布,一定程度上缓解过拟合;
- 减少梯度消失,加快收敛速度,提高训练精度。

发布者:admin,如若转载,请注明出处:https://ai1024.vip/41354.html

QR code
//