tensorflow中batch_norm使用
本篇文章主要用来记录使用tensorflow中batch_norm时遇到的问题,以便自己后续查阅:batchnorm是深度网络中经常用到的加速神经网络训练,加速收敛速度以及提供网络稳定性的算法,目前应该是深度网络中不可或缺的一部分,具体说来batchnorm有哪些用处呢?1、加速训练收敛的特征,可以初始化较大的学习率,训练过程学习率的衰减也可以很快。2、提高网络的泛化性能,不用过多的去...