现代鸭子

文章
6
资源
0
加入时间
3年1月10天

动手学深度学习Pytorch Task06一、批量归一化和残差网络二、凸优化三、梯度下降

本节课内容批量归一化和残差网络、凸优化、梯度下降一、批量归一化和残差网络1.批量归一化对输入的标准化(浅层模型):处理后的任意一个特征在数据集中所有样本上的均值为0、标准差为1。标准化处理输入数据使各个特征的分布相近。批量归一化(深度模型):利用小批量上的均值和标准差,不断调整神经网络中间输出,从而使整个神经网络在各层的中间输出的数值更稳定。对全连接层做批量归一化位置:全连接层中的仿射...