定义:将输出误差反向传播给网络参数,以此来拟合样本的输出,本质上是最优化的一个过程,逐步趋向于最优解,但是每一次更新参数利用多少误差,就需要通过一个参数来确定,这个参数就是学习率,也称步长学习率作为监督学习以及深度学习中重要的超参,其决定着目标函数能否收敛到局部最小值以及何时收敛到局部最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。学习率是指导我们,在梯度下降法中,如何使用损失函数的梯度调整网络权重的超参数new_weight = old_weight - learnin
深度学习
2023-11-28
41 点赞
0 评论
62 浏览