甜美黄蜂

文章
7
资源
0
加入时间
3年0月21天

神经网络之损失函数

对于损失函数一直处于混乱理解的状态,L2=1/2 ||a-y||^2 ,对于其他的类似于交叉信息熵感觉很高大上的样子,但是到底是怎么回事呢?今天我就一探究竟!我们都知道,神经网络模型训练得以实现是经过前向传播计算LOSS,根据LOSS的值进行反向推到,进行相关参数的调整。可见,LOSS是指导参数进行调整的方向性的指导,很关键,正如在梯度下降中看到的图一样,如果LOSS随意指示下降的方向,那么可能无论