softmax交叉熵损失函数求导0 前言1 softmax 函数2 损失函数 loss function3 最后的准备4 推导过程
0 前言来写一个softmax求导的推导过程，不仅可以给自己理清思路，还可以造福大众，岂不美哉~softmax经常被添加在分类任务的神经网络中的输出层，神经网络的反向传播中关键的步骤就是求导，从这个过程也可以更深刻地理解反向传播的过程，还可以对梯度传播的问题有更多的思考。1 softmax 函数softmax(柔性最大值)函数，一般在神经网络中， softmax可以作为分类任务的输出层。其...
