Softmax 和 Softmax-loss的推演Softmax 和 Softmax-loss的推演
Softmax 和 Softmax-loss的推演记录Softmax 函数σ(z)=(σ1(z),...σm(z))\sigma(z)=(\sigma_1(z),...\sigma_m(z))定义如下： σi(z)=exp(z)Σmj=1exp(zj),i=1,...,m\sigma_i(z)={exp(z)\over\Sigma_{j=1}^m exp(z_j)} , i = 1,...,m它在
