深度学习基础知识总结(一)
1、推导反向传播算法2、Relu激活函数的优缺点?优点包括:1、解决了梯度消失、爆炸的问题2、计算方便,计算速度快,求导方便3、加速网络训练缺点包括:1、由于负数部分恒为0,会导致一些神经元无法激活2、输出不是以0为中心3、Sigmoid函数与Softmax函数从函数定义上来看,sigmoid激活函数的定义域能够取任何范围的实数,而返回的输出值在0到1的范围内。sigmoid...