爱笑盼望

文章
5
资源
0
加入时间
2年10月21天

深度学习-激活函数总结

1.典型的激活函数1.1 sigmoid函数该函数可以将元素的值转化到0~1之间,其公式和图形表示形式如下:从图形可以看出该函数存在以下缺点:(1)BP神经网络是依据梯度进行的,而该函数在无穷小或无穷大的时函数的导数趋近于0.因此在输出值较大或较小时,网络更新慢,容易造成梯度消失。(2)函数输出的不是以0为中心,而是以0.5为中心,函数输出值始终大于0,因此导致模型训练收敛速度变慢。1.2 ReLu函数ReLu函数通常作为CNN网络默认的激活函数。当函数输入为正数时,导数恒为1,可以缓解梯

groovy实现循环、交换变量、多赋值、?.运算符

/** * Created by Jxy on 2019/1/3 10:01 * 1.实现循环的方式 * 2.安全导航操作符---?. * 3.一次性赋值给多个变量 */0.upto(2){ print "$it" }println "输出了所选范围内的所有值,可以设置范围的上下限"3.times { print "$it"}println "范围从...

剑指offer:面试题53—在排序数组中查找数字

题目一:数字在排序树组中出现的次数统计一个数字在排序数组中出现的次数。解决:二分查找,确定数组中等于K值的左右下标。 public int GetNumberOfK(int [] array , int k) { int left=-1,right=-1,start=0,end=array.length-1,mid=0; while(start&...