概述
1、损失函数
损失函数是计算预测结果与实际结果偏差的函数。损失函数选的不好,你会发现,优化了半天看不到优化的效果。所以损失函数的选择hin重要。
直观想到的算是函数还有如下几种:
分类问题,可以计算误分类的个数、误分类的概率;
回归问题,可以计算到超平面的距离,比如
L
p
L^p
Lp距离。
然而,实际用到的却比较多,考虑的因素也比较多。
2、常用的损失函数
2.1、均方差损失
(
L
2
L^2
L2损失)可以记为
E
S
M
ESM
ESM
M
S
E
=
∑
i
=
1
n
(
y
i
−
y
p
r
e
d
i
c
t
i
)
2
MSE=sumlimits_{i=1}^n(y_i-ypredict_i)^2
MSE=i=1∑n(yi−ypredicti)2
loss = tf.reduce_mean(tf.square(y - y_train))
2.2、平均绝对值误差
(
L
1
L^1
L1损失)
M
A
E
=
∑
i
=
1
n
∣
y
i
−
y
p
r
e
d
i
c
t
i
∣
MAE=sumlimits_{i=1}^n|y_i-ypredict_i|
MAE=i=1∑n∣yi−ypredicti∣
2.3、0-1损失函数
2.4、交叉熵损失
2.5、合页损失[^1]
2.6、Huber损失——平滑平均绝对误差
2.7、Log-Cosh损失函数
2.8、分位数损失(Quantile Loss)[^2]
[^1][link]https://blog.csdn.net/zhangjunp3/article/details/80467350
[^2][link]https://www.jianshu.com/p/b715888f079b
最后
以上就是背后店员为你收集整理的【神经网络】损失函数1、损失函数2、常用的损失函数的全部内容,希望文章能够帮你解决【神经网络】损失函数1、损失函数2、常用的损失函数所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复