卷积神经网络(CNN)介绍06-损失函数

90 阅读 0 评论 60 点赞

我是靠谱客的博主迅速月饼，最近开发中收集的这篇文章主要介绍卷积神经网络(CNN)介绍06-损失函数，觉得挺不错的，现在分享给大家，希望可以做个参考。

常见的损失函数和代价函数

分类和回归常用的损失函数如下：

公式见网页或者博客

针对利用Loss修正存在类别不平衡问题的情况，详见本人博客《类别不平衡策略》文章的介绍。
针对利用修改Loss来训练差异性较小的样本，如人脸等。为了同一类的特征更近，不同的类的特征更远，在人脸识别领域已提出多种loss。文章人脸的各种loss中简介了人脸识别领域大部分有名的loss函数以及论文目录，有需要的自行查看。

★ 太高的学习率，loss曲线会很奇怪，很容易出现参数爆炸现象。

★ 低学习率，loss会下降很慢；高学习率，一开始loss会下降很快，但易跌入局部极小值；好的学习率，loss应平滑下降。

★ 若loss曲线表现出线性(下降缓慢)，表明学习率太低；若loss不再下降，表明学习率太高陷入局部极小值。

当验证集上精确度收敛时，训练acc与验证acc曲线间隔过大，表明出现了过拟合；当间隔小，但acc比较低时，说明模型学习能力太低，欠拟合。

以上就是迅速月饼为你收集整理的卷积神经网络(CNN)介绍06-损失函数的全部内容，希望文章能够帮你解决卷积神经网络(CNN)介绍06-损失函数所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。