1. 首页
  2. 文章中心
  3. Other

卷积神经网络(CNN)介绍06-损失函数

74 阅读 0 评论
我是靠谱客的博主 迅速月饼，这篇文章主要介绍卷积神经网络(CNN)介绍06-损失函数，现在分享给大家，希望可以做个参考。

常见的损失函数和代价函数

分类和回归常用的损失函数如下： img

公式见网页或者博客

损失函数修改策略

  1. 针对利用Loss修正存在类别不平衡问题的情况，详见本人博客《类别不平衡策略》文章的介绍。

  2. 针对利用修改Loss来训练差异性较小的样本，如人脸等。为了同一类的特征更近，不同的类的特征更远，在人脸识别领域已提出多种loss。 文章人脸的各种loss中简介了人脸识别领域大部分有名的loss函数以及论文目录，有需要的自行查看。

loss曲线

★ 太高的学习率，loss曲线会很奇怪，很容易出现参数爆炸现象。

★ 低学习率，loss会下降很慢；高学习率，一开始loss会下降很快，但易跌入局部极小值；好的学习率，loss应平滑下降。

★ 若loss曲线表现出线性(下降缓慢)，表明学习率太低；若loss不再下降，表明学习率太高陷入局部极小值。

精确率曲线

当验证集上精确度收敛时，训练acc与验证acc曲线间隔过大，表明出现了过拟合；当间隔小，但acc比较低时，说明模型学习能力太低，欠拟合。

最后

以上就是迅速月饼最近收集整理的关于卷积神经网络(CNN)介绍06-损失函数的全部内容，更多相关卷积神经网络(CNN)介绍06-损失函数内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
点赞(49)

相关文章

损失函数总结一、分类损失函数二、回归损失函数
损失函数总结一、分类损失函数二、回归损失函数
PyTorch学习笔记5—PyTorch深度学习入门（三）—神经网络3. 神经网络
PyTorch学习笔记5—PyTorch深度学习入门（三）—神经网络3. 神经网络
[深度学习笔记] 3.神经网络入门
[深度学习笔记] 3.神经网络入门
GAN损失函数的理解：
GAN损失函数的理解：
卷积神经网络(CNN)介绍06-损失函数
卷积神经网络(CNN)介绍06-损失函数
深度学习与计算机视觉[CS231N] 学习笔记（3.1）：损失函数（Loss Function）
深度学习与计算机视觉[CS231N] 学习笔记（3.1）：损失函数（Loss Function）
神经网络的学习为何要设定损失函数以及为什么要使用交叉熵损失函数
神经网络的学习为何要设定损失函数以及为什么要使用交叉熵损失函数
caffe下一些参数的设置
caffe下一些参数的设置

评论列表共有 0 条评论

立即
投稿
返回
顶部