概述
1.
under fit:欠拟合,训练集和测试集的准确率都没有达到最高。
over fit:过拟合,训练集准确率太高,导致测试集以及未来预测准确率反而变低。
just right:刚刚好,训练集和测试集都可以拟合的很好。
2.目的:
正则化的目的是防止训练过拟合
正则化增加模型鲁棒性(泛化能力)
3.
我们希望参数W越小越好,但是又不能太小。
W太大导致误差会变大,W太小导致数据不管有多大的误差代入模型后都会变得特别小导致模型没有意义。
所以我们希望W不能太大,也不能太小,既能保证正确率,又能保证容错能力,泛化能力。
4.对于线性回归来说,loss=MSE
我们当然要保证求出来的MSE达到最小,但是训练集损失降到最小后,会使得测试数据集不够准确,模型的容错能力较弱,既然这样我们就将MSE在人为地加上penaty惩罚项,让模型的容错能力提高。即loss = MSE + penaty
最后
以上就是默默小刺猬为你收集整理的正则化の介绍的全部内容,希望文章能够帮你解决正则化の介绍所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复