人工智能数学基础———经验风险和结构风险

116 阅读 0 评论 77 点赞

我是靠谱客的博主文艺音响，最近开发中收集的这篇文章主要介绍人工智能数学基础———经验风险和结构风险，觉得挺不错的，现在分享给大家，希望可以做个参考。

概述

相比于经验风险，结构风险多了一个惩罚项。该惩罚项是函数复杂度的衡量，越复杂，该正则项的值越大，结构风险也就越大。

经验风险越小，模型决策函数越复杂，其包含的参数越多，当经验风险函数小到一定程度就出现了过拟合现象。也可以理解为模型决策函数的复杂程度是过拟合的必要条件，那么我们要想防止过拟合现象的方式，就要破坏这个必要条件，即降低决策函数的复杂度。也即，让惩罚项J(f)最小化，现在出现两个需要最小化的函数了。我们需要同时保证经验风险函数和模型决策函数的复杂度都达到最小化，一个简单的办法把两个式子融合成一个式子得到结构风险函数然后对这个结构风险函数进行最小化。