人工智能数学基础———经验风险和结构风险
相比于经验风险，结构风险多了一个惩罚项。该惩罚项是函数复杂度的衡量，越复杂，该正则项的值越大，结构风险也就越大。经验风险越小，模型决策函数越复杂，其包含的参数越多，当经验风险函数小到一定程度就出现了过拟合现象。也可以理解为模型决策函数的复杂程度是过拟合的必要条件，那么我们要想防止过拟合现象的方式，就要破坏这个必要条件，即降低决策函数的复杂度。也即，让惩罚项J(f)最小化，现在出现两个需要最小化...
