决策树-最详细的原理介绍1. 基本流程2. 划分选择3. 解决过拟合4.多变量决策树5.决策树回归
决策树1. 基本流程2. 划分选择2.1信息增益2.2信息增益率2.3基尼指数3. 解决过拟合3.1剪枝3.2正则化4.多变量决策树5.决策树回归1. 基本流程决策树是基于树结构的决策算法,包括一个根结点,若干个内部节点和叶子结点。叶子结点对应于决策结果,其他每个节点对应于一个属性测试。如图所示:决策树的生成是一个递归过程,在决策树基本算法中,有三种情形会导致递归返回:(1)当前节点包含的样本全属于同一类别;(2)当前属性集为空,或是所有样本在所有属性集上取值相同;(3)当前节点包含的样本集合