机器学习(三)——决策树(Decision Tree)1 决策树原理2 剪枝处理
决策树1 决策树原理1.1 决策树的构造1.2 划分指标1.2.1 信息增益1.2.2 基尼(GINI)系数2 剪枝处理1 决策树原理决策树是基于树形结构来进行决策的,目的是产生一颗泛化能力强的决策树,其基本流程遵循简单且直观的分而治之策略。一般的,一颗决策树包含一个根结点、若干内部结点和若干叶结点;其中叶结点对应决策结果,其他结点对应一个属性测试,每个分支代表一个判断结果的输出;每个结点包含的样本集合根据属性测试的结果被划分到子结点中;根节点包含样本全部结点。1.1 决策树的构造对于训练集D=