【ML学习笔记】9:认识Decision Tree决策树
简述决策树的基本思想决策树算法属于有监督学习,即需要训练集给出各个样本的特征和标签值: 决策树以信息熵及其相关的量为度量指标,构造一棵熵下降最快的树,在叶节点处熵比较小(具体多小也要考虑overfitting的问题),这时每个叶节点下的实例被认为处于同一类(标签相同)。注意不同叶子下的实例标签未必不同,这在下面的例子里就能看到。 决策树会在每个非叶结点做判别,每个叶结点都是标签的一种取值。每