【ML25】Decision Tree 决策树概念决策树案例Entropy熵Information Gain 信息增益QA
决策树从根节点出发，根据对特征值的分类，走向不同的分支。不同的分支再根据决策结点、按照特征值的方式进行分类，以此往复，从而最终抵达叶子结点。通过上述构建简单的决策树介绍了决策树的基本概念：根节点、决策节点、叶子节点、特征与特征值等概念。然后将分好两类的决策树再计算其概率以及熵，然后再根据其最大信息增益安排下一个要判断的特征。首先计算每个特征下特征值的概率，然后根据概率求得熵的值。说回决策树，信息增益是判断决策树的每个决定节点如何安排的决定因素。所以将该特征作为根节点，根据特征值将其分为两类，
