信息量，信息熵，纯度，参考博文：https://blog.csdn.net/u010916338/article/details/91127242

条件熵，信息增益（互信息）参考博文：https://blog.csdn.net/u010916338/article/details/91432832

信息增益率，参考博文：https://blog.csdn.net/u010916338/article/details/94653402

一，基尼系数定义 

解释：如公式所示，代表的是某个属性A(共有个类)的第个分类占样本总体的概率。 那么指的就是两次取值都属于第类的概率。指的是两次取值都属于同一类的概率。指的是两次取值不属于同一类的概率。

二，基尼系数意义

                                                                  表一

                                                                  表二

                                                                      表三

（1）以Day作为基准来分析，显然Day是不能作为特征被使用的，决策过程中，他应该排在最后一位。

信息增益把Day列为第一影响因素，显然不合适。

信息增益率一定程度上削弱了Day的影响程度，但是仍然没有将其排到最后。

基尼系数是按照从小到大来筛选的，此时Day已经变成最不重要因素。

 （2）以Outlook，Humidity，Windy作为基准来分析。

信息增益：Day>Outlook>Humidity>Windy>Temperatrue

信息增益率：Outlook>Day>Humidity>Windy>Temperatrue

基尼系数：Windy>Humidity>Outlook>Temperatrue>Day

                                                          表四：排名

总结： 在没加上Day的情况下，Outlook，Humidity，Windy一直都作为主要影响因素排在前几名，不同计算方式名次稍有不同，但整体影响不大。在加上Day的情况下，Day必须排除，只有基尼系数可以做到。

最后

以上就是帅气服饰为你收集整理的基尼系数一，基尼系数定义 的全部内容，希望文章能够帮你解决基尼系数一，基尼系数定义 所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。