我是靠谱客的博主 清秀发卡,最近开发中收集的这篇文章主要介绍信息的度量(信息熵),觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

信息熵:一条信息的信息量和其不确定性有着直接的关系,比如我们想弄清楚一个非常不确定的事需要大量的信息,可以认为信息量就是不确定性的多少。

比如错过了世界杯,想要猜32个球队哪只是冠军,可以先问是1-16吗,假如猜对了,可以继续问1-8吗,这样就需要五次就可以知道哪个球队是冠军,所以谁是冠军这个信息就是5.

有些人发现可能不需要五次就能猜出来谁是冠军,因为有些球队夺冠的可能性更大一些,因此猜的时候可以把大概率赢的球队分在一边,这样猜测也许三到四次就可以猜出来。当每支球队夺冠的可能性不等时,谁是冠军的信息量比5少,香农指出,它的准确信息量应该是H=-(p_{1}*logp_{1}+p_{2}*logp_{2}+...+p_{32}*logp_{32}),其中p1,p2...p32是这些球队夺冠的概率,香农把它称为信息熵。

来自《数学之美》

 

最后

以上就是清秀发卡为你收集整理的信息的度量(信息熵)的全部内容,希望文章能够帮你解决信息的度量(信息熵)所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(96)

评论列表共有 0 条评论

立即
投稿
返回
顶部