香农公式

个人理解

基本

信息就是消息，只要表达了某种状态，都可以称作是信息。

生活中一直有无数消息在传播，但是重要性不一致，大多的消息甚至谈不上信息，因此经常被忽略。

消息作为信息被进行衡量的标准，依赖于两个方面:

   1. 影响

       如果和自身不相关，甚至从来不想去探究。对某则消息完全不想关心，这东西就对你可有可无，可能根本不想有，因为有了也不理会，只是徒增烦恼。至于它会有什么样的作用，影响....一切都与你无关。可能会对你的生活有所影响，只是你不知道，不过这个也是一样的结果，前提就是你对他毫不关心。这里所假设的，就是大家都对自身情况有所了解，并且有所关注。这就是信息的前提。如果你对价值不感兴趣，你就不会关心钱和金子，更不会自已他们价值的差别。

   2. 程度 

        如果关心价值，所有可能携带有价值的一切相关事务，你将都会感兴趣。最重要的一点，就是比起铜板，你更想要金子。这就是目的，甚至我更想要石头----只要他它的价值更高。所以，信息的价值只和对最终目的的影响程度有关，不和形式有所关联。

所以要有目的，然后要有关联程度判断的依据。

目的纷杂，永远不会统一，不过度量的标准却可以共用。

因此，信息度量的理论，还是那么的无用----它不能帮你改变任何事情，它只能帮你衡量一件事情----始终是自己做决定。

一  信息数量

    讨论信息之前，还是要明确一点----事物之间都是有关联的。

    有无相生，前后相随。和扔骰子一样，我们关心的只是结果，但是骰子不只是一面，这是主要的信息。然后灌铅了没有，材质如何，这又是影响的因素。温度湿度，鸡毛蒜皮。事前烧香没有，也不得而知。

    不过，始终记得----我们关心的结果，始终是受到制约的。而对最终的结果造成影响最大的，或者说能够更全面的描绘最终结果的，那必然是大信息量的。

    所以，信息数量大，也会增大信息量。骰子如果六面都是一点，那么你押注一点获胜的概率就大大提高，甚至不败。

    大家都说一个人是坏蛋，那么他是坏蛋的可能就很大；全部的人都这样说，他就只能是坏蛋无疑了。

    但是，不同的骰子，面数不一样；不同的人群，人数也不一样。单纯的数量反应不了全部的情况。最后，也是最好的办法，用比例来决定。全部都是一点，结果必定是一点，一点的比例就是100%。如果一半说的好人，一半说的坏蛋，那比例就是五五开50%。

    问题来了，最后的情况就分作了两个部分：

    1. 结果候选名单

    2. 候选中标可能

    最后就是这样了，我们关心结果，最后只能知道结果的可能，然后知道结果发生的概率。

    支持的人越多，中标的可能就越大，因为概率大。

    用概率来替换数量，就不会受到样本的限制。

    这就是香浓公式中概率的意思了。

二  信息质量

    知道了对结果造成影响的不只是一种，但是影响程度能有多大呢？

    通过让更多的面刻上一点，能够提高翻到一点的几率，这是从数量上进行的调整。

    但是老手一般都是灌铅的。数量一致，没办法修正的时候，关键的就看铅了。把铅全部甩到六点的一面，结果是一的可能性就会大大提高。结果候选名单的确没变，不过为一的概率的确是加大了。为什么？

    都是侄儿辈，我更喜欢带小侄女。说着一视同仁，不过终归是带侄女的次数多一点。原因就在于那点私心。衡量单位都是米，同样的步子，腿长的一定走的远。这就是公平和公正的问题了。同样的朝九晚五，工资差异还是会有的。所以，由于本质的差异，对结果影响的程度是不一样的。

    概率可以提高发生的可能，但这个是在公平的的角度上，大家的影响程度一致，然后其利断金。不过拔河时候人多也不一定赢，几个胖子或者大力士也可以扭转战局，少几个人也无所谓。数量强调公平却不公正，完全不能全面的衡量胜负。胜负依靠的是力，但是个体的贡献完全不等价。

    这就是质。是个体贡献的衡量。质好，一个顶俩，以一敌百。

    不过这两者都是片面的描述，各有各的道理，结合起来才能够准确的预料胜负。一百零一量打一个质，还是会赢的。

    这就是公式中对数部分的含义，把质换算出来。

三  信息度量

    开始拔河了，怎么才算公正。

    抛开表面的数量，算上隐含的质，用准确的力来进行衡量。力的总和就是F = f * m。

    竞走开始，距离 S = s * m。

    这里强调的，就是看清本质。

    要注意数量，同时也要注意质量。一颗原子弹胜过了千军万马。

四  整体信息

    这样就差不多能对比出信息量的大小了。不过现实情况不会这么绝对的，让一群弱小对付一个强敌，那是富人们的消遣。

    拔河情况简直鱼龙混杂，两边都不止是一个人。所以全部的单个的力要进行加和。

    接力赛也是，每个人都是整体的部分，全部加和才是最终结果。

    计算资产的时候，除了黄金，铜钱的价值你也不会放过吧，虽然价值低，万一数量是黄金的成千上万倍，你可亏了不少。

    所以，我们关注的信息量共有三部分

    1. 几个方面

    2. 数量多少

    3. 质量几何

    通过类型，数量，质量，才能够全面的衡量一条信息的信息量大小，香浓公式就是这个含义。

    1. 累加 == 类型

    2. 概率 == 数量

    3. 对数 == 权重

疑问

负号

    为什么要用负号，因为概率。概率是小于一的，对数后必定是负数，要矫"正"过来。

概率

    为什么要用概率呢？两个原因

    1. 归一

    对于数量问题，永远不可能存在永远相等的情况。为了更好的描述这类问题，引入了概率。对于未知的问题我们叫做概率，但是已知的东西，这个就是比例而已。用概率理解比较麻烦，可以用比例来进行理解，然后过度到概率，其实本质上都是一个意思。统计和概率都是同一个东西的不同面而已。

    2. 普适

    经常通过数量统计才能算出比例，感觉概率多此一举。但是，骰子有什么办法呢，长得丑也不是它的错。它的数量在哪里呢。六个面是么，我就算你狠，但是遇见更"丑"的呢?

    算比例的确是麻烦操作，不过有些东西的确是从半截插入的，不可能计算数量，却能够一眼看出概率。正如统计是对历史的刻画，统计则是对未来的描述。如果处在当下，你到达未来没必要追溯历史，更别说黑市户口。

    抛硬币的信息量，没必要先抛几次统计一下，而且，统计多少次才算好呢。万一风大，万一有磁性？

    概率这样就刚好，有历史的，可追溯；刚出生的，这就是开始。

    而且，这提供了一个交流的平台，对于不同类型的信息，概率才是唯一的语言。抛开类型，抛开数量。

    普通人也有尊严，这不该受到金钱或者地位的影响，我们关心的是价值，即使落进了茅坑，价值还是在的。

    如果还要考量其他，那也是公式中的一个累加项。

    如果要排除这个毫不关心，移除就是。终究，还是相同的做法。

最后

以上就是动听板凳为你收集整理的信息的度量香农公式个人理解疑问的全部内容，希望文章能够帮你解决信息的度量香农公式个人理解疑问所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。