一、信息量信息量来衡量一个事件的不确定性，一个事件发生的概率越大，其携带的信息量就越小。设XXX是一个离散型随机变量，其取值为集合X=x0,x1,…,xnX=x_0,x_1,…,x_nX=x0,x1,…,xn ，则其概率分布函数为p(x)=Pr(X=x),x∈Xp(x)=Pr(X=x),x∈Xp(x)=Pr(X=x),x∈X，则定义事件X=x0X=x_0X=x0 的信息量为：I(x0)=−log(p(x0))I(x_0)=−\text{log}(p(x_0))I(x0)=−log(p(
机器学习
2024-01-25
160 点赞
2 评论
242 浏览
