概述
对贝叶斯平滑的理解
假设现在要对每个广告求历史ctr(求贝叶斯平滑后的值)。
贝叶斯平滑就是对广告的CTR进行贝叶斯估计（最小化损失函数在后验分布上的期望）。
-
N个广告，其点击信息和曝光信息分别是 ( C 1 , C 2 , . . . , C i , . . . , C N ) , ( I 1 , I 2 , . . . , I i , . . . , I N ) (C_1, C_2, ..., C_i, ..., C_N), (I_1, I_2, ..., I_i, ..., I_N) (C1,C2,...,Ci,...,CN),(I1,I2,...,Ii,...,IN)。
-
每个广告都有一个隐含的CTR值 ( r 1 , r 2 , . . . , r i , . . . , r N ) (r_1, r_2, ..., r_i, ..., r_N) (r1,r2,...,ri,...,rN)。这些隐含的CTR值服从 B e t a ( α , β ) Beta(alpha, beta) Beta(α,β)【先验】。
-
每个广告的点击信息都是服从二项分布 B i n o m i a l ( I i , r i ) Binomial(I_i, r_i) Binomial(Ii,ri)【似然】。
-
二项分布和Beta分布是共轭的，所以广告CTR的后验分布也是Beta分布，记为 B e t a ( α ′ , β ′ ) Beta(alpha^{'}, beta^{'}) Beta(α′,β′)。
-
当使用平方损失函数 L ( r i ^ , r i ) = ( r i ^ − r i ) 2 L(hat{r_i}, r_i) = (hat{r_i} - r_i)^2 L(ri^,ri)=(ri^−ri)2时，贝叶斯估计值就是后验分布的期望值。所以可以求出第 i i i个广告的ctr的贝叶斯估计值为 r i ^ = C i + α I i + α + β hat{r_i} = frac{C_i + alpha}{I_i + alpha + beta} ri^=Ii+α+βCi+α。这就是贝叶斯平滑后的值。
-
也就是说，将先验分布中的参数 α , β alpha, beta α,β求出来，就得到了贝叶斯平滑中的平滑因子。
-
可以使用矩估计法来求参数 α 、 β alpha、beta α、β，
-
Beta分布的期望： E ( X ) = α α + β E(X)=frac{alpha}{alpha+beta} E(X)=α+βα；用样本均值 X ‾ overline{X} X来代替期望
-
Beta分布的方差： D ( X ) = α β ( α + β ) 2 + ( α + β + 1 ) D(X)=frac{alpha beta}{(alpha+beta)^{2}+(alpha+beta+1)} D(X)=(α+β)2+(α+β+1)αβ；用样本方差 S 2 S^2 S2来近似代替方差
-
可以求得： α = X ‾ ( X ‾ ( 1 − X ‾ ) S 2 − 1 ) alpha=overline{X}left(frac{overline{X}(1-overline{X})}{S^{2}}-1right) α=X(S2X(1−X)−1)
β = ( 1 − X ‾ ) ( X ‾ ( 1 − X ‾ ) S 2 − 1 ) beta=(1-overline{X})left(frac{overline{X}(1-overline{X})}{S^{2}}-1right) β=(1−X)(S2X(1−X)−1)
-
最后
以上就是任性发卡为你收集整理的对贝叶斯平滑的理解的全部内容，希望文章能够帮你解决对贝叶斯平滑的理解所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
发表评论 取消回复