概述
最大似然估计
根据抽样分布确定整体分布，已经知道了结果，然后寻求使该结果出现的可能性最大的条件，以此作为估计值。
抽到100个男生：我们就只需要找到一个参数 θ，其对应的似然函数L(θ) 最大，也就是说抽到这 100 个男生（的身高）概率最大。这个叫做 θ 的最大似然估计量
每个样本抽到的概率p（x|0）,抽到n个
最大似然估计量：
求最大似然函数估计值的一般步骤：
（1）写出似然函数；
（2）对似然函数取对数，并整理；
（3）求导数，令导数为0，得到似然方程；
（4）解似然方程，得到的参数即为所求
二、EM算法
EM算法就是这样，假设我们想估计知道 A 和 B 两个参数，在开始状态下二者都是未知的，但如果知道了 A 的信息就可以得到 B 的信息，反过来知道了 B 也就得到了 A。可以考虑首先赋予 A 某种初值，以此得到 B 的估计值，然后从 B 的当前值出发，重新估计 A 的取值，这个过程一直持续到收敛为止。
先随机选择标准分配-计算概率-不合适调整标准
似然函数多了一个未知标准z
Jensen不等式
如果f是凸函数，X是随机变量，那么：E[f(X)]>=f(E[X])
应用于凹函数时，不等号方向反向
EM的算法流程：
初始化分布参数θ；
重复以下步骤直到收敛：
迭代算法实际上是EM算法：最大期望算法
根据参数初始值或上一次迭代的模型参数来计算出隐性变量的后验概率，其实就是隐性变量的期望。
最后
以上就是想人陪黄豆为你收集整理的EM算法和最大似然估计的全部内容，希望文章能够帮你解决EM算法和最大似然估计所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复