统计学 | 最大似然估计与EM算法（持续更新）参考资料1. 最大似然估计2. EM算法
统计中许多问题的计算最终都归结为一个最优化问题， 典型代表是最大似然估计(MLE)、各种拟似然估计方法、 非线性回归、惩罚函数方法（如svm、lasso）等。最大似然估计经常需要用最优化算法计算， 最大似然估计问题有自身的特点， 可以直接用一般优化方法进行最大似然估计的计算， 但是利用最大似然估计的特点可以得到更有效的算法。设总体 X\boldsymbol{X}X 有概率密度（连续型随机变量）或概率分布（离散型随机变量） p(x∣θ),θp(\boldsymbol{x} \mid \boldsy
