1 极大似然估计

    假设有如图1的X所示的抽取的n个学生某门课程的成绩，又知学生的成绩符合高斯分布f(x|μ,σ²)，求学生的成绩最符合哪种高斯分布，即μ和σ²最优值是什么？

图1 学生成绩的分布

    欲求在抽样X时，最优的μ和σ²参数估计，虽然模型的原型已知，但不同的参数对应着不同的学生成绩分布，其中一种最简单有效的参数估计方法就是估计的参数在目前抽样的数据上表现最好，即使得f(X|μ,σ²)的联合概率最大，这就是极大似然估计，常用L(μ,σ²|X)表示，满足公式（1）所示的关系。在实际计算中，对数函数是一个严格递增的函数，对似然函数取代数后，计算要简单很多，而且直接的似然函数计算中涉及大量浮点概率的乘法，容易导致计算机浮点计算精不够而出现机器0值，从而常用公式（2）的l(μ,σ²|X)来求极大似然估计，更普遍的如公式(3)所示。     余下的问题，就是求l(μ,σ²|X)的极大值的过程，即参数的一阶偏导为0的极值点，在此不详述了，可参看下图。

     非常庆幸，对于正态分布来说，μ和σ²都能解析地直接求解，从而得到学生成绩满足何种正态分布。但实际情况是，许多应用模型中求解μ和σ²都十分困难。

2 隐含状态的极大似然估计

    如第1节中所述，学生的单科成绩满足高斯分布f(x|μ,σ²)，假设抽取的X是学生的语文和数学成绩，显然这样的成绩应该符合分布g(x|λ₁,λ₂,μ₁,μ₂,σ₁²,σ₂²)，如公式(3)所示，两个混合的高斯分布，λ₁,λ₂分别表示f(x|μ₁,σ₁²)和f(x|μ₂,σ₂²)的在模型中的比率。

    对于公式(5)所示的极大似然估计求解中，偏导的方程组，由于和的对数的存在，方程组的求解已经是神鬼难助了。

    如果知道X_m={x₁,x₂,…,x_m}属于语文成绩，X_else={x_1+m,x_2+m,…,x_n}属于数学成绩，g(x|θ)将变得极其简单，完全可以由第1节方法求解；如果知道μ₁,μ₂,σ₁²,σ₂²，求X_m和X_else也很容易——鸡蛋困境？

    接下来详述的EM(Expectation Maximization, EM)算法解决的就是这个鸡蛋困境，不管是先有鸡还是先有蛋，最终命运都会被享用。

3 EM算法

    在此先将问题抽象，已知模型为p(x|θ)，X=(x₁,x₂,…,x_n)，求θ。引入隐含变量Z=(z₁,z₂,…,z_n)，使得模型满足公式(6)或公式(7)的关系。由第1节的极大似然估计有，l(θ)满足公式(8)。

    和很多求极值的算法一样(NN的BP算法)，EM算法也是通过迭代计算l(θ) 的极值的。假设第n轮迭代计算出的

θ为θ_n，在新的迭代中，最简单的想法就是新的θ要优于θ_n即可，有l(θ)-l(θ_n)如下所示。如公式(9)描述，计算的的难度主要在于log函数中的求和，为解决这个问题和找到l(θ)-l(θ_n)的下界值，引入Jensen不等式。

函数的凹凸性与Jensen不等式：    

    如果f(x)为凸函数，f(x)满足公式(10)的关系，具体证明不述，紧述的函数图就明了地描绘了这种关系。更一般地说，f(x)满足公式(11)中的关系，证明可由公式(10)导出，称为Jensen不等式。

       至于什么是凸函数，f(x)的二阶偏导恒大于(或等于)0，如果x为高维向量，hessian矩阵必须(半)正定，凹函数属性相对。

     而f(x)=log(x), f^’’=-1/x²<0 就为一个典型的凹函数，满足关系(11)。

    公式(9)中的l(θ)-l(θ_n)满足如下关系： 

    进而有：

  图2 l(θ)和φ(θ_n,θ)关系图

     可见l(θ)的下界为φ(θ_n,θ)，φ(θ_n,θ)值越大， l(θ)的下界也将越大(其中的θ_n为已知变量)，具体l(θ)和φ(θ_n,θ)的关系可从图2可看出：φ(θ_n,θ)增长的方向也是l(θ)增长的方向，也就是任意增长φ(θ_n,θ)值的θ，都将使l(θ)下界增大，从而迭代使l(θ)逼近理想值。当然，在此最好的φ(θ_n,θ)值的θ便是，max(φ(θ_n,θ))处的θ，计算如下：

        这样，迭代求θ的方法就显而易见了：

随机初始化θ₀。

1、求条件期望F(θ,θ_n)，如上公共所示；

2、求F(θ,θ_n)的极值处θ_n+1。

3、反复迭代1，2计算，直到θ_n收敛，即|θ_n+1-θ_n|<α(收敛条件)。

     这样，EM算法就完全解决了鸡和蛋的问题了，至于初始化条件可以是鸡(θ₀)，也可以是蛋(z₀)。

     PS：EM算法的敛散性，由计算中的下界迭代，可很清晰的看到，EM算法收敛，但可能收敛于局部最优解，证明不述。  

     精髓：再回过头来看EM算法，可见EM算法只是在辅助求极大似然参数估计，因对数参数和的存在，使偏导计算难解，EM则利用Jensen不等式，找到似然函数的下界，且使对数参数和变成了最喜见的对数参数积。

4 缺失数据问题

    可以说EM算法天生就是用来解决缺失数据的问题的，将第3节的隐变量z看成是数据中缺失的数据即可。

    在完全数据X(无缺失数据)下，知模型为f(x|θ)，求数据满足何种模型？这可以由第1节的极大似然估计求解；如果采样数据存在部分未知Z，预测这些含未知的数据的数据符何什么模型？这就可借用第3节的EM算法了，先随机假设θ₀，迭代求解，最后求知f(x|θ)，当然也就可出了z。

5 GMM

    很多常见的模型，其解的过程都属于EM算法，最简单的Kmeans，稍复杂的有混合高斯模型(GMM)，PLSA，HMM的学习问题……在此主要讲述GMM，其它模型将在其它篇章介绍。

    如第2节所述，GMM模型为第2节案例的扩展，由K个高斯分布模型构成：

1、隐变量：    2、E步有隐变量期望：

3、M步求参数估计：

具体计算请参看李航的《统计学习方法》。

PS：Kmeans为只考虑正球体时的GMM情况。

 

参考资料：

1、Sean Borman. The Expectation Maximization Algorithm;

2、李航. 统计学习方法;

3、虞台文. EM Algorithm.

对于同仁们的布道授业，一并感谢。

----