最大期望算法(Expectation-maximization algorithm,又译期望最大化算法)在统计中被用于寻找,依赖于不可观察的隐性变量的概率模型中,参数的最大似然估计。在统计计算中,最大期望(EM)算法是在概率模型中寻找参数最大似然估计或者最大后验估计的算法,其中概率模型依赖于无法观测的隐性变量。最大期望算法经常用在机器学习和计算机视觉的数据聚类(Data Clustering)领域。为了同时估计参数和隐藏状态,将期望最大化(EM)与扩展卡尔曼滤波和平滑结合在一起,其目的是对未知隐藏状态的不确定估计进行积分,并根据给定的观测数据优化参数的边际似然性。通过使用扩展卡尔曼滤波和平滑算法,可以实现对后验分布更精确的估计。
假设有p x 1维不能直接观察的理想化目标向量序列,表示q x 1维观测序列,为此,我们建立随机回归模型为
参考文献:
[1] Shumway R H , Stoffer D S . An Approach to Time Series Smoothing andForecasting Using the EM Algorithm[J]. Journal of Time Series Analysis, 1982,3(4):253-264.
[2] Dempster A P . Maximum likelihood from incomplete data via the EMalgorithm[J]. Journal of Royal Statistical Society B, 1977, 39.
[3] Yanhui Xi, Peng H, Mo H. Parameter Estimation of RBF-AR Model Based on,the EM-EKF Algorithm[J]. Journal of Automation, 2017(43):1643.