估计量：函数

估计值：函数的值

估计量的标准：无偏性 有效性 一致性

矩法

极大似然估计

独立出现的概率相乘 使连乘积最大

牛顿-拉夫逊算法：score function收敛即可

期望最大化算法：两次期望最大化的差值收敛即可

存在的问题：local最大化（而非global最大化）

贝叶斯估计

边际概率 P(A) 联合概率 P(A∩B) 条件概率 P(B|A)

P(B|A)=P(A∩B)/P(A)

马尔科夫链蒙特卡洛算法：2条马尔科夫链

认为θ是一个分布

根据关于θ的先验信息校正先验分布

先验信息可以补充样本量小的问题

重抽样方法

独立同分布

总体无限大 个体被抽到的概率相同（有放回）