二、参数估计

1. 点估计与优良性

 

 点估计

  总体 X 的分布函数形式已知,但它的一个或多个参数未知,借助总体的一个样本来估计总体未知参数的值的问题称为点估计。

  点估计问题就是要构建一个适当的统计量 θ-hat(X1、.. 、Xn),用它的观察值 θ-hat (x1、.. 、 xn)来估计未知参数 θ。

  pass

无偏性

  若估计量 θ-hat = θ(X1、.. 、Xn)的数学期望 E(θ-hat)存在,且对任意 θ 有 E(θ-hat) = θ,则称 θ-hat 是 θ 的无偏估计量

  无偏估计量的实际意义:无系统误差。

  若 limE(θ-hat) = θ,则称 θ-hat 是 θ 的渐进无偏估计

  特别地,无论总体 X 服从什么分布,只有它的数学期望存在,样本均值pass总是总体的数学期望 EX 的无偏估计量。

      修正样本方差 pass 是总体方差 σ2 的无偏估计量。

  一般地,一个参数的无偏估计量不唯一。

  问题:对于同一参数的的多个无偏估计量,如何评价它们的优劣?

均方误差准则

 

均方误差

  MSE(θ-hat, θ) = E(θ-hat - θ)2 

  这个还是无法找到最优估计。

有效性

  若 D(θ1-hat) < D(θ2-hat), 则称 θ1-hat 比  θ2-hat 有效。

最小方差无偏估计

  如果存在 θ 的一个无偏估计量θ0-hat,使得对于 θ 的任一方差存在的无偏估计量 θ-hat ,都有 D(θ0-hat) < D(θ-hat),则称 θ0-hat 是 θ 的最小方差无偏估计 MVUE

  最小方差无偏估计是一种最优估计。

  基于充分完备统计量的无偏估计一定是 MVUE。

相合估计(一致估计)

  前面的估计的评价标准主要讨论了估计的期望和方差的特性,这个标准是从估计的极限特性给予说明。

  θn-hat 依概率收敛于 θ ,则称 θn-hat 为 θ 的相合估计量。

  相合估计是对估计量的一个基本要求。

相合估计的判别法则

 

上一篇:php – Laravel查询关系模型:: has(‘relation’)不起作用


下一篇:实用机器学习——第四、五章