数学期望
-
离散型随机变量的数学期望
\(P(X=x_k)=p_k\)
若\(\sum_{k=1}^\infin x_kp_k\)绝对收敛,那么期望 \(E(X) = \sum_{k=1}^\infin x_kp_k\)
-
连续型随机变量的数学期望
设连续型随机变量\(X\)的概率密度函数为\(f(x)\),若积分\(\int_{-\infin}^{+\infin}xf(x)dx\)绝对收敛,则称该积分值为\(X\)的数学期望,或均值,并记为
\(E(X) = \int_{-\infin}^{+\infin}xf(x)dx\)
并非任何随机变量都存在数学期望; 对于离散型随机变量,必须级数收敛; 对于连续型随机变量,必须积分收敛
-
随机变量函数的数学期望
设\(X\)是一维随机变量,讨论\(X\)的函数\(Y=g(X)\)的数学期望
设\(y=g(x)\)是连续函数,\(Y\)是随机变量\(X\)的函数,\(Y=g(X)\)
-
若\(X\)是离散型随机变量,其概率分布为\(P(X=x_k)=p_k,k=1,2,...\),且级数\(\sum_k^{\infin}g(x_k)p_k\)绝对收敛,则有
\(E(Y)=E(g(X)) = \sum_k^{\infin}g(x_k)p_k\)
-
若\(X\)是连续型随机变量,其概率密度函数为\(f(x)\),且积分\(\int_{-\infin}^{+\infin}g(x)f(x)dx\)绝对收敛,则有
\(E(Y)=E(g(X)) = \int_{-\infin}^{+\infin}g(x)f(x)dx\)
-
-
数学期望的性质
-
常量C的数学期望为常量C , 即 \(E(C)=C\)
-
若C为常量,X是任一随机变量,则 \(E(CX)=CE(X)\)
-
设X,Y是任意两个随机变量,则\(E(X+Y)=E(X)+E(Y)\)
可以推广到有限个情形
-
若随机变量X与Y相互独立,则有\(E(XY)=E(X)E(Y)\)
可以推广到有限个情形(验证任意两个相互独立)
-
设X,Y为两个随机变量,若\(E(X^2),E(Y^2)\)存在,则\([E(XY)^2] \leq E(X^2)E(Y^2)\) 称为柯西不等式
-
方差
- 方差的概念
数学期望体现了随机变量取值的平均水平,它是随机变量的重要数字特征,但仅知道均值是不够的,还需要知道随机变量取值的波动程度,即随机变量所取的值与它的数学期望的偏离程度
**定义: **设\(X\)为随机变量,如果\(E[X-E(X)]^2\)存在,则称之为\(X\)的方差,记为\(D(X),\)即\(D(X) = E[X-E(X)]^2 = E(X^2)-E(X)^2\).
方差等于平方的期望-期望的平方
\(\sqrt{DX}\)称作标准差
对于离散型随机变量,若\(P(X=x_k)=p_k\),则
\[D(X)= \sum_k^{\infin}[x_k-E(X)]^2p_k \]对于连续型随机变量,若\(X\)的密度函数为\(f(x)\),则
\[D(X) = \int_{-\infin}^{+\infin}[X-E(X)]^2f(x)dx \]求方差: 看作求随机变量函数\(g(x)=[x-E(x)]^2\)的期望
-
方差的性质
-
常量的方差等于0
-
设C为常量,则\(D(CX)=C^2D(X)\)
-
设\(X,Y\)是相互独立的随机变量,则\(D(X\pm Y)=D(X) + D(Y)\)
若\(X,Y\)不相互独立,则\(D(X\pm Y) = D(X) + D(Y) \pm 2 Cov(X,Y)\)
-
-
常用分布的期望方差表
二维随机变量函数的期望
设\(X,Y\)为随机变量,\(g(X,Y)\)为\(X,Y\)的函数
-
若\(X,Y\)为离散型随机变量,其联合分布为\(p_{ij} = P(X=x_i,Y=y_i)\)
若级数\(\sum_i\sum_jg(x_i,y_j)p_{ij}\)绝对收敛,则定义\(E[g(X,Y)]=\sum_i\sum_jg(x_i,y_j)p_{ij}\)
-
若\(X,Y\)为连续型随机变量,其概率密度为\(f(x,y),\)若积分\(\int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}g(x,y)f(x,y)dxdy\)绝对收敛,则定义
\(E[g(X,Y)]= \int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}g(x,y)f(x,y)dxdy\)
协方差与相关系数
-
协方差与相关系数的概念
协方差和相关系数是用来描述X和Y之间相互关系的数字特征
**定义: **
设二维随机变量\((X,Y)\),若\(E\{[X-E(X)][Y-E(Y)]\}\)存在,则称它为随机变量\(X\)与\(Y\)的协方差,记作\(Cov(X,Y)\)或\(\sigma_{XY}\),即
\[Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\} \]即协方差满足为随机变量X减去X的期望,乘以随机变量Y减去Y的期望,所形成的二维随机变量函数的期望
又若 \(D(X)\neq 0,D(Y)\neq 0\),则称
\[\rho_{XY} = \frac{Cov(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}} \]为随机变量\(X\)与\(Y\)的相关系数
如果记\(\sigma_X = \sqrt{D(X)},\sigma_Y=\sqrt{D(Y)}\),则相关系数可以写成\(\rho_{XY}=\frac{\sigma_{XY}}{\sigma_X\sigma_Y}\)
当(X,Y)分别是离散型和连续型随机变量时,协方差的计算公式分别为
\(Cov(X,Y)=\sum_i\sum_j[x_i-E(X)][y_i-E(Y)]p_{ij}\)
\(Cov(X,Y) = \int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}[x-E(X)][y_E(Y)f(x,y)]dxdy\)
计算协方差时,还常用公式\(Cov(X,Y)=E(XY)-E(X)E(Y)\)
公式推导
\[\begin{align} Cov(X,Y) = & E(X-EX)(Y-EY) \\ = & E(XY-XEY-EXY-EXEY)\\ = & E(XY) - EXEY - EYEX - EXEY\\ = & E(XY) - EXEY \end{align} \]我们回顾之前一维随机变量方差的概念\(D(X) = E(X^2)-(EX)^2\)
发现,实际上\(D(X) = Cov(X,X)\)
-
协方差及相关系数的性质
-
对称性
\(Cov(X,Y) = Cov(Y,X), \rho_{XY} = \rho_{YX}\)
\(Cov(X,X)=DX,\rho(X,X)=1\)
-
线性性
\(Cov(X,c)=0,Cov(aX+b,Y)=aCov(X,Y)\)
\(Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)\)
这两条组合可以扩展到有限个
-
相关系数有界性
\(\rho_{XY} \leq 1\)
-
线性关系下的相关系数
如果\(Y=aX+b,\)则若\(a>0\),\(\rho_{XY}=1;\)若\(a<0,\rho_{XY}=-1\)
-
-
其他性质
- 如果X与Y独立,则X,Y不相关; 反之不然
- 如果(X,Y)服从二维正态分布,则有 \(X,Y\)独立\(\iff\)X,Y不相关
- 如果\(X,Y\)相关,则\(X,Y\)不独立
如果问独立性,要落脚到\(F(X,Y)=F(X)*F(Y)\)或\(f(X,Y)=f(X)*f(Y)\)或\(P_{ij}=P_{i*}P_{*j}\)上
如果问相关性,要落脚到\(\rho_{XY}\)上