第十一章 平稳过程
11.1 严平稳过程
11.1.1 严平稳过程的定义
对于任意实数 \(\varepsilon\)，如果随机过程 \(\{X(t), t\in T\}\) 的任意 \(n\) 维分布满足：
\[\begin{aligned} & F(x_1, x_2, ..., x_n; t_1, t_2, ..., t_n)\\ = & F(x_1, x_2, ..., x_n; t_1 + \varepsilon, t_2 + \varepsilon, ..., t_n + \varepsilon) \end{aligned} \quad (n = 1, 2, ...) \]（严平稳条件）
则 \(X(t)\) 称为严，强或狭义平稳过程。
若参数 \(t\) 表示“时间”，则严平稳过程的任何有限维概率分布不随时间的平移而变化。
11.1.2 严平稳过程的性质
- 状态离散的随机过程 \(X(t)\) 的严平稳条件
- 状态连续的随机过程 \(X(t)\) 的严平稳条件
- 特殊地，取 \(\varepsilon = -t_1, t_2 - t_1 = \tau\)
- 一维分布函数
- 二维分布函数
-
一维分布函数 \(F(x)\)：不依赖于参数 \(t\)
-
二维分布函数 \(F(x_1, x_2; \tau)\)：仅依赖于参数间距 \(\tau = t_2 - t_1\)，而与 \(t_1, t_2\) 本身无关
11.2.3 严平稳过程的数字特征
\[\begin{aligned} & \mu_X(t) = E[X(t)] = \int_{-\infty}^{+\infty}xf(x)\,dx = \mu_X\\ & \Psi_X^2(t) = E[X^2(t)] = \int_{-\infty}^{+\infty}x^2f(x)\,dx = \Psi^2_X\\ & \sigma^2_X(t) = D[X(t)] = \Psi_X^2 - \mu_X^2 = \sigma_X^2 \end{aligned} \] \[\begin{aligned} R(t, t + \tau) & = E[X(t)X(t+\tau)]\\ & = \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}x_1x_2f(x_1, x_2; \tau)\,dx_1dx_2\\ & = R_X(\tau) \end{aligned} \] \[\begin{aligned} C_X(t, t+\tau) & = R(t, t + \tau) - \mu_X(t)\mu_X(t+\tau)\\ & = R_X(\tau) - \mu^2_X = C_X(\tau) \end{aligned} \]定理
设 \(\{X(t), t\in T\}\) 是严平稳过程，如果过程的二阶矩存在，那么
- \(\mu_X, \sigma_X^2, \Psi_X^2\) 均为常数，与参数 \(t\) 无关；
- \(R_X(\tau), C_X(\tau)\) 仅依赖于 \(\tau\)
注：
这一性质也称为数字特征的平稳性
11.2 宽平稳过程
11.2.1 宽平稳过程的定义
设随机过程 \(X(t)\)，对于任意 \(t\in T\)，满足：
- \(E[X^2(t)]<+\infty\)
- \(E[X(t)] = \mu_X\) 是常数
- \(E[X(t)X(t+\tau)] = R_X(\tau)\) 仅依赖于 \(\tau\)，而与 \(t\) 无关
则称 \(X(t)\) 为宽，弱或广义平稳过程，简称平稳过程。
参数集 \(T\) 为可列集的平稳过程，又称为平稳序列，或称平稳时间序列。
11.2.2 严平稳过程与宽平稳过程的关系
- 宽平稳过程不一定是严平稳过程
- 严平稳过程不一定是宽平稳过程
- 存在二阶矩的严平稳过程必定是宽平稳过程
二阶矩 \(E[X^2(t)]<+\infty\) 存在的随机过程称为二阶矩过程。
两个平稳过程的关系：平稳相关
设 \(\{X(t), t \in T_1\}\) 和 \(\{Y(t), t \in T_2\}\) 是两个平稳过程，如果互相关函数 \(E[X(t)Y(t+\tau)]=R_{XY}(\tau)\) 仅是参数间距 \(\tau\) 的函数，则称 \(\{X(t), t \in T_1\}\) 和 \(\{Y(t), t \in T_2\}\) 平稳相关，或称它们是联合平稳的。此时：
\[\begin{aligned} C_{XY}(\tau) & = \mathrm{cov}(X(t), Y(t+\tau))\\ & = E[X(t)Y(t+\tau)]-E[X(t)]E[Y(t+\tau)]\\ & = R_{XY}(\tau) - \mu_X\mu_Y \end{aligned} \]定义：
\[\rho_{XY}(\tau) = \dfrac{C_{XY}(\tau)}{\sqrt{C_X(0)\cdot C_Y(0)}} \]称为标准互协方差函数。
11.3 正态平稳过程
11.3.1 正态过程的概念
1. 正态随机变量的有关知识
一维正态随机变量 \(X\sim N(\mu, \sigma^2)\)，概率密度
\[f(x)=\dfrac{1}{\sigma\sqrt{2\pi}} \exp\{-\dfrac{(x-\mu)^2}{2\sigma^2}\} \]二维正态随机变量 \((X,Y)\sim N(\mu_1,\sigma_1^2; \mu^2, \sigma_2^2; \rho)\)
\[f(x, y) =\ \dfrac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \exp\{-\dfrac{1}{2(1-\rho^2)} [\dfrac{(x-\mu_1)^2}{\sigma^2_1} -\dfrac{2\rho(x-\mu_1)(y-\mu_2)}{\sigma_1\sigma_2} +\dfrac{(y-\mu_2)^2}{\sigma_2^2}]\} \]\(n\) 维正态分布 \((X_1, X_2, ..., X_n)\) 的概率密度
\[f(x_1, x_2, ..., x_n) = \dfrac{1}{(2\pi)^{\frac{n}{2}}(\det C)^{\frac{1}{2}}} \exp\{-\dfrac{1}{2}(x-\mu)^T C^{-1} (x-\mu) \} \]其中：
\[x = \left( \begin{array} &x_1\\x_2\\\vdots\\x_n \end{array} \right) \quad \mu = \left( \begin{array} $\mu_1\\\mu_2\\\vdots\\\mu_n \end{array} \right) \]协方差矩阵 \(C=(C_{ij})_{n\times n}\quad C_{ij} = Cov(X_i, X_j)\)
2. 正态过程的定义
如果随机过程 \(\{X(t), t\in T\}\)，对任意正整数 \(n\)，\(\forall t_1, t_2, ..., t_n \in T\)，\((X(t_1), X(t_2), ..., X(t_n))\) 服从正态分布，则称 \(X(t)\) 为 正态过程，又称高斯(Gauss)过程。
3.
设 \(\{X(t), t \in T\}\) 为正态过程，则：
\[\begin{aligned} & \forall t_1 \in T, X(t_1) \sim N(\mu_X (t_1), \sigma^2_X(t_1))\\ & \forall t_1, t_2 \in T, (X(t_1),X(t_2)) \sim N (\mu_X(t_1), \sigma^2_X(t_1); \mu_X(t_2), \sigma^2_X(t_2); \rho) \end{aligned} \] \[\rho = \dfrac{C_X(t_1, t_2)} {\sqrt{\sigma^2_X(t_1)} \cdot\sqrt{\sigma^2_X(t_2)}} \]4. 独立正态过程：
如果 \(\{X(t), t \in T\}\) 是正态过程，同时又是独立过程，则称 \(X(t)\) 为独立正态过程。
5.
正态过程 \(\{X(t), t \in T\}\)，如果 \(T\) 是可列集，\(T=\{t_1, t_2, ..., t_n, ...\}\)，记 \(X(t)=X_t\)，那么 \(\{X_t, t = t_1, t_2, ..., t_n, ...\}\) 是正态序列。
6. 正态过程是二阶矩过程
设 \(\{X(t), t \in T\}\) 是正态过程，\(X(t)\) 服从正态分布，则：
\[\Psi^2_X(t) = E[X^2(t)] \]必存在，即二阶矩存在。
11.3.2 正态平稳过程
1. 定义
如果正态过程 \(X(t)\) 又是（广义）平稳过程，则称 \(X(t)\) 为正态平稳过程。
2. 定理
设 \(X(t)\) 是正态过程，则 \(X(t)\) 为严平稳过程 \(\Leftrightarrow\) 宽平稳过程。
11.4 遍历过程（经历过程）
11.4.1 时间均值和时间相关函数
设随机过程 \(\{X(t), t\in T = (-\infty, +\infty)\}\)
固定 \(e\in S\)，样本函数 \(X(e,t)=x(t)\)，\(x(t)\) 在区间 \([-l,l]\;(l>0)\) 上的函数平均值定义为：
\[\overline{x(t)} = \dfrac{1}{2l}\int^l_{-l}x(t)\,dt \]\(x(t)\) 在 \((-\infty, +\infty)\) 上的函数平均值定义为：
\[\overline{x(t)} = \lim\limits_{l \to +\infty} \dfrac{1}{2l}\int^l_{-l}x(t)\,dt \]当 \(e\) 变化时，
\[\overline{x(t)} = \overline{X(e,t)} = \lim\limits_{l \to +\infty} \dfrac{1}{2l}\int^l_{-l}X(e, t)\,dt \]是随机过程 \(X(t)\) 对于参数 \(t\) 的平均值，称为随机过程 \(X(t)\)的时间均值。
\(\forall t, \tau \in (-\infty, +\infty)\)，有：
\[\begin{aligned} \overline{X(t)X(t + \tau)} = & \overline{X(e, t)X(e, t + \tau)}\\ = & \lim\limits_{l \to +\infty} \dfrac{1}{2l} \int^l_{-l} X(e, t)X(e, t + \tau)\,dt \end{aligned} \]称为随机过程 \(X(t)\) 的时间相关函数。
随机过程 \(\{X(t), t \in T = [0, +\infty)\}\)
\[\begin{aligned} &\overline{X(t)} = \lim\limits_{l \to +\infty} \dfrac{1}{l} \int_0^l X(e, t)\, dt\\ &\overline{X(t)X(t + \tau)} = \lim\limits_{l \to +\infty} \dfrac{1}{l} \int_0^l X(e, t)X(e, t + \tau)\, dt \end{aligned} \]11.4.2 各态遍历性
1. 定义
设 \(X(t)\) 是一个平稳过程，\(T=(-\infty, +\infty)\) 或 \(T=[0, +\infty)\)
- 如果 \(P\{\overline{X(t)} = E[X(t)] = \mu_X\} = 1\)
则称过程 \(X(t)\) 的均值具有各态遍历性； - 如果 \(P\{\overline{X(t)X(t + \tau)} = E[X(t)X(t + \tau)] = R_X(\tau)\} = 1\)
则称过程 \(X(t)\) 的自相关函数具有各态遍历性
均值和自相关函数都具有各态遍历性的平稳过程称为遍历过程，或者说，该过程具有遍历性。
2. 平稳过程均值各态遍历性的判别定理
引理：
设 \(\{X(t),-\infty<t<+\infty\}\) 是一个平稳过程，则它的时间均值的数学期望和方差分别为：
\[E[\overline{X(t)}] = \mu_X = E[X(t)]\\ D[\overline{X(t)}] = \lim\limits_{l \to +\infty} \dfrac{1}{l}\int_0^{2l}(2 - \dfrac{\tau}{2l}) [R_X(\tau) - \mu^2_X]\,d\tau \]均值各态遍历性判别定理：
平稳过程 \(\{X(t), -\infty<t<+\infty\}\) 的均值具有各态遍历性的充要条件是：
\[D[\overline{X(t)}] = \lim\limits_{l \to +\infty} \int_0^{2l} (1 - \dfrac{\tau}{2l})[R_X(\tau) - \mu^2_X]\,d\tau = 0 \]