随机过程：三种不同的理解方法
随机过程，顾名思义，过程两个字表示这是时间参数 t ∈ T t\in T t∈T的函数，而随机则表示这是事件参数 ω ∈ Ω \omega\in \Omega ω∈Ω的函数,因此可以记作 X ( t , ω ) X(t,\omega) X(t,ω)。
那么具体可以怎么理解随机过程的含义呢，不同的理解是不是可以发展出不同的微积分理论体系，以及随机过程的构造方法呢，以下是随机过程的三种理解方法：
- 随机过程 X = { X t ( ω ) , t ∈ T } X=\left\{X_{t}(\omega), t \in T\right\} X={Xt(ω),t∈T} 是概率空间 ( Ω , F , P ) (\Omega, \mathcal{F}, P) (Ω,F,P) 上的一族随机变量。 T T T是实数轴 R \mathbb{R} R中的子集（一般是正整数集或区间）。每固定 t ∈ T t \in T t∈T，得到一个随机变量 X t ( ⋅ ) X_{t}(\cdot) Xt(⋅)。
- 随机过程 X = { X ( t , ω ) , t ∈ T , ω ∈ Ω } X=\{X(t, \omega), t \in T, \omega \in \Omega\} X={X(t,ω),t∈T,ω∈Ω}可以看作乘积空间 T × Ω T \times \Omega T×Ω上的函数。
- 随机过程 X = { X t ( ω ) , t ∈ T } X=\left\{X_{t}(\omega), t \in T\right\} X={Xt(ω),t∈T}, 每固定 ω ∈ Ω \omega \in \Omega ω∈Ω, 得到一个普通的实函数 X . ( ω ) X .(\omega) X.(ω), 称为样本函数或轨道。
这三种理解方法分别发展出了不同的微积分方法，即均方微积分理论、随机分析理论（Ito分析：随机积分和随机微分）以及随机变分理论（Malliavin分析）。
在给出具体的介绍之前，先简单回顾一下随机过程的构造方法(路径依赖随机微分方程-泛函型伊藤公式)，第一点对应马氏过程相关分布的构造方法，第二点关于马氏过程轨道的构造方法，第三点对应布朗运动的存在性，即布朗运动轨道的概率分布——Wiener测度的构造。
- 宏观特征 (分布性质) ：Feller发展出的马氏过程与算子半群的理论，马尔可夫过程等价于具有相容性的转移概率族。特别的，时齐马尔可夫过程与某一类算子半群——转移半群相对应。
- 微观特征 (轨道性质) ：Ito发展出的随机积分理论，随机微分方程构造出来的解（L 扩散过程）也被证明往往具有强马尔可夫性（随机微分方程-强解&弱解&鞅解）；
- 由扩散过程得到的路径空间的概率分布。将随机微分方程的解看成某种程度上“光滑”的 Wiener 泛函，建立了一套对 Wiener泛函的“相对微分”运算。
1. 第一种理解（均方微积分）
随机过程 X = { X t ( ω ) , t ∈ T } X=\left\{X_{t}(\omega), t \in T\right\} X={Xt(ω),t∈T} 是概率空间 ( Ω , F , P ) (\Omega, \mathcal{F}, P) (Ω,F,P) 上的一族随机变量。 T T T是实数轴 R \mathbb{R} R中的子集（一般是正整数集或区间）。每固定 t ∈ T t \in T t∈T，得到一个随机变量 X t ( ⋅ ) X_{t}(\cdot) Xt(⋅)。
1.1 均方微积分
若以
L
0
(
Ω
)
L^{0}(\Omega)
L0(Ω) 表示由全体随机变量所构成的线性空间，并在其中定义准范数:
∥
ξ
∥
L
0
≡
E
[
∣
ξ
∣
∧
1
]
\|\xi\|_{L^{0}} \equiv \mathbb{E}[|\xi| \wedge 1]
∥ξ∥L0≡E[∣ξ∣∧1]
则
L
0
(
Ω
)
L^{0}(\Omega)
L0(Ω) 为Fréchet空间。
一个随机过程可以看作定义于
T
T
T 上取值于
L
0
(
Ω
)
L^{0}(\Omega)
L0(Ω) 的抽象函数。由于在
L
0
(
Ω
)
L^{0}(\Omega)
L0(Ω) 中对 a.s. 相等的随机变量不加区别, 所以在这种观点下, 若过程
X
=
{
X
t
,
t
∈
T
}
X=\left\{X_{t}, t \in T\right\}
X={Xt,t∈T} 和
Y
=
{
Y
t
,
t
∈
T
}
Y=\left\{Y_{t}, t \in T\right\}
Y={Yt,t∈T} 满足:
P
{
X
t
=
Y
t
}
=
1
,
∀
t
∈
T
P\left\{X_{t}=Y_{t}\right\}=1, \quad \forall t \in T
P{Xt=Yt}=1,∀t∈T
就称
X
X
X与
Y
Y
Y互为修正。
在这种观点下，对随机过程的微积分运算即取值于线性拓扑空间的抽象函数的微积分运算。其中，特别常见的情形是所谓二阶矩过程, 即取值于
L
2
(
Ω
)
L^{2}(\Omega)
L2(Ω) 的抽象函数, 这里
L
2
(
Ω
)
L^{2}(\Omega)
L2(Ω)是二阶矩存在的随机变量 (等价类) 所构成的Hilbert空间, 其中内积由
(
ξ
,
η
)
L
2
≡
E
[
ξ
η
]
(\xi, \eta)_{L^{2}} \equiv \mathbb{E}[\xi \eta]
(ξ,η)L2≡E[ξη]
定义。因此, 二阶矩过程不外是 Hilbert空间
L
2
(
Ω
)
L^{2}(\Omega)
L2(Ω) 中的一条曲线.
按这种观点发展的一套微积分学就是所谓均方微积分。从本质上说来, 它只是泛函分析的一部分, 没有什么“随机风趣"。
1.2 马氏过程与算子半群
根据 Kolmogorov 的相容性定理，任意有限维相容的概率空间 ( E T n , P T n ) (E^{T_n},P^{T_n}) (ETn,PTn) 可以构造一个大的概率空间 ( E T , P T ) (E^T,P^T) (ET,PT)。利用条件概率的马尔可夫性，构造了一族转移概率，那么利用转移概率就可以构造出任意有限维的 ( E T n , P T n ) (E^{T_n},P^{T_n}) (ETn,PTn)，从而得到 ( E T , P T ) (E^T,P^T) (ET,PT)，其上的坐标过程 X 就是具有这个马尔可夫性的马尔可夫过程。构造性理论的核心是：马尔可夫过程等价于具有相容性的转移概率族，时齐马尔可夫过程与某一类算子半群——转移半群相对应。
具有特殊性质的马尔可夫过程，例如强马尔可夫过程（即扩散过程），Borel 右过程，Hunt 过程，Feller 过程，Lévy 过程，再到更具体的（转移概率族给定的）布朗运动，泊松过程等等。上个世纪，有学者利用偏微分方程构造一类 Kolmogorov-Feller 扩散过程，使得马尔可夫过程又与算子半群中的 Hille-Yosida 定理产生了联系。
2. 第二种理解（Ito随机分析）
随机过程 X = { X ( t , ω ) , t ∈ T , ω ∈ Ω } X=\{X(t, \omega), t \in T, \omega \in \Omega\} X={X(t,ω),t∈T,ω∈Ω} 还可以看作乘积空间 T × Ω T \times \Omega T×Ω上的函数。
为什么Ito随机分析需要将随机过程按照上面这样理解呢，因为对于如下的随机微分方程
X
i
(
t
)
=
x
i
+
∫
0
t
b
i
(
X
(
s
)
)
d
s
+
∑
j
=
1
d
∫
0
t
σ
j
i
(
X
(
s
)
)
d
W
j
(
s
)
(
i
=
1
,
2
,
⋯
,
m
)
\begin{gathered} X^{i}(t)=x_{i}+\int_{0}^{t} b^{i}(X(s)) d s+\sum_{j=1}^{d} \int_{0}^{t} \sigma_{j}^{i}(X(s)) d W^{j}(s) \\ (i=1,2, \cdots, m) \end{gathered}
Xi(t)=xi+∫0tbi(X(s))ds+j=1∑d∫0tσji(X(s))dWj(s)(i=1,2,⋯,m)
- 第一个积分的形式是: ∫ 0 t H ( s , ω ) d s \int_{0}^{t} H(s, \omega) d s ∫0tH(s,ω)ds, 其中 H H H 为一过 程. 它是含参数 ω \omega ω 的 Lebesgue 积分, 即按轨道的积分. 这种轨道积 分没有什么新东西, 但为了保证积分后得到一个随机过程, 必须要求 H ( s , ω ) H(s, \omega) H(s,ω) 关于 ( s , ω ) (s, \omega) (s,ω) 二元可测, 即 H H H为一可测过程.
- 第二个积分的形式是: ∫ 0 t H ( s , ω ) d W ( s , ω ) \int_{0}^{t} H(s, \omega) d W(s, \omega) ∫0tH(s,ω)dW(s,ω), 如果按轨道积分来理解, 就会出现不可克服的困难. 因为 Brown 运动的轨道在任一有限区间的变差都是*的, 对固定参数 ω \omega ω, 其 Lebesgue-Stieltjes 积分没有意义。于是, 必须将随机过程看成 T × Ω T \times \Omega T×Ω 上的函数。此外，伊藤清实质上是利用了被积函数的所谓适应性以及 Brown 运动的鞅性来定义这种随机积分的。
2.1 鞅与随机积分
伊藤清实质上是利用了被积函数的所谓适应性以及 Brown 运动的鞅性来定义这种随机积分的。鞅包括 Doob-Meyer 分解，上穿不等式，收敛定理，Doob 停止定理等。同时，鞅的性质对马氏过程的研究也有着很大的作用，比如证明 Feller 过程的强马尔可夫性就需要通过预解算子构造有界鞅再利用其停止定理。
鞅论的发展也催生了随机分析理论的发展，它最初是为了定义轨道随机积分 ∫Xs·dWs（X为某一随机过程，W 表示布朗运动），但由于布朗运动的轨道是几乎处处不可微的，所以需要引入更一般的随机积分的定义 ∫ X s ⋅ d M s \int X_s·dM_s ∫Xs⋅dMs（M 为更一般的局部鞅，即局部化的停止过程 M τ n : = M ( m i n { t , τ n } , ω ) M^{\tau_n}:=M(min\{t,\tau_n\},\omega) Mτn:=M(min{t,τn},ω) 为鞅， { τ n } \{\tau_n\} {τn} 为一列递增趋于无穷的停时），而在这里面，我们又需要对 X 的可测性要求。于是，我们引入对随机过程的可测性条件——可料性、可选性、循序可测性、可测性。这些性质与随机过程轨道的 RCLL 性与连续性也有着密切的关联。
伊藤随机分析给了鞅论的发展以强大的刺激: 1962 年 P.A.Meyer证明了 Doob 提出的上鞅分解定理; 1967 年 Kunita 和 Watanabe利用这一分解定理把随机积分从Brown运动情形推广到了平方可积鞅; 在20世纪70年代, 法国的Strasbourg学派(参看Doléans-Meyer, Meyer, Dellacherie和Jacod又将其推广到最一般的半鞅情形, 证明了截口和投影定理, 创立了“随机过程的一般理论 ", 使随机分析理论提高到了一个全新的水平。
2.2 马氏过程的构造
随着随机分析学的深入发展，通过随机微分方程构造出来的解（L 扩散过程）也被证明往往具有强马尔可夫性，因此，这一发展也极大的丰富了马尔可夫过程的构造理论。
随机微分方程的解与偏微分方程理论有着密切的关系，特别的，二阶线性椭圆方程 Dirichlet 问题与二阶倒向线性抛物方程 Cauchy 问题的唯一性可以利用相关的随机微分方程方法来证明，且如果 PDE 的解 f 存在，则 f 可以表达为对应的 SDE 的解 X 的某种期望的形式，一个非常直观的含义是——这两类 PDE 的解 f(x) 和 f(t,x) 当某些系数为0时可以分别看成：相应的随机过程从 x 出发跑到边界时的边界值期望，以及从 t 时刻的 x 位置出发在 T 时刻停下时边界值的期望。因此，随机过程与现代分析学的关系变得更为紧密。
随机分析使得那些在分析和微分几何中通常只对光滑函数和曲线才有意义的重要运算有可能推广到一些极不光滑(像Brown运动)轨道那样)的函数和曲线上去. 利用这种思想, Eells-Elworthy, Elworthy及Malliavin等发展了随机微分几何学.
3. 第三种理解（随机变分学）
随机过程 X = { X t ( ω ) , t ∈ T } X=\left\{X_{t}(\omega), t \in T\right\} X={Xt(ω),t∈T}, 每固定 ω ∈ Ω \omega \in \Omega ω∈Ω, 得到一个普通的实函数 X . ( ω ) X .(\omega) X.(ω), 称为样本函数或轨道, 若以 R T \mathbb{R}^{T} RT表示定义在 T T T 上的实值函数全体所构成的空间, 即无穷维乘积空间, 以 B T \mathcal{B}^{T} BT表示其乘积 σ − \sigma- σ−代数, 则过程 X : ( Ω , F ) ⟶ ( R T , B T ) X:(\Omega, \mathcal{F}) \longrightarrow\left(\mathbb{R}^{T}, \mathcal{B}^{T}\right) X:(Ω,F)⟶(RT,BT) 可以看作一个取值于可测空间 ( R T , B T ) \left(\mathbb{R}^{T}, B^{T}\right) (RT,BT)的随机变量.
在这种观点下、相应于随机变量的 a.s. 相等和同分布, 随机过程也有两种不同的等价性:
- 若过程
X
X
X 与
Y
Y
Y 几平所有样本函数重合, 即
$
P\left{X_{t}=Y_{t}, \forall t \in T\right}=1
$
则称 X X X 与 Y Y Y 无区别。 - 随机过程
X
X
X既然作为
(
Ω
,
F
,
P
)
(\Omega, \mathcal{F}, P)
(Ω,F,P) 到
(
R
T
,
B
T
)
\left(\mathbb{R}^{T}, \mathcal{B}^{T}\right)
(RT,BT) 的可测映象, 它 就在
(
R
T
,
B
T
)
\left(\mathbb{R}^{T}, \mathcal{B}^{T}\right)
(RT,BT) 上产生一个概率测度$
\widehat{\mu}_{X}(B) \equiv P \circ X^{-1}(B) \equiv P{\omega ; X .(\omega) \in B}, \quad B \in \mathcal{B}^{T} 称 为 称为 称为X$的分布。若过程 X X X 与 Y Y Y 有相同的分布: μ ^ X = μ ^ Y \widehat{\mu}_{X}=\widehat{\mu}_{Y} μ X=μ Y, 则称 X X X与 Y Y Y弱等价。
注释 由Kolmogorov 构造定理可知, 过程的分布由其有限维分布族所唯一确定, 因此, X X X与 Y Y Y弱等价也就是 X X X与 Y Y Y具有相同的有限维分布族. 显然, 若 X X X与 Y Y Y无区别, 必随机等价, 因而弱等价,但反过来一般不成立. 在最弱的等价意义下，随机过程可以看作函数空间上的概率测度.
从有限维空间 R n \mathbb{R}^{n} Rn 推广到无穷维空间 R T \mathbb{R}^{T} RT, 至少出现两点本质的困难:
- 当 T T T为不可列集合时, 许多集合 (例如集合 [ ω ; sip t ∈ T X t ( ω ) ≤ λ ] \left[\omega ; \operatorname{sip}_{t \in T} X_{t}(\omega) \leq \lambda\right] [ω;sipt∈TXt(ω)≤λ] 以及所有连续函数的集合 C ( T ) C(T) C(T) 等) 都末必可测.
克服这种困难的办法, 一般是寻找一个等价的过程, 其分布集中在 R T \mathbb{R}^{T} RT的某个子集上, 使这些感兴趣的集合与子集的交集只依赖于可数坐标, 因而一般为可测集.
例如 Doob的可分修正或连续修正方法, 就是寻找这样的等价过程, 使其所有样本函数为可分或连续. 在Brown运动情况下, 我们得到的分布 μ = μ ^ W \mu=\widehat{\mu}_{W} μ=μ W完全集中在连续函数空间 C ( T ) C(T) C(T) 上, 称为Wiener测度。有时 (例如 Poisson 过 程) 不存在连续修正, 我们就考虑其“右连左极修正”, 即分布完全集中在右连续且存在有限左极限的函数空间 D ( T ) D(T) D(T) 上的等价过程。
- R n \mathbb{R}^{n} Rn 中的分布, 重要的是所谓绝对连续分布, 其分布密度也就是关于Lebesgue测度的Radon-Nikodym导数。而在无穷维空间中没有像 Lebesgue测度那样的参考测度, 因而无法定义其密度。
可以把所感兴趣的随机过程表示成某个基本随机过程轨道的泛函. 例如方程
X
i
(
t
)
=
x
i
+
∫
0
t
b
i
(
X
(
s
)
)
d
s
+
∑
j
=
1
d
∫
0
t
σ
j
i
(
X
(
s
)
)
d
W
j
(
s
)
(
i
=
1
,
2
,
⋯
,
m
)
\begin{gathered} X^{i}(t)=x_{i}+\int_{0}^{t} b^{i}(X(s)) d s+\sum_{j=1}^{d} \int_{0}^{t} \sigma_{j}^{i}(X(s)) d W^{j}(s) \\ (i=1,2, \cdots, m) \end{gathered}
Xi(t)=xi+∫0tbi(X(s))ds+j=1∑d∫0tσji(X(s))dWj(s)(i=1,2,⋯,m)
的唯一解
X
(
t
)
X(t)
X(t)就是Brown运动过程
W
(
t
)
W(t)
W(t)的泛函.
为简单起见考虑一维情形. 令
W
≡
C
0
(
R
+
)
\mathcal{W} \equiv C_{0}\left(\mathbb{R}_{+}\right)
W≡C0(R+)为定义 在
R
+
=
[
0
,
∞
)
R_{+}=[0, \infty)
R+=[0,∞) 上满足
w
(
0
)
=
0
w(0)=0
w(0)=0 的连续函数
w
(
t
)
w(t)
w(t)全体所构成的线性拓扑空间，若在其中定义准范数:
∥
w
∥
=
∑
n
=
1
∞
2
−
n
(
sup
0
≤
t
≤
n
∣
w
(
t
)
∣
∧
1
)
,
w
∈
W
\|w\|=\sum_{n=1}^{\infty} 2^{-n}\left(\sup _{0 \leq t \leq n}|w(t)| \wedge 1\right), \quad w \in \mathcal{W}
∥w∥=n=1∑∞2−n(0≤t≤nsup∣w(t)∣∧1),w∈W
则
W
\mathcal{W}
W构成Fréchet空间 (按此拓扑收敛即在任一有限区间均匀收敛). 以
B
=
B
(
W
)
\mathcal{B}=\mathcal{B}(\mathcal{W})
B=B(W)表示其Borel
σ
\sigma
σ-代数,
μ
=
μ
^
W
\mu=\widehat{\mu}_{W}
μ=μ
W为其上Wiener测度, 则
(
W
,
B
,
μ
)
(\mathcal{W}, \mathcal{B}, \mu)
(W,B,μ)为一概率空间, 我们可以将它代替基本概率空间
(
Ω
,
F
,
P
)
(\Omega, \mathcal{F}, P)
(Ω,F,P), 其上任一可测函数(即随机变量) 都称为Wiener泛函.
由于 W \mathcal{W} W 中有线性拓扑结构, 故可以讨论其泛函的微分运算, Malliavin 正是从这个观点出发创立他的随机变分学的。
应用：Malliavin 随机变分理论解决了很多随机分析理论中解决不了的问题，比如鞅表示定理的具体形式，随机微分方程解的概率分布的绝对连续性等。一些分析学的结论也可以利用这个方法提供另一种证明思路（如Hörmander亚椭圆定理）。
T. Hida 开创了与 Malliavin 随机变分理论相平行的一套白噪声分析理论，不同的是，考虑的是调和分析中的广义函数空间结合 Wiener 测度作为概率空间，其上也有着相应的 Wiener 过程.
- 这一理论与 Malliavin 随机变分理论都可以放在统一的 Gauss 空间中考虑，因此大部分结论都能重合。
- 白噪声分析这套理论的强大之处在于定义了许多量子物理中的形式演算和概念（如定义 Feynman 积分等），使之具有严格的数学表述，而且能给出量子场论的严格数学框架。
参考文献：
- 随机分析学基础, 黄志远
- https://www.zhihu.com/question/26694486