机敏问答[概率][2] #20210619
本专栏主要作个人复习自测，有相关知识预备的同学也可作复习用。不保证无相应基础的人士能看明白。
万一考试考到了，或者对你的学习有较大帮助，一键三连不过分吧（斜眼笑）
母函数
- X X X取非负整数，下同。可以把母函数表示成用（）为系数的（）级数，说明收敛半径。用定义求出 G ( p ) , P ( λ ) G(p),P(\lambda) G(p),P(λ)的母函数，验证母函数在 s = 1 s=1 s=1处总是取（）。
- 把母函数表示成期望的形式。为什么说母函数是分布的特征？
- 一致收敛时求导和（）交换顺序，由此可以用（）处的0至（）阶导计算非负整数随机变量的3阶矩。
- 绝对收敛的幂级数可以做（）法，所以独立随机变量和的母函数等于（），所以 B ( n , p ) B(n,p) B(n,p)的母函数为（）。
- 回忆 W W W个独立随机变量的和（ W W W是与他们都独立的随机变量）的期望用（）公式计算。所以母函数是复合。简述复合泊松分布。
- （均假设独立） W W W以 p p p概率取 X X X，其余取 Y Y Y，试用 X , Y , ξ ( ξ ∼ B ( 1 , p ) ) X,Y,\xi(\xi\sim B(1,p)) X,Y,ξ(ξ∼B(1,p))表示 W W W，并写出 g W ( s ) g_W(s) gW(s)的表达式。刚刚的表达式有两项，如果两项系数和小于1那表示什么实际意义？
答案
- P ( X = k ) , k ≥ 0 P(X=k),k\ge0 P(X=k),k≥0，幂，收敛半径至少为1，且端点处收敛。 p s / ( 1 − q s ) ps/(1-qs) ps/(1−qs)， e λ ( s − 1 ) e^{\lambda(s-1)} eλ(s−1)，1
- g ( s ) = E s X g(s)=Es^X g(s)=EsX，分布相同则母函数相同。
- 积分（期望），1，3
- 乘，母函数的乘积， ( q + p s ) n (q+ps)^n (q+ps)n
- 重期望。 W W W是泊松随机变量，这时假设内层母函数是 g ( s ) g(s) g(s)，总体母函数就是 E ( g ( s ) W ) E(g(s)^W) E(g(s)W)（回忆3.）即 e λ ( g ( s ) − 1 ) e^{\lambda(g(s)-1)} eλ(g(s)−1)
- W = X 1 { ξ = 1 } + Y 1 { ξ = 0 } , g W ( s ) = p g X + ( 1 − p ) g Y W=X1_{\{\xi=1\}}+Y1_{\{\xi=0\}},g_W(s)=pg_X+(1-p)g_Y W=X1{ξ=1}+Y1{ξ=0},gW(s)=pgX+(1−p)gY， W W W是 X , Y , 0 X,Y,0 X,Y,0三个独立随机变量的“凸组合”。
特征函数
- 背诵 P ( λ ) P(\lambda) P(λ)的特征函数，并说出特征函数和母函数有何异同。（至少包含收敛性、特殊点值等考察角度）
- 刚才考察收敛性的手法也可以用于考察一致连续性。简要阐述，并着重突出分两段放缩是哪两段。这种放缩思想和数学分析中哪个黎曼可积充要条件类似？
- 特征函数半正定是说 ∀ t 1 , ⋯ , t n ∈ R \forall t_1,\cdots,t_n\in\mathbb R ∀t1,⋯,tn∈R，矩阵（）半正定。请先依特征函数定义验证 f ( − t ) = f ˉ ( t ) f(-t)=\bar f(t) f(−t)=fˉ(t)（共轭）从而上述矩阵是（）矩阵，然后回忆半正定定义，验证该矩阵半正定。
- 实际上我们有 f ( 0 ) = 1 f(0)=1 f(0)=1且连续半正定的函数一定是某个随机变量的特征函数。在应用中，为了从特征函数得到这样的随机变量（的分布），有对于（）点处的逆转公式。为了记忆逆转公式，可以记忆条件更强时的结论，即 ∫ ∣ ∣ f ∣ ∣ d t < ∞ \int ||f||dt<\infty ∫∣∣f∣∣dt<∞时 p ( x ) = p(x)= p(x)=（）。比较上式与 f ( t ) f(t) f(t)用 p ( x ) p(x) p(x)表出的表达式。
- 独立随机变量的函数仍独立，所以独立随机变量和的特征函数等于（）。类比前述母函数的凸组合，阐述特征函数的凸组合。
- k k k阶矩存在时写出 f ( k ) ( 0 ) f^{(k)}(0) f(k)(0)，并用期望和方差将 f f f（在0附近）展开到二阶。
- 背诵 N ( μ , σ ) N(\mu,\sigma) N(μ,σ)的特征函数，说明在求特征函数过程中的复平面上的路径积分是怎么计算的。用 X X X的特征函数和密度表示 a X + b ( a ≠ 0 ) aX+b(a\ne0) aX+b(a=0)的。联系6.考察5.
- 求指数分布 E x p ( 1 ) Exp(1) Exp(1)的特征函数。利用凸组合得到 p ( x ) = 1 2 e − ∣ x ∣ p(x)=\frac 12 e^{-|x|} p(x)=21e−∣x∣（拉普拉斯分布）的特征函数。
- 利用7.回忆3.，求柯西分布 p ( x ) = 1 π 1 1 + x 2 p(x)=\frac 1\pi \frac1{1+x^2} p(x)=π11+x21的特征函数。
- 以前面的哪三个问题为基础可以得出 n n n个独立同分布柯西变量和的分布和一个柯西变量的 n n n倍同分布？
答案
- f ( t ) = e λ ( e x p ( i t ) − 1 ) f(t)=e^{\lambda(exp(it)-1)} f(t)=eλ(exp(it)−1)，用 e x p ( i t ) exp(it) exp(it)替代 s s s。特征函数是复值函数， f ( 0 ) = 1 f(0)=1 f(0)=1，由积分模小于等于模积分得到总收敛。
- ∣ ∣ f ( t + ϵ ) − f ( t ) ∣ ∣ ≤ E ∣ ∣ e x p ( i ( t + ϵ ) X ) − e x p ( i t X ) ∣ ∣ = E ∣ ∣ e x p ( i ϵ X ) − 1 ∣ ∣ ||f(t+\epsilon)-f(t)||\le E||exp(i(t+\epsilon)X)-exp(itX)||=E||exp(i\epsilon X)-1|| ∣∣f(t+ϵ)−f(t)∣∣≤E∣∣exp(i(t+ϵ)X)−exp(itX)∣∣=E∣∣exp(iϵX)−1∣∣. 略（提示：模足够大的时候概率小，概率大的部分模小）。
- ( f ( t i − t j ) ) n × n (f(t_i-t_j))_{n\times n} (f(ti−tj))n×n，Hermite
- 分布函数任意两个连续， 1 2 π ∫ e − i t x f ( t ) d t , f ( t ) = ∫ e i t x p ( x ) d x \frac 1{2\pi} \int e^{-itx}f(t)dt,f(t)=\int e^{itx} p(x)dx 2π1∫e−itxf(t)dt,f(t)=∫eitxp(x)dx. 傅里叶逆变换。（请特别注意 f ( t ) f(t) f(t)是对 x x x积分， p ( x ) p(x) p(x)是对 t t t积分。当然8.中出现了 f ( x ) f(x) f(x)这样的记号，那里是利用了傅里叶正逆变换形式上的类似）
- 特征函数的乘积，略。
- i k E X k , f ( x ) = 1 + i t E X − t 2 2 ( v a r ( X ) + ( E X ) 2 ) + o ( t 2 ) i^k EX^k, f(x)=1+itEX -\frac {t^2}2 (var(X)+(EX)^2)+o(t^2) ikEXk,f(x)=1+itEX−2t2(var(X)+(EX)2)+o(t2)
-
e
i
t
μ
−
1
2
σ
2
t
2
e^{it\mu -\frac 12 \sigma^2 t^2}
eitμ−21σ2t2，换元变成某条直线（但不是实轴）上的路径积分，然后对“条带”用柯西定理。
p a X + b ( y ) = p X ( x ) / y x ′ = p x ( y − b a ) / a , f a X + b ( t ) = E e i t b + i ( a t ) X = e i t b f X ( a t ) p_{aX+b}(y) = p_X(x)/y'_x=p_x(\frac{y-b}a)/a,f_{aX+b}(t)=Ee^{itb+i(at)X}=e^{itb}f_X(at) paX+b(y)=pX(x)/yx′=px(ay−b)/a,faX+b(t)=Eeitb+i(at)X=eitbfX(at)
e − t 2 / 2 ≈ 1 − t 2 / 2 e^{-t^2/2}\approx1-t^2/2 e−t2/2≈1−t2/2 -
f
E
x
p
(
a
)
(
t
)
=
∫
0
∞
a
e
i
t
x
−
a
x
d
x
=
∫
a
/
(
i
t
−
a
)
d
(
e
(
i
t
−
a
)
x
)
=
−
a
i
t
−
a
f_{Exp(a)}(t)=\int_0^\infty ae^{itx-ax}dx=\int a/(it-a)d(e^{(it-a)x})=\frac {-a}{it-a}
fExp(a)(t)=∫0∞aeitx−axdx=∫a/(it−a)d(e(it−a)x)=it−a−a
f E x p ( 1 ) ( t ) = ( 1 − i t ) − 1 f_{Exp(1)}(t)=(1-it)^{-1} fExp(1)(t)=(1−it)−1
Y Y Y满足拉普拉斯分布，则 Y Y Y的分布为（独立的） X 1 , − X 2 X_1,-X_2 X1,−X2的（概率各为 1 2 \frac 12 21的）凸组合的分布，其中 X i ∼ E x p ( 1 ) X_i\sim Exp(1) Xi∼Exp(1)
则 f Y ( t ) = 1 2 ( ( 1 − i t ) − 1 + ( 1 + i t ) − 1 ) = ( 1 + t 2 ) − 1 f_Y(t)=\frac 12((1-it)^{-1}+(1+it)^{-1})=(1+t^2)^{-1} fY(t)=21((1−it)−1+(1+it)−1)=(1+t2)−1 - 根据特征函数和密度的关系有
p
(
y
)
=
1
2
e
−
∣
y
∣
=
1
2
π
∫
(
1
+
t
2
)
−
1
e
−
i
t
y
d
t
=
1
2
f
ˉ
柯
西
(
y
)
p(y)=\frac 12e^{-|y|} = \frac 1{2\pi} \int (1+t^2)^{-1}e^{-ity}dt=\frac 12 \bar f_{柯西}(y)
p(y)=21e−∣y∣=2π1∫(1+t2)−1e−itydt=21fˉ柯西(y)
故 f 柯 西 ( t ) = e − ∣ t ∣ f_{柯西}(t)=e^{-|t|} f柯西(t)=e−∣t∣ - 4.6.8.