«统计学完全教程»笔记：第5章 随机变量的收敛

收敛的类型

定义 令 $ X_{1}, X_{2}, \cdots $, 为随机变量序列, $ X $ 为另一随机变量, 令 $ F_{n} $ 表示 $ X_{n} $ 的 CDF, $ F $ 表示 $ X $ 的 CDF.

依概率收敛

如果对任意 $ \varepsilon>0 $, 当 $ n \rightarrow \infty $ 时有

$$ \mathbb{P}\left(\left|X_{n}-X\right|>\varepsilon\right) \rightarrow 0 $$

则称 $ X_{n} $ 依概率收玫于 $ X $, 记为 $ X_{n} \stackrel{P}{\rightarrow} X $.

依分布收敛

如果对 $ F $ 的所有连续的点 $ t $, 有

$$ \lim _{n \rightarrow \infty} F_{n}(t)=F(t), $$

则称 $ X_{n} $ 依分布收敛于 $ X $, 记为 $ X_{n} \rightsquigarrow X $.

均方意义下收敛

定义 如果当 $ n \rightarrow \infty $ 时有

$$ \mathbb{E}\left(X_{n}-X\right)^{2} \rightarrow 0, $$

则称 $ X_{n} $ 均方意义下收敛于 $ X $ (也称 $ L_{2} $ 收敛), 记为 $ X_{n} \stackrel{q m}{\rightarrow} X $.

均方收敛可以推出依概率收敛，但是相反不成立.

性质

令 $ X_{n}, X, Y_{n}, Y $ 为随机变量, $ g $ 为连续函数. (a) 如果 $ X_{n} \stackrel{P}{\rightarrow} X $ 且 $ Y_{n} \stackrel{P}{\rightarrow} Y $, 则 $ X_{n}+Y_{n} \stackrel{P}{\rightarrow} X+Y $; (b) 如果 $ X_{n} \stackrel{\mathrm{qm}}{\longrightarrow} X $ 且 $ Y_{n} \stackrel{\mathrm{qm}}{\longrightarrow} Y $, 则 $ X_{n}+Y_{n} \stackrel{\mathrm{qm}}{\rightarrow} X+Y $; (c) 如果 $ X_{n} \rightsquigarrow X $ 且 $ Y_{n} \leadsto c $, 则 $ X_{n}+Y_{n} \rightsquigarrow X+c $; (d) 如果 $ X_{n} \stackrel{P}{\rightarrow} X $ 且 $ Y_{n} \stackrel{P}{\rightarrow} Y $, 则 $ X_{n} Y_{n} \stackrel{P}{\rightarrow} X Y $; (e) 如果 $ X_{n} \rightsquigarrow X $ 且 $ Y_{n} \rightsquigarrow c $, 则 $ X_{n} Y_{n} \rightsquigarrow c X $; (f) 如果 $ X_{n} \stackrel{P}{\rightarrow} X $ 则 $ g\left(X_{n}\right) \stackrel{P}{\rightarrow} g(X) $; (g) 如果 $ X_{n} \rightsquigarrow X $ 则 $ g\left(X_{n}\right) \rightsquigarrow g(X) $; (c) 和 (e) 就是Slutzky 理论, $ X_{n} \rightsquigarrow X $ 且 $ Y_{n} \rightsquigarrow Y $ 通常都不能得出 $ X_{n}+Y_{n} \rightsquigarrow $ $ X+Y $.

CLT 定理

定理(中心极限定理 (CLT)) 令 $ X_{1}, \cdots, X_{n} $ 为均值为 $ \mu $ 方恙为 $ \sigma^{2} $ 的 IID 序列, 令 $ \bar{X}_{n}=n^{-1} \sum_{i=1}^{n} X_{i} $, 则

$$ Z_{n} \equiv \dfrac{\bar{X}_{n}-\mu}{\sqrt{\mathbb{V}\left(\bar{X}_{n}\right)}}=\dfrac{\sqrt{n}\left(\bar{X}_{n}-\mu\right)}{\sigma} \leadsto Z, $$

其中, $ Z \sim N(0,1) $, 换句话说, $ \mathrm{F} $ 式成立:

$$ \lim _{n \rightarrow \infty} \mathbb{P}\left(Z_{n} \leqslant z\right)=\Phi(z)=\int_{-\infty}^{z} \dfrac{1}{\sqrt{2 \pi}} \mathrm{e}^{-x^{2} / 2} \mathrm{~d} x . $$