收敛的类型

定义 令 $ X_{1}, X_{2}, \cdots $, 为随机变量序列,$ X $ 为另一随机变量,令 $ F_{n} $ 表示 $ X_{n} $ 的 CDF, $ F $ 表示 $ X $ 的 CDF.

依概率收敛

如果对任意 $ \varepsilon>0 $, 当 $ n \rightarrow \infty $ 时有

$$ \mathbb{P}\left(\left|X_{n}-X\right|>\varepsilon\right) \rightarrow 0 $$

则称 $ X_{n} $ 依概率收玫于 $ X $, 记为 $ X_{n} \stackrel {P}{\rightarrow} X $.

依分布收敛

如果对 $ F $ 的所有连续的点 $ t $, 有

$$ \lim _{n \rightarrow \infty} F_{n}(t)=F(t), $$

则称 $ X_{n} $ 依分布收敛于 $ X $, 记为 $ X_{n} \rightsquigarrow X $.

均方意义下收敛

定义 如果当 $ n \rightarrow \infty $ 时有

$$ \mathbb{E}\left(X_{n}-X\right)^{2} \rightarrow 0, $$

则称 $ X_{n} $ 均方意义下收敛于 $ X $ (也称 $ L_{2} $ 收敛), 记为 $ X_{n} \stackrel {q m}{\rightarrow} X $.

均方收敛可以推出依概率收敛,但是相反不成立.

性质

令 $ X_{n}, X, Y_{n}, Y $ 为随机变量,$ g $ 为连续函数. (a) 如果 $ X_{n} \stackrel {P}{\rightarrow} X $ 且 $ Y_{n} \stackrel {P}{\rightarrow} Y $, 则 $ X_{n}+Y_{n} \stackrel {P}{\rightarrow} X+Y $; (b) 如果 $ X_{n} \stackrel {\mathrm {qm}}{\longrightarrow} X $ 且 $ Y_{n} \stackrel {\mathrm {qm}}{\longrightarrow} Y $, 则 $ X_{n}+Y_{n} \stackrel {\mathrm {qm}}{\rightarrow} X+Y $; (c) 如果 $ X_{n} \rightsquigarrow X $ 且 $ Y_{n} \leadsto c $, 则 $ X_{n}+Y_{n} \rightsquigarrow X+c $; (d) 如果 $ X_{n} \stackrel {P}{\rightarrow} X $ 且 $ Y_{n} \stackrel {P}{\rightarrow} Y $, 则 $ X_{n} Y_{n} \stackrel {P}{\rightarrow} X Y $; (e) 如果 $ X_{n} \rightsquigarrow X $ 且 $ Y_{n} \rightsquigarrow c $, 则 $ X_{n} Y_{n} \rightsquigarrow c X $; (f) 如果 $ X_{n} \stackrel {P}{\rightarrow} X $ 则 $ g\left (X_{n}\right) \stackrel {P}{\rightarrow} g (X) $; (g) 如果 $ X_{n} \rightsquigarrow X $ 则 $ g\left (X_{n}\right) \rightsquigarrow g (X) $; (c) 和 (e) 就是 Slutzky 理论,$ X_{n} \rightsquigarrow X $ 且 $ Y_{n} \rightsquigarrow Y $ 通常都不能得出 $ X_{n}+Y_{n} \rightsquigarrow $ $ X+Y $.

CLT 定理

定理 (中心极限定理 (CLT)) 令 $ X_{1}, \cdots, X_{n} $ 为均值为 $ \mu $ 方恙为 $ \sigma^{2} $ 的 IID 序列,令 $ \bar {X}_{n}=n^{-1} \sum_{i=1}^{n} X_{i} $, 则

$$ Z_{n} \equiv \dfrac{\bar{X}_{n}-\mu}{\sqrt{\mathbb{V}\left(\bar{X}_{n}\right)}}=\dfrac{\sqrt{n}\left(\bar{X}_{n}-\mu\right)}{\sigma} \leadsto Z, $$

其中,$ Z \sim N (0,1) $, 换句话说,$ \mathrm {F} $ 式成立:

$$ \lim _{n \rightarrow \infty} \mathbb{P}\left(Z_{n} \leqslant z\right)=\Phi(z)=\int_{-\infty}^{z} \dfrac{1}{\sqrt{2 \pi}} \mathrm{e}^{-x^{2} / 2} \mathrm{~d} x . $$