渐近正态性
# 渐近正态性
概念解释
渐近正态性指样本量 $n$ 增大时,某个估计量经过中心化和缩放后,分布越来越接近正态分布。它是大样本统计推断的基础,使我们能用正态近似构造检验和区间。
公式与计算
中心极限定理给出最经典例子:
$$ \frac{\sqrt n(\bar X-\mu)}{\sigma}\Rightarrow N(0,1) $$
许多估计量可写成:
$$ \sqrt n(\hat\theta-\theta_0)\Rightarrow N(0,V) $$
因此近似有:
$$ \hat\theta \approx N\left(\theta_0,\frac{V}{n}\right) $$
与其他名词的关联
- 最大似然估计:常规条件下 MLE 渐近正态,方差可由 Fisher 信息给出。
- 置信区间:Wald 区间依赖估计量的渐近正态性。
- 假设检验:大样本 $z$ 检验、Wald 检验、得分检验都依赖渐近分布。
- ../极值理论/广义极值分布:普通均值的极限常是正态,而最大值的极限不是正态,这正是极值理论的特殊性。
典型应用场景
- 大样本均值、比例、回归系数的推断。
- 机器学习中用 bootstrap 或渐近近似评估指标波动。
- 解释为什么样本量大时很多统计量可以使用正态近似。
易错点
- 渐近正态是极限结论,小样本不一定可靠。
- 重尾分布、强相关数据可能破坏常规中心极限定理条件。
- 极端最大值通常不按正态极限收敛,需要 ../极值理论/广义极值分布。
课后习题
- 抛硬币 10000 次,正面比例为什么近似正态?
- 如果样本来自极重尾分布,直接套中心极限定理有什么风险?
- 渐近正态性如何用于构造 $\hat\theta$ 的置信区间?
答案
- 伯努利样本均值满足中心极限定理。
- 方差可能不存在或收敛很慢,正态近似可能严重偏差。
- 用 $\hat\theta\pm z_{\alpha/2}\widehat{\mathrm{se}}(\hat\theta)$。
反向链接
全库导览数理统计
广义极值分布
假设检验
最大似然估计
置信区间
知识地图
知识建设盘点