Cramer-Rao不等式
# Cramer-Rao不等式
一句话定义
Cramer-Rao 不等式给出无偏估计量方差的理论下界。
解决什么问题
它回答:在给定统计模型下,无偏估计量的方差最低能低到什么程度。
公式直觉
在正则条件下,任意无偏估计量 T 满足:
$$ Var(T) \ge \frac{1}{I(\theta)} $$
其中 I(theta) 是 Fisher 信息量。
典型场景
- 判断一个无偏估计量是否达到理论最优。
- 比较估计量的有效性。
- 理解 Fisher 信息量越大,参数越容易估计。
和本实验室方向的关系
在模型参数估计、极值分布拟合和机器学习不确定性评估中,Fisher 信息量和估计方差下界是理解“数据包含多少参数信息”的基础。
交流时可以怎么说
Cramer-Rao 下界不是直接给估计值,而是给无偏估计量方差的理论下限。若某估计量达到该下界,说明它在无偏估计类中非常有效。
可以追问老师/同学的问题
- 本课程是否要求完整证明 Cramer-Rao 不等式?
- Fisher 信息量具体怎么计算?
- 达到 Cramer-Rao 下界和 UMVUE 有什么关系?
给 AI 的高质量提示词
请用直觉解释 Cramer-Rao 不等式,并针对这个分布计算 Fisher 信息量,判断给定估计量是否达到下界。
关联
反向链接
无偏估计统计推断核心概念索引