TTiti的学习笔记
首页 / 专业知识 / 20-Knowledge/统计推断/Cramer-Rao不等式.md

Cramer-Rao不等式

专业知识 · 20-Knowledge/统计推断/Cramer-Rao不等式.md

# Cramer-Rao不等式

一句话定义

Cramer-Rao 不等式给出无偏估计量方差的理论下界。

解决什么问题

它回答:在给定统计模型下,无偏估计量的方差最低能低到什么程度。

公式直觉

在正则条件下,任意无偏估计量 T 满足:

$$ Var(T) \ge \frac{1}{I(\theta)} $$

其中 I(theta) 是 Fisher 信息量。

典型场景

  • 判断一个无偏估计量是否达到理论最优。
  • 比较估计量的有效性。
  • 理解 Fisher 信息量越大,参数越容易估计。

和本实验室方向的关系

在模型参数估计、极值分布拟合和机器学习不确定性评估中,Fisher 信息量和估计方差下界是理解“数据包含多少参数信息”的基础。

交流时可以怎么说

Cramer-Rao 下界不是直接给估计值,而是给无偏估计量方差的理论下限。若某估计量达到该下界,说明它在无偏估计类中非常有效。

可以追问老师/同学的问题

  • 本课程是否要求完整证明 Cramer-Rao 不等式?
  • Fisher 信息量具体怎么计算?
  • 达到 Cramer-Rao 下界和 UMVUE 有什么关系?

给 AI 的高质量提示词

请用直觉解释 Cramer-Rao 不等式,并针对这个分布计算 Fisher 信息量,判断给定估计量是否达到下界。

关联