TTiti的学习笔记
首页 / 专业知识 / 05-Courses/数理统计/02-Notes/统计推断/04_区间估计/章节学习页.md

章节学习页

专业知识 · 05-Courses/数理统计/02-Notes/统计推断/04_区间估计/章节学习页.md

# 第 4 章 区间估计

本章在学什么

一句话:本章学习如何用一个区间表达参数估计的不确定性,而不是只给一个点估计值。

在统计学习链条中的位置:


点估计 -> 抽样分布/标准误 -> 置信区间 -> 假设检验和报告表达

课程和工作用途:当你报告平均成绩、转化率、模型效果、实验差异或风险指标时,不能只写一个估计值,还要说明这个估计有多不确定。

教材目录

  • 4.1 区间估计的基本概念
  • 4.2 枢轴变量法 - 正态总体参数的置信区间
  • 4.3 枢轴变量法 - 非正态总体参数的置信区间
  • 4.4 Fisher 的信仰推断法
  • 4.5 容忍区间与容忍限
  • 习题 4

必须掌握的概念

  • [x] 区间估计
  • [x] 置信区间
  • [x] 置信水平
  • [x] 置信限
  • [x] 单侧置信限
  • [x] 枢轴变量
  • [x] 标准误 standard error
  • [x] 正态总体均值置信区间
  • [x] 正态总体方差置信区间
  • [x] 大样本置信区间

了解即可的内容

  • [ ] Fisher 信仰推断:知道它试图从样本直接给参数作区间判断,本阶段不作为主线。
  • [ ] 容忍区间和容忍限:知道它关注“总体中未来观测值的覆盖比例”,不同于参数置信区间。

概念填充区

区间估计 interval estimation

  • 一句话定义:区间估计是用样本构造一个随机区间来估计未知参数所在范围。
  • 直觉解释:点估计像“猜一个数”,区间估计像“给一个合理范围”。
  • 专业表达:对参数 \(\theta\),由样本构造区间 \([L(X),U(X)]\),使其按预定置信水平覆盖 \(\theta\)。
  • 常见符号:\([L,U]\)、\((1-\alpha)\)、95% CI。
  • 典型场景:报告“平均成绩估计为 72.3,95% 置信区间为 [69.8, 74.8]”。
  • 容易混淆的点:区间估计估的是参数,不是样本数据的范围。
  • 和后续章节的关系:第 5 章假设检验与置信区间可以互相对应。
  • 给 AI 的高质量提示词:请根据样本均值、样本标准差和样本量,为总体均值构造 95% 置信区间,并解释含义。

置信区间 confidence interval

  • 一句话定义:置信区间是按某种方法从样本构造出的参数区间,长期重复抽样时有固定比例覆盖真实参数。
  • 直觉解释:95% 置信区间不是说“这个具体区间有 95% 概率包含参数”,而是说“这个造区间的方法长期有 95% 的覆盖率”。
  • 专业表达:若 \(P_\theta(L(X)\le \theta\le U(X))=1-\alpha\),则 \([L(X),U(X)]\) 是 \(\theta\) 的 \(1-\alpha\) 置信区间。
  • 常见符号:CI、\(1-\alpha\)、\(\alpha=0.05\)。
  • 典型场景:估计总体均值、比例、两个均值差、方差或模型指标。
  • 容易混淆的点:频率学派中参数是固定的,随机的是区间。
  • 和后续章节的关系:双侧检验中,若原假设参数值不在 95% 置信区间内,通常对应 5% 显著性水平下拒绝原假设。
  • 给 AI 的高质量提示词:请解释这个 95% 置信区间的频率学派含义,并指出不能怎么误读。

置信水平 confidence level

  • 一句话定义:置信水平是构造区间的方法在重复抽样中覆盖真实参数的长期比例。
  • 直觉解释:置信水平越高,想更保险,区间通常越宽。
  • 专业表达:\(1-\alpha\) 是置信水平,常见取值为 90%、95%、99%。
  • 常见符号:\(1-\alpha\)、\(\alpha\)、\(z_{\alpha/2}\)、\(t_{n-1,\alpha/2}\)。
  • 典型场景:课程作业通常默认 95% 置信水平;更保守报告可能使用 99%。
  • 容易混淆的点:置信水平不是样本中落入区间的数据比例。

标准误 standard error

  • 一句话定义:标准误是估计量抽样分布的标准差。
  • 直觉解释:标准误衡量估计量在重复抽样中会抖动多大。
  • 专业表达:若估计量为 \(\hat\theta\),则 \(SE(\hat\theta)=SD(\hat\theta)\)。
  • 常见例子:样本均值的标准误为 \(\sigma/\sqrt n\),若 \(\sigma\) 未知则用 \(S/\sqrt n\)。
  • 容易混淆的点:标准差描述原始数据波动,标准误描述估计量波动。

枢轴变量 pivotal quantity

  • 一句话定义:枢轴变量是一个含有参数和样本、但其分布不依赖未知参数的量。
  • 直觉解释:如果一个标准化后的量有已知分布,就可以反过来解出参数区间。
  • 专业表达:若 \(Q(X,\theta)\) 的分布不依赖未知参数,则 \(Q\) 是枢轴变量。
  • 常见符号:\(Z=(\bar X-\mu)/(\sigma/\sqrt n)\)、\(T=(\bar X-\mu)/(S/\sqrt n)\)、\((n-1)S^2/\sigma^2\)。
  • 典型场景:用标准正态、t、chi-square 分布构造置信区间。
  • 容易混淆的点:枢轴变量可以含未知参数;关键是它的分布不能依赖未知参数。
  • 和后续章节的关系:枢轴变量法是本章区间估计的核心技术。
  • 给 AI 的高质量提示词:请找出这个区间估计问题的枢轴变量,并用它反解参数的置信区间。

单侧置信限 one-sided confidence bound

  • 一句话定义:单侧置信限只给参数的上界或下界。
  • 直觉解释:有些问题只关心“至少多大”或“最多多大”,不需要双侧区间。
  • 专业表达:若 \(P(L(X)\le \theta)=1-\alpha\),则 \(L(X)\) 是 \(\theta\) 的下置信限;若 \(P(\theta\le U(X))=1-\alpha\),则 \(U(X)\) 是上置信限。
  • 典型场景:设备失效率不超过多少、药物有效率至少多少、风险损失上界。
  • 容易混淆的点:单侧置信限对应单侧检验,临界值不同于双侧区间。

容忍区间 tolerance interval

  • 一句话定义:容忍区间试图覆盖总体中至少某个比例的个体观测值。
  • 直觉解释:置信区间关心参数在哪里;容忍区间关心未来大部分数据会落在哪里。
  • 典型场景:质量控制中希望给出“至少 95% 产品指标落入某范围”的区间。
  • 容易混淆的点:置信区间不是预测区间,也不是容忍区间。

公式与推导

通用结构

大多数常见置信区间都可以写成:

\[ \text{估计值}\pm \text{临界值}\times \text{标准误} \]

直觉:估计值是中心,标准误表示估计有多抖,临界值由置信水平决定。

方差已知的正态均值置信区间

若:

\[ X_1,\dots,X_n\sim N(\mu,\sigma^2) \]

且 \(\sigma\) 已知,则:

\[ Z=\frac{\bar X-\mu}{\sigma/\sqrt n}\sim N(0,1) \]

于是 \(\mu\) 的 \(1-\alpha\) 置信区间为:

\[ \bar X\pm z_{\alpha/2}\frac{\sigma}{\sqrt n} \]

95% 时常用 \(z_{0.025}=1.96\)。

方差未知的正态均值 t 置信区间

若 \(\sigma\) 未知,用样本标准差 \(S\) 代替:

\[ T=\frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1) \]

\(\mu\) 的 \(1-\alpha\) 置信区间为:

\[ \bar X\pm t_{n-1,\alpha/2}\frac{S}{\sqrt n} \]

直觉:因为 \(S\) 本身也有不确定性,所以使用 t 分布,尾部比标准正态更厚。

正态总体方差 chi-square 置信区间

正态总体下:

\[ \frac{(n-1)S^2}{\sigma^2}\sim \chi^2(n-1) \]

\(\sigma^2\) 的 \(1-\alpha\) 置信区间为:

\[ \left[\frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)},\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}\right] \]

注意:由于 chi-square 分布不对称,方差区间通常也不对称。

大样本比例置信区间

若样本比例为 \(\hat p\),大样本下:

\[ \hat p \approx N\left(p,\frac{p(1-p)}{n}\right) \]

常用近似区间为:

\[ \hat p\pm z_{\alpha/2}\sqrt{\frac{\hat p(1-\hat p)}{n}} \]

直觉:样本量大时,样本比例近似正态。

两总体均值差置信区间

若两个独立样本方差未知且样本量较大,可用近似区间:

\[ (\bar X-\bar Y)\pm z_{\alpha/2}\sqrt{\frac{S_X^2}{n_X}+\frac{S_Y^2}{n_Y}} \]

直觉:两个均值差的标准误由两个样本的不确定性共同贡献。

代码任务 1:模拟 95% 置信区间覆盖率


import numpy as np  # 导入 numpy,用于随机数和数值计算

from scipy import stats  # 导入 scipy.stats,用于获得 t 分布临界值



np.random.seed(42)  # 固定随机种子,保证结果可复现



true_mu = 70  # 设置真实总体均值,现实中通常未知

true_sigma = 10  # 设置真实总体标准差

n = 30  # 每次抽样的样本量

repeat = 5000  # 重复抽样次数

confidence = 0.95  # 设置置信水平为 95%

alpha = 1 - confidence  # 显著性水平 alpha 为 0.05



covered = 0  # 计数:有多少个区间覆盖了真实均值



for i in range(repeat):  # 重复抽样很多次,用来观察长期覆盖率

    sample = np.random.normal(true_mu, true_sigma, size=n)  # 从正态总体中抽取样本

    sample_mean = np.mean(sample)  # 计算样本均值

    sample_std = np.std(sample, ddof=1)  # 计算样本标准差,用 ddof=1 得到无偏样本方差

    se = sample_std / np.sqrt(n)  # 计算样本均值的标准误

    critical = stats.t.ppf(1 - alpha / 2, df=n - 1)  # 计算 t 分布双侧临界值

    lower = sample_mean - critical * se  # 计算置信区间下限

    upper = sample_mean + critical * se  # 计算置信区间上限



    if lower <= true_mu <= upper:  # 判断这次构造的区间是否覆盖真实均值

        covered += 1  # 如果覆盖,就把计数加 1



coverage_rate = covered / repeat  # 计算重复抽样中的实际覆盖比例



print("目标置信水平:", confidence)  # 输出理论置信水平

print("模拟覆盖率:", coverage_rate)  # 输出模拟得到的覆盖率

结果解释:如果方法正确,模拟覆盖率应接近 0.95。这说明 95% 置信区间的含义是“长期覆盖率约为 95%”。

代码任务 2:用 scipy 计算 t 置信区间


import numpy as np  # 导入 numpy

from scipy import stats  # 导入 scipy.stats



sample = np.array([68, 72, 75, 71, 69, 73, 70, 74, 76, 72])  # 构造一个最小样本数据



n = len(sample)  # 计算样本量

sample_mean = np.mean(sample)  # 计算样本均值

sample_std = np.std(sample, ddof=1)  # 计算样本标准差

se = sample_std / np.sqrt(n)  # 计算样本均值标准误



confidence = 0.95  # 设置置信水平

alpha = 1 - confidence  # 计算 alpha

critical = stats.t.ppf(1 - alpha / 2, df=n - 1)  # 根据自由度 n-1 计算 t 临界值



lower = sample_mean - critical * se  # 计算下限

upper = sample_mean + critical * se  # 计算上限



print("样本均值:", sample_mean)  # 输出样本均值

print("标准误:", se)  # 输出标准误

print("95% 置信区间:", (lower, upper))  # 输出置信区间

结果解释:这个区间用于估计总体均值。报告时应写“按该方法重复抽样,约 95% 的区间会覆盖真实总体均值”。

代码任务 3:比较样本量对区间宽度的影响


import numpy as np  # 导入 numpy

from scipy import stats  # 导入 scipy.stats



np.random.seed(42)  # 固定随机种子



true_mu = 70  # 设置真实均值

true_sigma = 10  # 设置真实标准差

confidence = 0.95  # 设置置信水平

alpha = 1 - confidence  # 计算 alpha



for n in [10, 30, 100]:  # 比较三个不同样本量

    sample = np.random.normal(true_mu, true_sigma, size=n)  # 抽取样本

    sample_mean = np.mean(sample)  # 计算样本均值

    sample_std = np.std(sample, ddof=1)  # 计算样本标准差

    se = sample_std / np.sqrt(n)  # 计算标准误

    critical = stats.t.ppf(1 - alpha / 2, df=n - 1)  # 计算 t 临界值

    lower = sample_mean - critical * se  # 区间下限

    upper = sample_mean + critical * se  # 区间上限

    width = upper - lower  # 区间宽度



    print("样本量:", n)  # 输出样本量

    print("区间:", (lower, upper))  # 输出置信区间

    print("区间宽度:", width)  # 输出区间宽度

结果解释:通常样本量越大,标准误越小,置信区间越窄。也就是说,更多样本能降低估计不确定性。

代码任务 4:总体比例的 95% 置信区间


import numpy as np  # 导入 numpy

from scipy import stats  # 导入 scipy.stats



success = 42  # 成功次数,例如 100 个用户中 42 个转化

n = 100  # 样本量

p_hat = success / n  # 计算样本比例



confidence = 0.95  # 设置置信水平

alpha = 1 - confidence  # 计算 alpha

z = stats.norm.ppf(1 - alpha / 2)  # 计算标准正态双侧临界值



se = np.sqrt(p_hat * (1 - p_hat) / n)  # 用样本比例估计标准误

lower = p_hat - z * se  # 计算下限

upper = p_hat + z * se  # 计算上限



print("样本比例:", p_hat)  # 输出样本比例

print("95% 置信区间:", (lower, upper))  # 输出比例的近似置信区间

结果解释:这个区间表示总体转化率的合理范围。若样本量较小或比例接近 0/1,应考虑更稳健的区间方法;本阶段先掌握大样本近似。

课后作业与答案

题 1:什么是 95% 置信区间?

答案:它是由样本构造出的随机区间;如果重复抽样并按同一方法构造区间,长期大约 95% 的区间会覆盖真实参数。

解释:不能简单说“真实参数有 95% 概率落在这个已经算出的区间里”。

题 2:样本均值为 10,已知 \(\sigma=4\),\(n=64\),求 \(\mu\) 的 95% 置信区间。

答案:标准误为 \(4/\sqrt{64}=0.5\),95% 临界值约为 1.96。

\[ 10\pm 1.96\times 0.5=[9.02,10.98] \]

题 3:若总体方差未知,为什么用 t 区间而不是 z 区间?

答案:因为用样本标准差 \(S\) 替代未知总体标准差 \(\sigma\),引入额外不确定性,标准化统计量服从 t 分布。

题 4:置信水平从 95% 提高到 99%,区间会变宽还是变窄?

答案:变宽。

解释:更高置信水平要求更高长期覆盖率,因此临界值更大,区间更宽。

题 5:判断题:置信区间越窄一定越好。

答案:错误。

解释:区间窄可能意味着估计更精确,也可能是错误低估了不确定性。必须同时看方法是否正确、模型假设是否合理、覆盖率是否可信。

题 6:什么是枢轴变量?

答案:枢轴变量是含样本和未知参数,但其分布不依赖未知参数的量。

解释:例如 \((\bar X-\mu)/(S/\sqrt n)\) 含 \(\mu\),但在正态总体下服从 \(t(n-1)\),可用于反解 \(\mu\) 的区间。

题 7:代码题:给定样本 [5.1, 4.9, 5.3, 5.0, 5.2],求均值的 95% t 置信区间。


import numpy as np  # 导入 numpy

from scipy import stats  # 导入 scipy.stats



sample = np.array([5.1, 4.9, 5.3, 5.0, 5.2])  # 输入样本

n = len(sample)  # 样本量

mean = np.mean(sample)  # 样本均值

std = np.std(sample, ddof=1)  # 样本标准差

se = std / np.sqrt(n)  # 标准误

critical = stats.t.ppf(0.975, df=n - 1)  # 95% 双侧 t 临界值

ci = (mean - critical * se, mean + critical * se)  # 构造置信区间



print(ci)  # 输出置信区间

答案解释:代码输出的是总体均值的 95% t 置信区间。样本量很小,t 临界值会比 1.96 更大。

题 8:报告表达题:如何写置信区间结论?

答案:

基于样本数据,我们得到总体均值的点估计为 \(\bar x\)。在正态总体且方差未知的假设下,使用 t 分布构造 95% 置信区间。该区间反映了均值估计的不确定性;按相同方法重复抽样,约 95% 的区间会覆盖真实总体均值。

报告可写表达

  • “点估计只能给出一个中心值,不能反映抽样误差,因此进一步构造置信区间。”
  • “本题总体方差未知,故使用 t 分布而非标准正态分布构造均值置信区间。”
  • “95% 置信区间的含义是该造区间方法的长期覆盖率为 95%,而不是参数以 95% 概率落入某个已观测区间。”
  • “样本量增加会降低标准误,从而通常缩窄置信区间。”

可以追问老师/同学的问题

  • 作业中是否默认用 95% 置信水平?
  • 小样本下正态性假设需要如何检查?
  • 比例的置信区间是否要求掌握 Wilson 区间,还是只需大样本近似?
  • 容忍区间是否会作为考试重点,还是只需了解概念?

给 AI 的高质量提示词

请帮我为这个参数构造置信区间:先判断参数类型和样本条件;选择 z、t、chi-square 或大样本近似;写出枢轴变量或近似分布;给出公式、Python 代码、逐行注释,并解释置信区间的正确含义和常见误读。