章节学习页
# 第 4 章 区间估计
本章在学什么
一句话:本章学习如何用一个区间表达参数估计的不确定性,而不是只给一个点估计值。
在统计学习链条中的位置:
点估计 -> 抽样分布/标准误 -> 置信区间 -> 假设检验和报告表达
课程和工作用途:当你报告平均成绩、转化率、模型效果、实验差异或风险指标时,不能只写一个估计值,还要说明这个估计有多不确定。
教材目录
- 4.1 区间估计的基本概念
- 4.2 枢轴变量法 - 正态总体参数的置信区间
- 4.3 枢轴变量法 - 非正态总体参数的置信区间
- 4.4 Fisher 的信仰推断法
- 4.5 容忍区间与容忍限
- 习题 4
必须掌握的概念
- [x] 区间估计
- [x] 置信区间
- [x] 置信水平
- [x] 置信限
- [x] 单侧置信限
- [x] 枢轴变量
- [x] 标准误 standard error
- [x] 正态总体均值置信区间
- [x] 正态总体方差置信区间
- [x] 大样本置信区间
了解即可的内容
- [ ] Fisher 信仰推断:知道它试图从样本直接给参数作区间判断,本阶段不作为主线。
- [ ] 容忍区间和容忍限:知道它关注“总体中未来观测值的覆盖比例”,不同于参数置信区间。
概念填充区
区间估计 interval estimation
- 一句话定义:区间估计是用样本构造一个随机区间来估计未知参数所在范围。
- 直觉解释:点估计像“猜一个数”,区间估计像“给一个合理范围”。
- 专业表达:对参数 \(\theta\),由样本构造区间 \([L(X),U(X)]\),使其按预定置信水平覆盖 \(\theta\)。
- 常见符号:\([L,U]\)、\((1-\alpha)\)、95% CI。
- 典型场景:报告“平均成绩估计为 72.3,95% 置信区间为 [69.8, 74.8]”。
- 容易混淆的点:区间估计估的是参数,不是样本数据的范围。
- 和后续章节的关系:第 5 章假设检验与置信区间可以互相对应。
- 给 AI 的高质量提示词:请根据样本均值、样本标准差和样本量,为总体均值构造 95% 置信区间,并解释含义。
置信区间 confidence interval
- 一句话定义:置信区间是按某种方法从样本构造出的参数区间,长期重复抽样时有固定比例覆盖真实参数。
- 直觉解释:95% 置信区间不是说“这个具体区间有 95% 概率包含参数”,而是说“这个造区间的方法长期有 95% 的覆盖率”。
- 专业表达:若 \(P_\theta(L(X)\le \theta\le U(X))=1-\alpha\),则 \([L(X),U(X)]\) 是 \(\theta\) 的 \(1-\alpha\) 置信区间。
- 常见符号:CI、\(1-\alpha\)、\(\alpha=0.05\)。
- 典型场景:估计总体均值、比例、两个均值差、方差或模型指标。
- 容易混淆的点:频率学派中参数是固定的,随机的是区间。
- 和后续章节的关系:双侧检验中,若原假设参数值不在 95% 置信区间内,通常对应 5% 显著性水平下拒绝原假设。
- 给 AI 的高质量提示词:请解释这个 95% 置信区间的频率学派含义,并指出不能怎么误读。
置信水平 confidence level
- 一句话定义:置信水平是构造区间的方法在重复抽样中覆盖真实参数的长期比例。
- 直觉解释:置信水平越高,想更保险,区间通常越宽。
- 专业表达:\(1-\alpha\) 是置信水平,常见取值为 90%、95%、99%。
- 常见符号:\(1-\alpha\)、\(\alpha\)、\(z_{\alpha/2}\)、\(t_{n-1,\alpha/2}\)。
- 典型场景:课程作业通常默认 95% 置信水平;更保守报告可能使用 99%。
- 容易混淆的点:置信水平不是样本中落入区间的数据比例。
标准误 standard error
- 一句话定义:标准误是估计量抽样分布的标准差。
- 直觉解释:标准误衡量估计量在重复抽样中会抖动多大。
- 专业表达:若估计量为 \(\hat\theta\),则 \(SE(\hat\theta)=SD(\hat\theta)\)。
- 常见例子:样本均值的标准误为 \(\sigma/\sqrt n\),若 \(\sigma\) 未知则用 \(S/\sqrt n\)。
- 容易混淆的点:标准差描述原始数据波动,标准误描述估计量波动。
枢轴变量 pivotal quantity
- 一句话定义:枢轴变量是一个含有参数和样本、但其分布不依赖未知参数的量。
- 直觉解释:如果一个标准化后的量有已知分布,就可以反过来解出参数区间。
- 专业表达:若 \(Q(X,\theta)\) 的分布不依赖未知参数,则 \(Q\) 是枢轴变量。
- 常见符号:\(Z=(\bar X-\mu)/(\sigma/\sqrt n)\)、\(T=(\bar X-\mu)/(S/\sqrt n)\)、\((n-1)S^2/\sigma^2\)。
- 典型场景:用标准正态、t、chi-square 分布构造置信区间。
- 容易混淆的点:枢轴变量可以含未知参数;关键是它的分布不能依赖未知参数。
- 和后续章节的关系:枢轴变量法是本章区间估计的核心技术。
- 给 AI 的高质量提示词:请找出这个区间估计问题的枢轴变量,并用它反解参数的置信区间。
单侧置信限 one-sided confidence bound
- 一句话定义:单侧置信限只给参数的上界或下界。
- 直觉解释:有些问题只关心“至少多大”或“最多多大”,不需要双侧区间。
- 专业表达:若 \(P(L(X)\le \theta)=1-\alpha\),则 \(L(X)\) 是 \(\theta\) 的下置信限;若 \(P(\theta\le U(X))=1-\alpha\),则 \(U(X)\) 是上置信限。
- 典型场景:设备失效率不超过多少、药物有效率至少多少、风险损失上界。
- 容易混淆的点:单侧置信限对应单侧检验,临界值不同于双侧区间。
容忍区间 tolerance interval
- 一句话定义:容忍区间试图覆盖总体中至少某个比例的个体观测值。
- 直觉解释:置信区间关心参数在哪里;容忍区间关心未来大部分数据会落在哪里。
- 典型场景:质量控制中希望给出“至少 95% 产品指标落入某范围”的区间。
- 容易混淆的点:置信区间不是预测区间,也不是容忍区间。
公式与推导
通用结构
大多数常见置信区间都可以写成:
\[ \text{估计值}\pm \text{临界值}\times \text{标准误} \]
直觉:估计值是中心,标准误表示估计有多抖,临界值由置信水平决定。
方差已知的正态均值置信区间
若:
\[ X_1,\dots,X_n\sim N(\mu,\sigma^2) \]
且 \(\sigma\) 已知,则:
\[ Z=\frac{\bar X-\mu}{\sigma/\sqrt n}\sim N(0,1) \]
于是 \(\mu\) 的 \(1-\alpha\) 置信区间为:
\[ \bar X\pm z_{\alpha/2}\frac{\sigma}{\sqrt n} \]
95% 时常用 \(z_{0.025}=1.96\)。
方差未知的正态均值 t 置信区间
若 \(\sigma\) 未知,用样本标准差 \(S\) 代替:
\[ T=\frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1) \]
\(\mu\) 的 \(1-\alpha\) 置信区间为:
\[ \bar X\pm t_{n-1,\alpha/2}\frac{S}{\sqrt n} \]
直觉:因为 \(S\) 本身也有不确定性,所以使用 t 分布,尾部比标准正态更厚。
正态总体方差 chi-square 置信区间
正态总体下:
\[ \frac{(n-1)S^2}{\sigma^2}\sim \chi^2(n-1) \]
\(\sigma^2\) 的 \(1-\alpha\) 置信区间为:
\[ \left[\frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)},\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)}\right] \]
注意:由于 chi-square 分布不对称,方差区间通常也不对称。
大样本比例置信区间
若样本比例为 \(\hat p\),大样本下:
\[ \hat p \approx N\left(p,\frac{p(1-p)}{n}\right) \]
常用近似区间为:
\[ \hat p\pm z_{\alpha/2}\sqrt{\frac{\hat p(1-\hat p)}{n}} \]
直觉:样本量大时,样本比例近似正态。
两总体均值差置信区间
若两个独立样本方差未知且样本量较大,可用近似区间:
\[ (\bar X-\bar Y)\pm z_{\alpha/2}\sqrt{\frac{S_X^2}{n_X}+\frac{S_Y^2}{n_Y}} \]
直觉:两个均值差的标准误由两个样本的不确定性共同贡献。
代码任务 1:模拟 95% 置信区间覆盖率
import numpy as np # 导入 numpy,用于随机数和数值计算
from scipy import stats # 导入 scipy.stats,用于获得 t 分布临界值
np.random.seed(42) # 固定随机种子,保证结果可复现
true_mu = 70 # 设置真实总体均值,现实中通常未知
true_sigma = 10 # 设置真实总体标准差
n = 30 # 每次抽样的样本量
repeat = 5000 # 重复抽样次数
confidence = 0.95 # 设置置信水平为 95%
alpha = 1 - confidence # 显著性水平 alpha 为 0.05
covered = 0 # 计数:有多少个区间覆盖了真实均值
for i in range(repeat): # 重复抽样很多次,用来观察长期覆盖率
sample = np.random.normal(true_mu, true_sigma, size=n) # 从正态总体中抽取样本
sample_mean = np.mean(sample) # 计算样本均值
sample_std = np.std(sample, ddof=1) # 计算样本标准差,用 ddof=1 得到无偏样本方差
se = sample_std / np.sqrt(n) # 计算样本均值的标准误
critical = stats.t.ppf(1 - alpha / 2, df=n - 1) # 计算 t 分布双侧临界值
lower = sample_mean - critical * se # 计算置信区间下限
upper = sample_mean + critical * se # 计算置信区间上限
if lower <= true_mu <= upper: # 判断这次构造的区间是否覆盖真实均值
covered += 1 # 如果覆盖,就把计数加 1
coverage_rate = covered / repeat # 计算重复抽样中的实际覆盖比例
print("目标置信水平:", confidence) # 输出理论置信水平
print("模拟覆盖率:", coverage_rate) # 输出模拟得到的覆盖率
结果解释:如果方法正确,模拟覆盖率应接近 0.95。这说明 95% 置信区间的含义是“长期覆盖率约为 95%”。
代码任务 2:用 scipy 计算 t 置信区间
import numpy as np # 导入 numpy
from scipy import stats # 导入 scipy.stats
sample = np.array([68, 72, 75, 71, 69, 73, 70, 74, 76, 72]) # 构造一个最小样本数据
n = len(sample) # 计算样本量
sample_mean = np.mean(sample) # 计算样本均值
sample_std = np.std(sample, ddof=1) # 计算样本标准差
se = sample_std / np.sqrt(n) # 计算样本均值标准误
confidence = 0.95 # 设置置信水平
alpha = 1 - confidence # 计算 alpha
critical = stats.t.ppf(1 - alpha / 2, df=n - 1) # 根据自由度 n-1 计算 t 临界值
lower = sample_mean - critical * se # 计算下限
upper = sample_mean + critical * se # 计算上限
print("样本均值:", sample_mean) # 输出样本均值
print("标准误:", se) # 输出标准误
print("95% 置信区间:", (lower, upper)) # 输出置信区间
结果解释:这个区间用于估计总体均值。报告时应写“按该方法重复抽样,约 95% 的区间会覆盖真实总体均值”。
代码任务 3:比较样本量对区间宽度的影响
import numpy as np # 导入 numpy
from scipy import stats # 导入 scipy.stats
np.random.seed(42) # 固定随机种子
true_mu = 70 # 设置真实均值
true_sigma = 10 # 设置真实标准差
confidence = 0.95 # 设置置信水平
alpha = 1 - confidence # 计算 alpha
for n in [10, 30, 100]: # 比较三个不同样本量
sample = np.random.normal(true_mu, true_sigma, size=n) # 抽取样本
sample_mean = np.mean(sample) # 计算样本均值
sample_std = np.std(sample, ddof=1) # 计算样本标准差
se = sample_std / np.sqrt(n) # 计算标准误
critical = stats.t.ppf(1 - alpha / 2, df=n - 1) # 计算 t 临界值
lower = sample_mean - critical * se # 区间下限
upper = sample_mean + critical * se # 区间上限
width = upper - lower # 区间宽度
print("样本量:", n) # 输出样本量
print("区间:", (lower, upper)) # 输出置信区间
print("区间宽度:", width) # 输出区间宽度
结果解释:通常样本量越大,标准误越小,置信区间越窄。也就是说,更多样本能降低估计不确定性。
代码任务 4:总体比例的 95% 置信区间
import numpy as np # 导入 numpy
from scipy import stats # 导入 scipy.stats
success = 42 # 成功次数,例如 100 个用户中 42 个转化
n = 100 # 样本量
p_hat = success / n # 计算样本比例
confidence = 0.95 # 设置置信水平
alpha = 1 - confidence # 计算 alpha
z = stats.norm.ppf(1 - alpha / 2) # 计算标准正态双侧临界值
se = np.sqrt(p_hat * (1 - p_hat) / n) # 用样本比例估计标准误
lower = p_hat - z * se # 计算下限
upper = p_hat + z * se # 计算上限
print("样本比例:", p_hat) # 输出样本比例
print("95% 置信区间:", (lower, upper)) # 输出比例的近似置信区间
结果解释:这个区间表示总体转化率的合理范围。若样本量较小或比例接近 0/1,应考虑更稳健的区间方法;本阶段先掌握大样本近似。
课后作业与答案
题 1:什么是 95% 置信区间?
答案:它是由样本构造出的随机区间;如果重复抽样并按同一方法构造区间,长期大约 95% 的区间会覆盖真实参数。
解释:不能简单说“真实参数有 95% 概率落在这个已经算出的区间里”。
题 2:样本均值为 10,已知 \(\sigma=4\),\(n=64\),求 \(\mu\) 的 95% 置信区间。
答案:标准误为 \(4/\sqrt{64}=0.5\),95% 临界值约为 1.96。
\[ 10\pm 1.96\times 0.5=[9.02,10.98] \]
题 3:若总体方差未知,为什么用 t 区间而不是 z 区间?
答案:因为用样本标准差 \(S\) 替代未知总体标准差 \(\sigma\),引入额外不确定性,标准化统计量服从 t 分布。
题 4:置信水平从 95% 提高到 99%,区间会变宽还是变窄?
答案:变宽。
解释:更高置信水平要求更高长期覆盖率,因此临界值更大,区间更宽。
题 5:判断题:置信区间越窄一定越好。
答案:错误。
解释:区间窄可能意味着估计更精确,也可能是错误低估了不确定性。必须同时看方法是否正确、模型假设是否合理、覆盖率是否可信。
题 6:什么是枢轴变量?
答案:枢轴变量是含样本和未知参数,但其分布不依赖未知参数的量。
解释:例如 \((\bar X-\mu)/(S/\sqrt n)\) 含 \(\mu\),但在正态总体下服从 \(t(n-1)\),可用于反解 \(\mu\) 的区间。
题 7:代码题:给定样本 [5.1, 4.9, 5.3, 5.0, 5.2],求均值的 95% t 置信区间。
import numpy as np # 导入 numpy
from scipy import stats # 导入 scipy.stats
sample = np.array([5.1, 4.9, 5.3, 5.0, 5.2]) # 输入样本
n = len(sample) # 样本量
mean = np.mean(sample) # 样本均值
std = np.std(sample, ddof=1) # 样本标准差
se = std / np.sqrt(n) # 标准误
critical = stats.t.ppf(0.975, df=n - 1) # 95% 双侧 t 临界值
ci = (mean - critical * se, mean + critical * se) # 构造置信区间
print(ci) # 输出置信区间
答案解释:代码输出的是总体均值的 95% t 置信区间。样本量很小,t 临界值会比 1.96 更大。
题 8:报告表达题:如何写置信区间结论?
答案:
基于样本数据,我们得到总体均值的点估计为 \(\bar x\)。在正态总体且方差未知的假设下,使用 t 分布构造 95% 置信区间。该区间反映了均值估计的不确定性;按相同方法重复抽样,约 95% 的区间会覆盖真实总体均值。
报告可写表达
- “点估计只能给出一个中心值,不能反映抽样误差,因此进一步构造置信区间。”
- “本题总体方差未知,故使用 t 分布而非标准正态分布构造均值置信区间。”
- “95% 置信区间的含义是该造区间方法的长期覆盖率为 95%,而不是参数以 95% 概率落入某个已观测区间。”
- “样本量增加会降低标准误,从而通常缩窄置信区间。”
可以追问老师/同学的问题
- 作业中是否默认用 95% 置信水平?
- 小样本下正态性假设需要如何检查?
- 比例的置信区间是否要求掌握 Wilson 区间,还是只需大样本近似?
- 容忍区间是否会作为考试重点,还是只需了解概念?
给 AI 的高质量提示词
请帮我为这个参数构造置信区间:先判断参数类型和样本条件;选择 z、t、chi-square 或大样本近似;写出枢轴变量或近似分布;给出公式、Python 代码、逐行注释,并解释置信区间的正确含义和常见误读。
反向链接
README统计推断_自测题与答案索引
统计推断
统计推断核心概念索引