第 2 章 抽样分布及若干预备知识

综合实践 · 13_课程Obsidian看板/数理统计/统计推断/02_抽样分布及预备知识/章节学习页.md

第 2 章 抽样分布及若干预备知识

本章在学什么

一句话：本章学习统计量本身如何随机波动，为置信区间和假设检验做准备。

在统计学习链条中的位置：

样本 -> 统计量 -> 统计量的分布 -> 区间估计和假设检验

课程和工作用途：判断样本均值、样本方差、检验统计量的波动是否“正常”，从而决定能不能拒绝假设、如何给出不确定性范围。

教材目录

• 2.1 引言
• 2.2 正态总体样本均值和样本方差的分布
• 2.3 次序统计量的分布
• 2.4 chi-square 分布、t 分布和 F 分布
• 2.5 统计量的极限分布
• 2.6 指数族
• 2.7 充分统计量
• 2.8 完全统计量
• 习题 2

必须掌握的概念

• [x] 抽样分布
• [x] 样本均值分布
• [x] 样本方差分布
• [x] 正态总体
• [x] chi-square 分布
• [x] t 分布
• [x] F 分布
• [x] 中心极限定理
• [x] 次序统计量
• [x] 充分统计量直觉

了解即可的内容

• [ ] 指数族
• [ ] 完全统计量
• [ ] 次序统计量的精确密度推导

概念填充区

抽样分布 sampling distribution

• 一句话定义：统计量的概率分布叫抽样分布。
• 直觉解释：样本会变，所以样本均值、样本方差、t 统计量也会变；它们自己的分布就是抽样分布。
• 专业表达：若 \(T=T(X_1,\dots,X_n)\)，则 \(T\) 的分布称为统计量 \(T\) 的抽样分布。
• 常见符号：\(\bar X\)、\(S^2\)、\(T\)、\(F\)、\(\chi^2\)。
• 典型场景：判断样本均值离总体均值多远算正常波动。
• 容易混淆的点：抽样分布不是原始数据的分布，而是统计量的分布。
• 和后续章节的关系：置信区间和假设检验都依赖抽样分布。
• 给 AI 的高质量提示词：请说明这个统计量的抽样分布是什么，以及它为什么能用于检验或区间估计。

样本均值分布

若：

\[ X_1,\dots,X_n \overset{i.i.d.}{\sim} N(\mu,\sigma^2) \]

则：

\[ \bar X \sim N\left(\mu,\frac{\sigma^2}{n}\right) \]

直觉解释：样本均值仍然围绕总体均值 \(\mu\) 波动，但样本量越大，波动越小。

样本方差分布

正态总体下：

\[ \frac{(n-1)S^2}{\sigma^2}\sim \chi^2(n-1) \]

直觉解释：样本方差不是固定的，也有自己的分布；chi-square 分布描述方差估计的波动。

chi-square 分布

• 一句话定义：若 \(Z_1,\dots,Z_k\) 独立且都服从标准正态分布，则 \(Z_1^2+\cdots+Z_k^2\sim \chi^2(k)\)。
• 直觉解释：chi-square 分布来自“标准正态变量平方和”。
• 常见符号：\(\chi^2(k)\)，其中 \(k\) 是自由度。
• 典型场景：方差估计、拟合优度检验、列联表检验。
• 容易混淆的点：chi-square 分布通常右偏，不是对称分布。

t 分布

• 一句话定义：t 分布用于总体方差未知时描述标准化样本均值的波动。
• 专业表达：若总体正态且 \(\sigma\) 未知，则 \(T=\frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1)\)。
• 直觉解释：用样本标准差 \(S\) 代替未知总体标准差 \(\sigma\)，会引入额外不确定性，所以尾部比标准正态更厚。
• 典型场景：单样本 t 检验、均值置信区间。

F 分布

• 一句话定义：F 分布通常来自两个独立 chi-square 变量按自由度标准化后的比值。
• 专业表达：若 \(U\sim\chi^2(m)\)、\(V\sim\chi^2(n)\)，且二者独立，则 \(\frac{U/m}{V/n}\sim F(m,n)\)。
• 直觉解释：F 分布本质上是在比较两个“方差型波动”。
• 典型场景：比较两个总体方差、方差分析 ANOVA。

次序统计量 order statistic

• 一句话定义：把样本从小到大排序后得到的统计量。
• 专业表达：\(X_{(1)}\le X_{(2)}\le\cdots\le X_{(n)}\)。
• 典型场景：最小值、最大值、中位数、分位数。
• 和后续章节的关系：非参数统计、极值分析、分位数估计都会用到。

极限分布 limiting distribution

• 一句话定义：当样本量 \(n\) 趋于无穷时，统计量逐渐接近的分布。
• 最重要例子：中心极限定理。
• 直觉解释：即使总体不正态，样本均值在大样本下也常常近似正态。

充分统计量 sufficient statistic

• 一句话定义：如果一个统计量包含了样本中关于参数的全部信息，它就是充分统计量。
• 直觉解释：为了估计参数，有些数据细节可以压缩，只保留关键信息。
• 例子：若 \(X_i\sim Bernoulli(p)\)，则 \(\sum_{i=1}^n X_i\) 是关于 \(p\) 的充分统计量。
• 学习要求：先理解“信息压缩”的直觉，不急着证明因子分解定理。

公式与推导

正态总体样本均值

\[ \bar X \sim N\left(\mu,\frac{\sigma^2}{n}\right) \]

含义：样本均值的中心仍是 \(\mu\)，标准差变成 \(\sigma/\sqrt n\)。

样本方差与 chi-square 分布

\[ \frac{(n-1)S^2}{\sigma^2}\sim \chi^2(n-1) \]

含义：样本方差经过标准化后服从 chi-square 分布，自由度是 \(n-1\)。

t 统计量

\[ T=\frac{\bar X-\mu}{S/\sqrt n}\sim t(n-1) \]

含义：总体方差未知时，用 \(S\) 代替 \(\sigma\)，得到 t 分布。

F 统计量

\[ F=\frac{U/m}{V/n}\sim F(m,n) \]

含义：两个标准化 chi-square 变量的比值服从 F 分布。

中心极限定理

若 \(X_i\) 独立同分布，均值为 \(\mu\)，方差为 \(\sigma^2\)，则大样本下：

\[ \frac{\bar X-\mu}{\sigma/\sqrt n}\approx N(0,1) \]

含义：样本均值经标准化后近似标准正态。

代码任务 1：模拟中心极限定理

import numpy as np  # 导入 numpy，用于随机数和数值计算

import matplotlib.pyplot as plt  # 导入 matplotlib，用于画图



np.random.seed(42)  # 固定随机种子，保证结果可复现



sample_means = []  # 创建列表，用来保存每次抽样得到的样本均值



for i in range(5000):  # 重复抽样 5000 次

    sample = np.random.exponential(scale=1, size=30)  # 从指数分布抽 30 个样本，指数分布本身不是正态

    sample_means.append(np.mean(sample))  # 计算这 30 个样本的均值并保存



plt.hist(sample_means, bins=40, density=True)  # 画出 5000 个样本均值的直方图

plt.title("Sampling distribution of sample mean")  # 设置图标题

plt.xlabel("sample mean")  # 设置横轴名称

plt.ylabel("density")  # 设置纵轴名称

plt.show()  # 显示图形

结果解释：虽然原始数据来自指数分布，不是正态分布，但样本均值的分布会变得接近正态。

代码任务 2：模拟 chi-square 分布来源

import numpy as np  # 导入 numpy

import matplotlib.pyplot as plt  # 导入画图库



np.random.seed(42)  # 固定随机种子



chi_values = []  # 保存 chi-square 变量的列表



for i in range(5000):  # 重复 5000 次

    z = np.random.normal(0, 1, size=5)  # 生成 5 个标准正态变量

    chi_square = np.sum(z**2)  # 把 5 个标准正态变量平方后相加

    chi_values.append(chi_square)  # 保存这次得到的 chi-square 值



plt.hist(chi_values, bins=40, density=True)  # 画出模拟得到的 chi-square 分布

plt.title("Chi-square distribution with df=5")  # 标题说明自由度为 5

plt.xlabel("value")  # 横轴

plt.ylabel("density")  # 纵轴

plt.show()  # 显示图

结果解释：chi-square 分布来自标准正态变量平方和，自由度就是平方和中独立标准正态变量的个数。

代码任务 3：模拟 t 分布来源

import numpy as np  # 导入 numpy

import matplotlib.pyplot as plt  # 导入画图库



np.random.seed(42)  # 固定随机种子



t_values = []  # 保存 t 统计量



mu = 0  # 设置总体均值

sigma = 1  # 设置总体标准差

n = 10  # 设置样本量



for i in range(5000):  # 重复抽样 5000 次

    sample = np.random.normal(mu, sigma, size=n)  # 从正态总体中抽取 n 个样本

    sample_mean = np.mean(sample)  # 计算样本均值

    sample_std = np.std(sample, ddof=1)  # 计算样本标准差，ddof=1 对应无偏样本方差

    t = (sample_mean - mu) / (sample_std / np.sqrt(n))  # 构造 t 统计量

    t_values.append(t)  # 保存 t 值



plt.hist(t_values, bins=40, density=True)  # 画出 t 统计量的模拟分布

plt.title("t distribution with df=9")  # 样本量为 10，自由度为 9

plt.xlabel("t value")  # 横轴

plt.ylabel("density")  # 纵轴

plt.show()  # 显示图

结果解释：总体方差未知，用样本标准差代替总体标准差时，标准化后的样本均值服从 t 分布。

代码任务 4：模拟 F 分布来源

import numpy as np  # 导入 numpy

import matplotlib.pyplot as plt  # 导入画图库



np.random.seed(42)  # 固定随机种子



f_values = []  # 保存 F 统计量



for i in range(5000):  # 重复模拟 5000 次

    u = np.sum(np.random.normal(0, 1, size=5)**2)  # 生成自由度为 5 的 chi-square 变量

    v = np.sum(np.random.normal(0, 1, size=10)**2)  # 生成自由度为 10 的 chi-square 变量

    f = (u / 5) / (v / 10)  # 两个 chi-square 变量分别除以自由度后再相除

    f_values.append(f)  # 保存 F 值



plt.hist(f_values, bins=40, density=True)  # 画出 F 分布模拟结果

plt.title("F distribution with df=(5, 10)")  # 标题说明两个自由度

plt.xlabel("F value")  # 横轴

plt.ylabel("density")  # 纵轴

plt.show()  # 显示图

结果解释：F 分布本质上比较两个方差型波动，所以常用于比较两个总体方差或方差分析。

课后作业与答案

题 1：什么是抽样分布？

答案：统计量的概率分布。

解释：样本不同，统计量不同；统计量的随机波动规律就是抽样分布。

题 2：若 \(X_i\sim N(\mu,\sigma^2)\)，\(\bar X\) 的分布是什么？

答案：

\[ \bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right) \]

解释：样本均值仍服从正态分布，均值不变，方差变为原来的 \(1/n\)。

题 3：chi-square 分布从哪里来？

答案：独立标准正态变量的平方和。

\[ Z_1^2+\cdots+Z_k^2\sim \chi^2(k) \]

题 4：为什么总体方差未知时常用 t 分布？

答案：因为标准化样本均值中使用了样本标准差 \(S\) 代替未知的总体标准差 \(\sigma\)，引入了额外不确定性，所以服从 t 分布。

题 5：F 分布通常用于什么问题？

答案：比较方差或方差分析。

解释：F 变量来自两个标准化 chi-square 变量的比值，本质上适合比较两个方差型数量。

题 6：判断题：中心极限定理要求总体必须正态。

答案：错误。

解释：中心极限定理的重要意义是：在较宽条件下，即使总体不正态，样本均值也会近似正态。

题 7：代码题：模拟样本量变大时样本均值波动变小。

import numpy as np  # 导入 numpy



np.random.seed(42)  # 固定随机种子



for n in [5, 30, 100]:  # 分别设置三个样本量

    means = []  # 保存该样本量下多次抽样的样本均值



    for i in range(3000):  # 每个样本量重复抽样 3000 次

        sample = np.random.normal(70, 10, size=n)  # 从均值 70、标准差 10 的总体中抽样

        means.append(np.mean(sample))  # 计算样本均值并保存



    print("样本量:", n)  # 输出当前样本量

    print("样本均值的标准差:", np.std(means))  # 输出样本均值的波动大小

答案解释：随着 \(n\) 从 5 增加到 30、100，样本均值的标准差会下降。理论上 \(SD(\bar X)=\sigma/\sqrt n\)。

题 8：报告表达题：如何说明“为什么这里使用 t 检验”？

答案：

由于研究目标是检验总体均值，而总体方差未知，因此使用样本标准差 \(S\) 代替总体标准差 \(\sigma\)。在正态总体假设下，统计量 \((\bar X-\mu)/(S/\sqrt n)\) 服从自由度为 \(n-1\) 的 t 分布，因此采用 t 检验。

可以追问老师/同学的问题

• 正态总体假设在小样本下有多重要？
• 什么时候可以用中心极限定理做大样本近似？
• t 分布和标准正态分布在样本量增大时有什么关系？
• F 分布为什么适合比较方差？

给 AI 的高质量提示词

请解释这个统计推断问题中应该使用 z 分布、t 分布、chi-square 分布还是 F 分布。请先判断研究对象是均值、方差、两个方差比，还是拟合优度/列联表，再给出对应统计量和直觉解释。