章节学习页
# 第 1 章 绪论
本章在学什么
一句话目标:把现实数据问题翻译成“总体、样本、参数、统计量”的统计推断语言。
在统计学习链条中的位置:
现实问题 -> 总体和样本 -> 参数和统计量 -> 抽样分布 -> 估计、区间、检验、Bayes 推断
未来用途:以后遇到课程题、科研数据或工作数据时,先判断总体是谁、样本是什么、未知参数是什么、可以从样本中计算哪些统计量。这个判断决定后面该用点估计、区间估计还是假设检验。
教材目录
- 1.1 什么是数理统计学
- 1.2 数理统计的若干基本概念
- 1.3 统计量
- 习题 1
必须掌握的概念
- 总体 population
- 样本 sample
- 参数 parameter
- 统计量 statistic
- 样本空间 sample space
- 参数空间 parameter space
- 分布族 family of distributions
- i.i.d. independent and identically distributed
- 经验分布 empirical distribution
概念填充区
总体 population
一句话定义:总体是研究对象所有可能观测值的集合,通常用一个随机变量的分布表示。
直觉解释:总体是你真正关心的“完整对象”。例如你想研究全校学生成绩,全校学生成绩的分布就是总体;你想研究某设备长期误差,所有可能误差值的分布就是总体。
专业表达:设随机变量 X 表示研究对象,X 的分布函数 F(x) 或密度函数 f(x) 描述总体。
常见符号:X、F(x)、f(x)、N(mu, sigma^2)。
典型应用场景:研究所有用户的平均满意度、所有产品的缺陷率、所有学生的平均成绩。
容易混淆的点:总体不是手里的 Excel 表格;表格通常只是样本。总体往往看不全,只能通过样本推断。
和后续章节的关系:点估计、区间估计和假设检验都是在推断总体参数或总体分布。
给 AI 的高质量提问方式:请帮我判断这个数据问题中的总体是什么,并说明它对应的随机变量和可能的分布形式。
样本 sample
一句话定义:样本是从总体中抽取的若干观测值。
直觉解释:你看不到完整总体,只能看到一部分数据,这部分数据就是样本。
专业表达:若 X1,...,Xn 独立同分布于总体 F,则称 X1,...,Xn 为来自总体 F 的简单随机样本。
常见符号:随机样本写作 X1,...,Xn;抽样后的具体数值写作 x1,...,xn。
典型应用场景:从全校学生中抽 100 人记录成绩;从所有用户中抽 500 人调查满意度。
容易混淆的点:Xi 是抽样前的随机变量,xi 是抽样后的具体观测值。
和后续章节的关系:统计量都是样本的函数,抽样分布研究统计量在重复抽样下的分布。
给 AI 的高质量提问方式:请区分这道题中的随机样本 Xi 和观测值 xi,并说明它们分别在公式和代码中怎么表示。
参数 parameter
一句话定义:参数是描述总体分布的未知常数。
直觉解释:参数是你想知道但通常不知道的“总体真相”。
专业表达:若总体分布属于 {f(x; theta): theta in Theta},其中 theta 是未知参数,Theta 是参数空间。
常见符号:theta、mu、sigma^2、p、lambda。
典型应用场景:正态总体 N(mu, sigma^2) 中,mu 是总体均值,sigma^2 是总体方差;Bernoulli(p) 中,p 是成功概率。
容易混淆的点:参数不是从样本算出来的数,它是总体本身的未知量。
和后续章节的关系:估计和检验的目标通常就是参数。
给 AI 的高质量提问方式:请判断这道题中哪些符号是参数,哪些符号是统计量,并说明依据。
统计量 statistic
一句话定义:统计量是不含未知参数的样本函数。
直觉解释:统计量是你从数据里算出来、用来推断总体的工具。
专业表达:若 T = T(X1,...,Xn) 不含未知参数,则 T 是统计量。
常见符号:样本均值 Xbar、样本方差 S^2、样本最大值 X_(n)、样本最小值 X_(1)。
典型应用场景:用样本均值估计总体均值,用样本方差估计总体方差。
容易混淆的点:Xbar 是统计量,mu 是参数;S^2 是统计量,sigma^2 是参数。
和后续章节的关系:抽样分布研究统计量的分布;点估计用统计量估计参数;假设检验用统计量判断假设。
给 AI 的高质量提问方式:请说明这个量为什么是统计量,它是否只由样本决定,是否含未知参数。
样本空间 sample space
一句话定义:样本空间是所有可能样本结果的集合。
直觉解释:抽样前,你可能得到很多种不同数据组合,这些可能结果合在一起就是样本空间。
专业表达:若单个观测值的取值空间为 X,则容量为 n 的样本空间通常是 X^n。
常见符号:Omega、S、X^n。
典型应用场景:投掷硬币 3 次,样本空间包含 HHH、HHT、HTH 等 8 种结果。
容易混淆的点:样本空间是“可能结果集合”,不是已经观察到的那一组数据。
和后续章节的关系:统计量是定义在样本空间上的函数。
给 AI 的高质量提问方式:请写出这个随机试验的样本空间,并说明统计量如何从样本空间映射到数值。
参数空间 parameter space
一句话定义:参数空间是参数所有允许取值的集合。
直觉解释:参数不是任何值都能取,它必须满足分布或问题背景的约束。
专业表达:参数 theta 的取值范围记为 Theta。
常见符号:Theta。
典型应用场景:Bernoulli(p) 中 p in [0,1];Poisson(lambda) 中 lambda > 0;正态分布 N(mu, sigma^2) 中 mu in R 且 sigma^2 > 0。
容易混淆的点:参数空间约束来自模型本身,不是样本结果决定的。
和后续章节的关系:估计量、检验和 Bayes 先验都必须尊重参数空间。
给 AI 的高质量提问方式:请写出这个模型的参数空间,并说明为什么参数不能取其他值。
分布族 family of distributions
一句话定义:分布族是一组由参数控制的概率分布。
直觉解释:正态分布不是一个单独分布,而是一类分布;不同 mu 和 sigma^2 会给出不同的正态分布。
专业表达:{f(x; theta): theta in Theta} 表示一个参数分布族。
常见符号:{N(mu, sigma^2): mu in R, sigma^2 > 0}。
典型应用场景:用正态分布族描述连续测量误差,用 Poisson 分布族描述计数数据。
容易混淆的点:选择分布族是建模假设;参数估计是在分布族内部确定最合适的成员。
和后续章节的关系:最大似然估计、充分统计量和假设检验都依赖分布族。
给 AI 的高质量提问方式:请判断这个数据适合哪个分布族,并说明该分布族的参数含义。
i.i.d.
一句话定义:i.i.d. 表示 independent and identically distributed,即相互独立且同分布。
直觉解释:每个样本点都来自同一个总体,而且彼此不互相影响。
专业表达:X1,...,Xn overset{i.i.d.}{sim} F。
常见符号:X1,...,Xn i.i.d. ~ F。
典型应用场景:从同一总体随机抽取 n 个个体,且每次抽取互不影响。
容易混淆的点:同分布不等于数值相同;独立也不等于现实背景完全无关系,而是概率模型中的条件。
和后续章节的关系:很多抽样分布、极限定理和估计性质都默认 i.i.d.。
给 AI 的高质量提问方式:请判断这个数据是否适合假设为 i.i.d.,如果不适合,可能违反独立性还是同分布性。
经验分布 empirical distribution
一句话定义:经验分布是用样本构造出来的总体分布近似。
直觉解释:不知道真实总体分布时,先用样本频率近似总体分布。
专业表达:经验分布函数为 Fn(x) = (1/n) sum I(Xi <= x)。
常见符号:Fn(x)。
典型应用场景:画直方图、经验分布函数、bootstrap、非参数统计。
容易混淆的点:经验分布是样本给出的近似,不等于真实总体分布 F(x)。
和后续章节的关系:非参数方法和 bootstrap 都大量依赖经验分布思想。
给 AI 的高质量提问方式:请用经验分布解释这组样本如何近似总体分布,并给出 Python 可视化代码。
公式与推导
样本均值
含义:样本均值用于估计总体均值。
数学表达:
Xbar = (1/n) * sum_{i=1}^n Xi
容易卡住的地方:Xbar 是随机变量,因为抽样前 Xi 是随机的;抽样后得到的 xbar 是一个具体数值。
样本方差
含义:样本方差用于估计总体方差。
数学表达:
S^2 = 1/(n-1) * sum_{i=1}^n (Xi - Xbar)^2
容易卡住的地方:分母用 n-1 是为了修正用样本均值代替总体均值带来的系统性偏小。
经验分布函数
含义:Fn(x) 表示样本中不超过 x 的比例。
数学表达:
Fn(x) = (1/n) * sum_{i=1}^n I(Xi <= x)
容易卡住的地方:I(Xi <= x) 是指示函数,条件成立记 1,不成立记 0。
代码任务
任务 1:模拟总体和样本,比较参数与统计量
import numpy as np # 导入 numpy,用来生成随机数和做数值计算
np.random.seed(42) # 固定随机种子,让每次运行结果一致,方便复现
mu = 70 # 设置总体均值参数;真实研究中通常未知
sigma = 10 # 设置总体标准差参数;真实研究中通常未知
population = np.random.normal(mu, sigma, size=100000) # 模拟一个很大的总体,近似代表所有可能成绩
sample = np.random.choice(population, size=30, replace=False) # 从总体中不放回抽取 30 个观测值作为样本
sample_mean = np.mean(sample) # 计算样本均值,它是统计量,用来估计总体均值 mu
sample_var = np.var(sample, ddof=1) # 计算无偏样本方差,ddof=1 对应分母 n-1
print("总体均值参数 mu:", mu) # 输出总体均值参数;这里是模拟场景所以我们知道真值
print("样本均值统计量 sample_mean:", sample_mean) # 输出样本均值;换一批样本会改变
print("总体方差参数 sigma^2:", sigma**2) # 输出总体方差参数
print("样本方差统计量 sample_var:", sample_var) # 输出样本方差;换一批样本也会改变
统计含义:mu 和 sigma^2 是总体参数,不由样本计算得到;sample_mean 和 sample_var 是统计量,由样本计算得到。统计量会随抽样变化,参数在模型中固定但未知。
任务 2:观察样本均值随抽样变化
import numpy as np # 导入 numpy
import pandas as pd # 导入 pandas,方便把重复抽样结果整理成表格
np.random.seed(42) # 固定随机种子
mu = 70 # 总体均值参数
sigma = 10 # 总体标准差参数
n = 30 # 每次抽样的样本量
repeat = 1000 # 重复抽样次数
records = [] # 创建空列表,用来保存每次抽样得到的统计量
for i in range(repeat): # 重复抽样 repeat 次
sample = np.random.normal(mu, sigma, size=n) # 每次从同一正态总体中抽取 n 个样本
records.append({ # 把本次抽样结果保存为一条记录
"sample_id": i + 1, # 保存第几次抽样,方便追踪
"sample_mean": np.mean(sample), # 保存本次样本均值
"sample_var": np.var(sample, ddof=1) # 保存本次无偏样本方差
})
result = pd.DataFrame(records) # 把记录列表转换成 DataFrame,方便查看和分析
print(result.head()) # 查看前 5 次抽样的样本均值和样本方差
print("样本均值的平均值:", result["sample_mean"].mean()) # 看重复抽样下样本均值平均是否接近 mu
print("样本均值的标准差:", result["sample_mean"].std()) # 看样本均值本身的波动大小
统计含义:单次样本均值可能偏离 70,但重复抽样很多次后,样本均值的平均会接近总体均值。样本均值的标准差反映估计的不确定性,这会在第 2 章发展为抽样分布和标准误。
任务 3:画经验分布直觉图
import numpy as np # 导入 numpy
import matplotlib.pyplot as plt # 导入 matplotlib,用来画图
np.random.seed(42) # 固定随机种子
sample = np.random.normal(70, 10, size=50) # 从正态总体中抽取 50 个样本
sorted_sample = np.sort(sample) # 对样本从小到大排序,经验分布函数需要按 x 递增展示
empirical_prob = np.arange(1, len(sample) + 1) / len(sample) # 计算每个排序点对应的累计比例
plt.step(sorted_sample, empirical_prob, where="post") # 画阶梯图,表示经验分布函数
plt.xlabel("x") # 设置横轴名称,表示观测值
plt.ylabel("Fn(x)") # 设置纵轴名称,表示样本中不超过 x 的比例
plt.title("Empirical Distribution Function") # 设置图标题
plt.show() # 显示图形
统计含义:经验分布函数展示“样本中有多少比例不超过某个值”。样本量越大,经验分布通常越接近真实总体分布。
课后作业与答案
题 1:判断 mu 是参数还是统计量
答案:参数。
解释:mu 描述总体均值,不是由样本计算得到。
题 2:判断 Xbar 是参数还是统计量
答案:统计量。
解释:Xbar 是由样本 X1,...,Xn 计算出来的样本函数,不含未知参数。
题 3:判断 S^2 是参数还是统计量
答案:统计量。
解释:S^2 由样本计算得到,用来估计总体方差 sigma^2。
题 4:某公司抽取 200 名用户调查满意度,这 200 名用户的数据是总体还是样本?
答案:样本。
解释:真正关心的是所有用户的满意度,200 名用户只是从总体中抽出的一部分。
题 5:若 X1,...,Xn ~ N(mu, sigma^2),哪些量通常是未知参数?
答案:mu 和 sigma^2。
解释:它们控制总体正态分布的位置和波动,通常需要用样本估计。
题 6:代码题:模拟 50 个样本并计算样本均值
import numpy as np # 导入 numpy
np.random.seed(1) # 固定随机种子,保证结果可复现
sample = np.random.normal(100, 15, size=50) # 从均值 100、标准差 15 的正态总体抽取 50 个样本
sample_mean = np.mean(sample) # 计算样本均值
print(sample_mean) # 输出样本均值
答案解释:输出结果是这 50 个样本的平均数,可作为总体均值 100 的一个样本估计。换一个随机种子或换一批样本,样本均值会变化。
题 7:报告表达题:如何专业描述“我用 30 个样本估计总体平均值”?
答案:
设总体均值为未知参数 mu。我们从总体中获得容量为 30 的随机样本,并使用样本均值 Xbar 作为 mu 的点估计。
解释:这句话同时说明了参数、样本量、统计量和推断目标。
题 8:判断经验分布 Fn(x) 是参数还是统计量?
答案:统计量。
解释:Fn(x) 由样本 X1,...,Xn 构造,不含未知参数;它用样本频率近似总体分布 F(x)。
报告可写表达
本题首先需要明确总体、样本、参数和统计量。总体是研究对象的完整分布,样本是从总体中获得的观测数据,参数是总体中的未知常数,统计量是只由样本计算得到的函数。后续估计和检验都建立在这一对应关系之上。
可以追问老师/同学的问题
- “统计量不能含未知参数”是不是判断统计量的核心标准?
- 样本方差为什么分母用 n-1,而不是 n?
- 现实数据不满足 i.i.d. 时,本课程中的方法还能怎样使用?
- 经验分布和总体分布 F(x) 的关系能否用 bootstrap 进一步理解?
给 AI 的高质量提示词
请把我的数据分析问题改写为数理统计语言,明确总体、样本、参数、统计量、样本空间和参数空间;再判断我应该做点估计、区间估计还是假设检验。请用跨专业学生能理解的方式解释,并给出一个最小 Python 示例。
反向链接
README统计推断_自测题与答案索引
数理统计
统计推断
统计推断核心概念索引