TTiti的学习笔记
首页 / 专业知识 / 05-Courses/数理统计/02-Notes/统计推断/01_绪论/章节学习页.md

章节学习页

专业知识 · 05-Courses/数理统计/02-Notes/统计推断/01_绪论/章节学习页.md

# 第 1 章 绪论

本章在学什么

一句话目标:把现实数据问题翻译成“总体、样本、参数、统计量”的统计推断语言。

在统计学习链条中的位置:


现实问题 -> 总体和样本 -> 参数和统计量 -> 抽样分布 -> 估计、区间、检验、Bayes 推断

未来用途:以后遇到课程题、科研数据或工作数据时,先判断总体是谁、样本是什么、未知参数是什么、可以从样本中计算哪些统计量。这个判断决定后面该用点估计、区间估计还是假设检验。

教材目录

  • 1.1 什么是数理统计学
  • 1.2 数理统计的若干基本概念
  • 1.3 统计量
  • 习题 1

必须掌握的概念

  • 总体 population
  • 样本 sample
  • 参数 parameter
  • 统计量 statistic
  • 样本空间 sample space
  • 参数空间 parameter space
  • 分布族 family of distributions
  • i.i.d. independent and identically distributed
  • 经验分布 empirical distribution

概念填充区

总体 population

一句话定义:总体是研究对象所有可能观测值的集合,通常用一个随机变量的分布表示。

直觉解释:总体是你真正关心的“完整对象”。例如你想研究全校学生成绩,全校学生成绩的分布就是总体;你想研究某设备长期误差,所有可能误差值的分布就是总体。

专业表达:设随机变量 X 表示研究对象,X 的分布函数 F(x) 或密度函数 f(x) 描述总体。

常见符号:X、F(x)、f(x)、N(mu, sigma^2)。

典型应用场景:研究所有用户的平均满意度、所有产品的缺陷率、所有学生的平均成绩。

容易混淆的点:总体不是手里的 Excel 表格;表格通常只是样本。总体往往看不全,只能通过样本推断。

和后续章节的关系:点估计、区间估计和假设检验都是在推断总体参数或总体分布。

给 AI 的高质量提问方式:请帮我判断这个数据问题中的总体是什么,并说明它对应的随机变量和可能的分布形式。

样本 sample

一句话定义:样本是从总体中抽取的若干观测值。

直觉解释:你看不到完整总体,只能看到一部分数据,这部分数据就是样本。

专业表达:若 X1,...,Xn 独立同分布于总体 F,则称 X1,...,Xn 为来自总体 F 的简单随机样本。

常见符号:随机样本写作 X1,...,Xn;抽样后的具体数值写作 x1,...,xn。

典型应用场景:从全校学生中抽 100 人记录成绩;从所有用户中抽 500 人调查满意度。

容易混淆的点:Xi 是抽样前的随机变量,xi 是抽样后的具体观测值。

和后续章节的关系:统计量都是样本的函数,抽样分布研究统计量在重复抽样下的分布。

给 AI 的高质量提问方式:请区分这道题中的随机样本 Xi 和观测值 xi,并说明它们分别在公式和代码中怎么表示。

参数 parameter

一句话定义:参数是描述总体分布的未知常数。

直觉解释:参数是你想知道但通常不知道的“总体真相”。

专业表达:若总体分布属于 {f(x; theta): theta in Theta},其中 theta 是未知参数,Theta 是参数空间。

常见符号:theta、mu、sigma^2、p、lambda。

典型应用场景:正态总体 N(mu, sigma^2) 中,mu 是总体均值,sigma^2 是总体方差;Bernoulli(p) 中,p 是成功概率。

容易混淆的点:参数不是从样本算出来的数,它是总体本身的未知量。

和后续章节的关系:估计和检验的目标通常就是参数。

给 AI 的高质量提问方式:请判断这道题中哪些符号是参数,哪些符号是统计量,并说明依据。

统计量 statistic

一句话定义:统计量是不含未知参数的样本函数。

直觉解释:统计量是你从数据里算出来、用来推断总体的工具。

专业表达:若 T = T(X1,...,Xn) 不含未知参数,则 T 是统计量。

常见符号:样本均值 Xbar、样本方差 S^2、样本最大值 X_(n)、样本最小值 X_(1)。

典型应用场景:用样本均值估计总体均值,用样本方差估计总体方差。

容易混淆的点:Xbar 是统计量,mu 是参数;S^2 是统计量,sigma^2 是参数。

和后续章节的关系:抽样分布研究统计量的分布;点估计用统计量估计参数;假设检验用统计量判断假设。

给 AI 的高质量提问方式:请说明这个量为什么是统计量,它是否只由样本决定,是否含未知参数。

样本空间 sample space

一句话定义:样本空间是所有可能样本结果的集合。

直觉解释:抽样前,你可能得到很多种不同数据组合,这些可能结果合在一起就是样本空间。

专业表达:若单个观测值的取值空间为 X,则容量为 n 的样本空间通常是 X^n。

常见符号:Omega、S、X^n。

典型应用场景:投掷硬币 3 次,样本空间包含 HHH、HHT、HTH 等 8 种结果。

容易混淆的点:样本空间是“可能结果集合”,不是已经观察到的那一组数据。

和后续章节的关系:统计量是定义在样本空间上的函数。

给 AI 的高质量提问方式:请写出这个随机试验的样本空间,并说明统计量如何从样本空间映射到数值。

参数空间 parameter space

一句话定义:参数空间是参数所有允许取值的集合。

直觉解释:参数不是任何值都能取,它必须满足分布或问题背景的约束。

专业表达:参数 theta 的取值范围记为 Theta。

常见符号:Theta。

典型应用场景:Bernoulli(p) 中 p in [0,1];Poisson(lambda) 中 lambda > 0;正态分布 N(mu, sigma^2) 中 mu in R 且 sigma^2 > 0。

容易混淆的点:参数空间约束来自模型本身,不是样本结果决定的。

和后续章节的关系:估计量、检验和 Bayes 先验都必须尊重参数空间。

给 AI 的高质量提问方式:请写出这个模型的参数空间,并说明为什么参数不能取其他值。

分布族 family of distributions

一句话定义:分布族是一组由参数控制的概率分布。

直觉解释:正态分布不是一个单独分布,而是一类分布;不同 mu 和 sigma^2 会给出不同的正态分布。

专业表达:{f(x; theta): theta in Theta} 表示一个参数分布族。

常见符号:{N(mu, sigma^2): mu in R, sigma^2 > 0}。

典型应用场景:用正态分布族描述连续测量误差,用 Poisson 分布族描述计数数据。

容易混淆的点:选择分布族是建模假设;参数估计是在分布族内部确定最合适的成员。

和后续章节的关系:最大似然估计、充分统计量和假设检验都依赖分布族。

给 AI 的高质量提问方式:请判断这个数据适合哪个分布族,并说明该分布族的参数含义。

i.i.d.

一句话定义:i.i.d. 表示 independent and identically distributed,即相互独立且同分布。

直觉解释:每个样本点都来自同一个总体,而且彼此不互相影响。

专业表达:X1,...,Xn overset{i.i.d.}{sim} F。

常见符号:X1,...,Xn i.i.d. ~ F。

典型应用场景:从同一总体随机抽取 n 个个体,且每次抽取互不影响。

容易混淆的点:同分布不等于数值相同;独立也不等于现实背景完全无关系,而是概率模型中的条件。

和后续章节的关系:很多抽样分布、极限定理和估计性质都默认 i.i.d.。

给 AI 的高质量提问方式:请判断这个数据是否适合假设为 i.i.d.,如果不适合,可能违反独立性还是同分布性。

经验分布 empirical distribution

一句话定义:经验分布是用样本构造出来的总体分布近似。

直觉解释:不知道真实总体分布时,先用样本频率近似总体分布。

专业表达:经验分布函数为 Fn(x) = (1/n) sum I(Xi <= x)。

常见符号:Fn(x)。

典型应用场景:画直方图、经验分布函数、bootstrap、非参数统计。

容易混淆的点:经验分布是样本给出的近似,不等于真实总体分布 F(x)。

和后续章节的关系:非参数方法和 bootstrap 都大量依赖经验分布思想。

给 AI 的高质量提问方式:请用经验分布解释这组样本如何近似总体分布,并给出 Python 可视化代码。

公式与推导

样本均值

含义:样本均值用于估计总体均值。

数学表达:


Xbar = (1/n) * sum_{i=1}^n Xi

容易卡住的地方:Xbar 是随机变量,因为抽样前 Xi 是随机的;抽样后得到的 xbar 是一个具体数值。

样本方差

含义:样本方差用于估计总体方差。

数学表达:


S^2 = 1/(n-1) * sum_{i=1}^n (Xi - Xbar)^2

容易卡住的地方:分母用 n-1 是为了修正用样本均值代替总体均值带来的系统性偏小。

经验分布函数

含义:Fn(x) 表示样本中不超过 x 的比例。

数学表达:


Fn(x) = (1/n) * sum_{i=1}^n I(Xi <= x)

容易卡住的地方:I(Xi <= x) 是指示函数,条件成立记 1,不成立记 0。

代码任务

任务 1:模拟总体和样本,比较参数与统计量


import numpy as np  # 导入 numpy,用来生成随机数和做数值计算



np.random.seed(42)  # 固定随机种子,让每次运行结果一致,方便复现



mu = 70  # 设置总体均值参数;真实研究中通常未知

sigma = 10  # 设置总体标准差参数;真实研究中通常未知



population = np.random.normal(mu, sigma, size=100000)  # 模拟一个很大的总体,近似代表所有可能成绩

sample = np.random.choice(population, size=30, replace=False)  # 从总体中不放回抽取 30 个观测值作为样本



sample_mean = np.mean(sample)  # 计算样本均值,它是统计量,用来估计总体均值 mu

sample_var = np.var(sample, ddof=1)  # 计算无偏样本方差,ddof=1 对应分母 n-1



print("总体均值参数 mu:", mu)  # 输出总体均值参数;这里是模拟场景所以我们知道真值

print("样本均值统计量 sample_mean:", sample_mean)  # 输出样本均值;换一批样本会改变

print("总体方差参数 sigma^2:", sigma**2)  # 输出总体方差参数

print("样本方差统计量 sample_var:", sample_var)  # 输出样本方差;换一批样本也会改变

统计含义:mu 和 sigma^2 是总体参数,不由样本计算得到;sample_mean 和 sample_var 是统计量,由样本计算得到。统计量会随抽样变化,参数在模型中固定但未知。

任务 2:观察样本均值随抽样变化


import numpy as np  # 导入 numpy

import pandas as pd  # 导入 pandas,方便把重复抽样结果整理成表格



np.random.seed(42)  # 固定随机种子



mu = 70  # 总体均值参数

sigma = 10  # 总体标准差参数

n = 30  # 每次抽样的样本量

repeat = 1000  # 重复抽样次数



records = []  # 创建空列表,用来保存每次抽样得到的统计量



for i in range(repeat):  # 重复抽样 repeat 次

    sample = np.random.normal(mu, sigma, size=n)  # 每次从同一正态总体中抽取 n 个样本

    records.append({  # 把本次抽样结果保存为一条记录

        "sample_id": i + 1,  # 保存第几次抽样,方便追踪

        "sample_mean": np.mean(sample),  # 保存本次样本均值

        "sample_var": np.var(sample, ddof=1)  # 保存本次无偏样本方差

    })



result = pd.DataFrame(records)  # 把记录列表转换成 DataFrame,方便查看和分析



print(result.head())  # 查看前 5 次抽样的样本均值和样本方差

print("样本均值的平均值:", result["sample_mean"].mean())  # 看重复抽样下样本均值平均是否接近 mu

print("样本均值的标准差:", result["sample_mean"].std())  # 看样本均值本身的波动大小

统计含义:单次样本均值可能偏离 70,但重复抽样很多次后,样本均值的平均会接近总体均值。样本均值的标准差反映估计的不确定性,这会在第 2 章发展为抽样分布和标准误。

任务 3:画经验分布直觉图


import numpy as np  # 导入 numpy

import matplotlib.pyplot as plt  # 导入 matplotlib,用来画图



np.random.seed(42)  # 固定随机种子



sample = np.random.normal(70, 10, size=50)  # 从正态总体中抽取 50 个样本

sorted_sample = np.sort(sample)  # 对样本从小到大排序,经验分布函数需要按 x 递增展示

empirical_prob = np.arange(1, len(sample) + 1) / len(sample)  # 计算每个排序点对应的累计比例



plt.step(sorted_sample, empirical_prob, where="post")  # 画阶梯图,表示经验分布函数

plt.xlabel("x")  # 设置横轴名称,表示观测值

plt.ylabel("Fn(x)")  # 设置纵轴名称,表示样本中不超过 x 的比例

plt.title("Empirical Distribution Function")  # 设置图标题

plt.show()  # 显示图形

统计含义:经验分布函数展示“样本中有多少比例不超过某个值”。样本量越大,经验分布通常越接近真实总体分布。

课后作业与答案

题 1:判断 mu 是参数还是统计量

答案:参数。

解释:mu 描述总体均值,不是由样本计算得到。

题 2:判断 Xbar 是参数还是统计量

答案:统计量。

解释:Xbar 是由样本 X1,...,Xn 计算出来的样本函数,不含未知参数。

题 3:判断 S^2 是参数还是统计量

答案:统计量。

解释:S^2 由样本计算得到,用来估计总体方差 sigma^2。

题 4:某公司抽取 200 名用户调查满意度,这 200 名用户的数据是总体还是样本?

答案:样本。

解释:真正关心的是所有用户的满意度,200 名用户只是从总体中抽出的一部分。

题 5:若 X1,...,Xn ~ N(mu, sigma^2),哪些量通常是未知参数?

答案:mu 和 sigma^2。

解释:它们控制总体正态分布的位置和波动,通常需要用样本估计。

题 6:代码题:模拟 50 个样本并计算样本均值


import numpy as np  # 导入 numpy



np.random.seed(1)  # 固定随机种子,保证结果可复现



sample = np.random.normal(100, 15, size=50)  # 从均值 100、标准差 15 的正态总体抽取 50 个样本

sample_mean = np.mean(sample)  # 计算样本均值



print(sample_mean)  # 输出样本均值

答案解释:输出结果是这 50 个样本的平均数,可作为总体均值 100 的一个样本估计。换一个随机种子或换一批样本,样本均值会变化。

题 7:报告表达题:如何专业描述“我用 30 个样本估计总体平均值”?

答案:

设总体均值为未知参数 mu。我们从总体中获得容量为 30 的随机样本,并使用样本均值 Xbar 作为 mu 的点估计。

解释:这句话同时说明了参数、样本量、统计量和推断目标。

题 8:判断经验分布 Fn(x) 是参数还是统计量?

答案:统计量。

解释:Fn(x) 由样本 X1,...,Xn 构造,不含未知参数;它用样本频率近似总体分布 F(x)。

报告可写表达

本题首先需要明确总体、样本、参数和统计量。总体是研究对象的完整分布,样本是从总体中获得的观测数据,参数是总体中的未知常数,统计量是只由样本计算得到的函数。后续估计和检验都建立在这一对应关系之上。

可以追问老师/同学的问题

  • “统计量不能含未知参数”是不是判断统计量的核心标准?
  • 样本方差为什么分母用 n-1,而不是 n?
  • 现实数据不满足 i.i.d. 时,本课程中的方法还能怎样使用?
  • 经验分布和总体分布 F(x) 的关系能否用 bootstrap 进一步理解?

给 AI 的高质量提示词

请把我的数据分析问题改写为数理统计语言,明确总体、样本、参数、统计量、样本空间和参数空间;再判断我应该做点估计、区间估计还是假设检验。请用跨专业学生能理解的方式解释,并给出一个最小 Python 示例。