模拟组会：第 04 次

综合实践 · 06_论文与组会/模拟组会_第04次.md

主题

用最低数学语言解释统计建模：期望、方差、矩阵、梯度和损失函数。

大家好，我这次准备的是统计和机器学习中最常见的一些数学语言，重点不是严格证明，而是理解它们在建模中起什么作用。

首先是期望和方差。我的理解是，期望描述随机变量的平均水平，方差描述围绕平均水平的波动。这两个指标是很多统计分析的基础，但如果研究对象是极端事件或尾部风险，只看期望和方差是不够的。比如两个系统的平均损失可能差不多，但尾部极端损失可能完全不同。

其次是协方差和相关系数。协方差描述两个变量是否一起变化，但受量纲影响；相关系数是标准化后的协方差，更方便比较。不过相关只说明变量之间有关联，不能直接说明因果关系。

在线性模型和机器学习里，矩阵乘法是很常见的表达方式。比如 Xβ 可以理解为把多个特征按参数权重组合起来，对所有样本同时生成预测。看到矩阵公式时，我现在会先问：行代表什么，列代表什么，维度是否匹配。

最后是梯度和损失函数。损失函数定义模型错得有多严重，梯度告诉我们参数应该往哪个方向调整。模型训练很多时候就是不断调整参数，让损失函数变小。这里我目前更关注直觉和应用，还没有完全掌握复杂矩阵求导。

所以我现在看公式的策略是：先判断它属于估计、优化、预测还是风险度量；再识别数据、参数和输出；最后让 AI 帮我拆推导，并检查符号和假设是否一致。

期望是理论上的总体平均，样本均值是根据观测数据计算出来的估计。样本量足够大且条件合适时，样本均值可以接近期望。

不能。方差描述整体波动，但对尾部极端损失不够直接。极值问题通常还需要分位数、VaR、Expected Shortfall 等指标。

因为两个变量相关可能来自共同原因、选择偏差或偶然结构。要讨论因果，需要额外设计或假设。

它用梯度判断损失函数变化方向，然后沿着让损失变小的方向更新参数。

因为维度能告诉我们行列分别代表什么，也能检查公式是否可能成立。很多公式理解错误其实是维度没弄清。