概念卡:损失函数 Loss Function
概念卡:损失函数 Loss Function
一句话定义
损失函数衡量模型预测结果和真实结果之间的差距。
它解决什么问题
它把“模型表现好不好”转化为一个可以优化的数值目标。
典型使用场景
- 回归中的均方误差。
- 分类中的交叉熵。
- 机器学习模型训练。
需要知道的关键词
- Error
- Objective Function
- MSE
- Cross Entropy
- Optimization
和导师方向的关系
应用统计和机器学习中,模型训练通常就是最小化某种损失函数。
交流时可以怎么说
损失函数定义了模型优化的目标,不同损失函数会引导模型关注不同类型的错误。
如果研究极端风险,普通均方误差可能不一定最贴合尾部目标。
可以追问的问题
- 当前任务的损失函数是否符合研究目标?
- 是否对极端误差更敏感?
- 评价指标和训练损失是否一致?
给 AI 的提示词
请解释损失函数在机器学习中的作用。要求比较 MSE 和交叉熵,并说明为什么损失函数要和任务目标匹配。
我的理解边界
- 已理解:损失函数是模型训练目标。
- 还不确定:交叉熵的概率解释。
- 下次需要补:经验风险最小化。