概念卡:过拟合 Overfitting
概念卡:过拟合 Overfitting
一句话定义
过拟合是模型过度适应训练数据细节,导致在新数据上表现变差。
它解决什么问题
理解过拟合能帮助我们判断模型是否真的学到了规律,还是只记住了样本噪声。
典型使用场景
- 训练集表现很好但测试集表现差。
- 模型太复杂、特征太多。
- 样本量不足时使用复杂模型。
需要知道的关键词
- Generalization
- Train Error
- Test Error
- Cross Validation
- Regularization
和导师方向的关系
机器学习和应用统计中,过拟合是模型选择和结果可信度的核心问题。
交流时可以怎么说
我会比较训练集和验证集表现,判断模型是否过拟合。
如果存在过拟合,可以考虑正则化、简化模型或增加数据。
可以追问的问题
- 训练误差和验证误差差距大吗?
- 模型复杂度是否过高?
- 是否做了交叉验证?
给 AI 的提示词
请解释过拟合和泛化能力。要求给训练误差、测试误差、交叉验证和正则化之间的关系。
我的理解边界
- 已理解:过拟合是训练好但泛化差。
- 还不确定:如何用学习曲线判断。
- 下次需要补:bias-variance tradeoff。