概念卡:正则化 Regularization
概念卡:正则化 Regularization
一句话定义
正则化是在模型训练中加入限制,防止模型过度复杂和过拟合。
它解决什么问题
它帮助模型在新数据上更稳定,而不是只记住训练集细节。
典型使用场景
- 高维回归。
- 机器学习模型调参。
- 特征很多但样本有限的任务。
需要知道的关键词
- Overfitting
- L1
- L2
- Ridge
- Lasso
和导师方向的关系
大数据和机器学习任务中,正则化是控制模型复杂度、提高泛化能力的基础方法。
交流时可以怎么说
如果特征较多或模型容易过拟合,我会考虑加入正则化作为约束。
L1 更容易产生稀疏系数,L2 更偏向平滑收缩参数。
可以追问的问题
- 当前模型是否过拟合?
- 正则化强度如何选择?
- L1 和 L2 哪个更适合当前任务?
给 AI 的提示词
请解释正则化、L1、L2、Ridge 和 Lasso。要求给直觉、应用场景和 scikit-learn 示例。
我的理解边界
- 已理解:正则化用于控制模型复杂度。
- 还不确定:正则化参数选择。
- 下次需要补:Ridge 与 Lasso。