TTiti的学习笔记
首页 / 综合实践 / 01_专业概念地图/概念卡_正则化.md

概念卡:正则化 Regularization

综合实践 · 01_专业概念地图/概念卡_正则化.md

概念卡:正则化 Regularization

一句话定义

正则化是在模型训练中加入限制,防止模型过度复杂和过拟合。

它解决什么问题

它帮助模型在新数据上更稳定,而不是只记住训练集细节。

典型使用场景

  • 高维回归。
  • 机器学习模型调参。
  • 特征很多但样本有限的任务。

需要知道的关键词

  • Overfitting
  • L1
  • L2
  • Ridge
  • Lasso

和导师方向的关系

大数据和机器学习任务中,正则化是控制模型复杂度、提高泛化能力的基础方法。

交流时可以怎么说

如果特征较多或模型容易过拟合,我会考虑加入正则化作为约束。
L1 更容易产生稀疏系数,L2 更偏向平滑收缩参数。

可以追问的问题

  • 当前模型是否过拟合?
  • 正则化强度如何选择?
  • L1 和 L2 哪个更适合当前任务?

给 AI 的提示词

请解释正则化、L1、L2、Ridge 和 Lasso。要求给直觉、应用场景和 scikit-learn 示例。

我的理解边界

  • 已理解:正则化用于控制模型复杂度。
  • 还不确定:正则化参数选择。
  • 下次需要补:Ridge 与 Lasso。