概念卡:数据泄漏 Data Leakage
概念卡:数据泄漏 Data Leakage
一句话定义
数据泄漏是模型训练时使用了现实预测时不可能获得的信息。
它解决什么问题
识别数据泄漏能避免模型评估虚高,保证结果接近真实应用场景。
典型使用场景
- 训练集中包含未来信息。
- 特征包含目标变量的变体。
- 预处理在全数据上完成后再划分训练测试。
需要知道的关键词
- Future Information
- Train/Test Split
- Preprocessing
- Target Leakage
- Evaluation Bias
和导师方向的关系
大数据和机器学习作业中,数据泄漏是模型结果不可信的常见原因。
交流时可以怎么说
我会检查特征是否包含预测时不可用的信息,避免数据泄漏导致评估虚高。
时间序列任务尤其要注意未来信息泄漏。
可以追问的问题
- 这个特征在预测时真的可用吗?
- 预处理是否只在训练集上拟合?
- 划分训练测试是否保留了时间顺序?
给 AI 的提示词
请帮我检查一个机器学习流程是否存在数据泄漏。要求从特征、时间顺序、预处理、训练测试划分四方面检查。
我的理解边界
- 已理解:泄漏会让评估结果虚高。
- 还不确定:复杂管道中的泄漏检查。
- 下次需要补:pipeline。