概念卡：梯度 Gradient
概念卡：梯度 Gradient
一句话定义
梯度表示函数在各个变量方向上的变化率，指向函数上升最快的方向。
它解决什么问题
它告诉我们如何调整参数，使损失函数变大或变小。
典型使用场景
- 梯度下降优化模型参数。
- 最大化似然或最小化损失。
- 机器学习模型训练。
需要知道的关键词
- Derivative
- Partial Derivative
- Optimization
- Gradient Descent
- Loss Function
和导师方向的关系
机器学习、统计估计和大规模优化中都离不开梯度，是理解模型训练的基础。
交流时可以怎么说
梯度给出参数更新方向，梯度下降则沿着负梯度方向减少损失。
我目前更关注梯度在优化中的作用，而不是所有严格计算细节。
可以追问的问题
- 这个目标函数是要最大化还是最小化？
- 梯度是对哪个参数求的？
- 学习率如何影响收敛？
给 AI 的提示词
请解释梯度和梯度下降。要求用二维函数直觉说明，并给一个最小 Python 示例。
我的理解边界
- 已理解：梯度是优化方向。
- 还不确定：矩阵求导。
- 下次需要补：链式法则。