Day 15 学习记录:Attention 直觉与 alignment
Day 15 学习记录:Attention 直觉与 alignment
日期
-
今日任务
- 对应天数:Day 15
- 对应论文/概念:Attention、alignment、context vector
- 对应文件:
paper_notes/03_attention.md
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 理解固定长度上下文向量的局限 | ||
| 25 分钟论文 | 读 Attention 论文摘要和 alignment 直觉 | ||
| 25 分钟代码 | 预览 dl_03_attention_qkv.ipynb 的输入构造 | ||
| 10 分钟总结 | 写一句话解释 attention 解决什么问题 | ||
| 10 分钟自测/AI 提问 | 问 AI:attention 权重能否解释模型决策? |
今天真正理解的 3 件事
1. 2. 3.
今天还不懂的 3 个问题
1. 2. 3.
明天最小任务
- 理解 Q/K/V 分别是什么。