Day 19 学习记录:Attention 和 Transformer 个人论文笔记
Day 19 学习记录:Attention 和 Transformer 个人论文笔记
日期
-
今日任务
- 对应天数:Day 19
- 对应论文/概念:Attention、Transformer 一页笔记
- 对应文件:
paper_notes/03_attention.md、paper_notes/04_transformer.md
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 复习 Q/K/V、softmax weight、self-attention | ||
| 25 分钟论文 | 补读两篇论文的方法和实验概览 | ||
| 25 分钟代码 | 对照 notebook 写“最小复现覆盖了什么” | ||
| 10 分钟总结 | 填写两篇笔记的一句话总结和研究问题 | ||
| 10 分钟自测/AI 提问 | 让 AI 检查是否夸大 attention 权重解释性 |
今天完成的笔记
paper_notes/03_attention.md已填写部分:paper_notes/04_transformer.md已填写部分:- 仍空缺部分:
今天还不懂的 3 个问题
1. 2. 3.
明天最小任务
- 把第 1 单元四篇论文串成一张主线图。