Day 21 学习记录:第三周复盘
Day 21 学习记录:第三周复盘
日期
-
今日任务
- 对应天数:Day 21
- 对应论文/概念:Attention、Transformer、第 1 单元整合
- 对应文件:
第三周复盘.md
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 复习 Q/K/V、self-attention、positional encoding | ||
| 25 分钟论文 | 检查 Attention 和 Transformer 笔记 | ||
| 25 分钟代码 | 重新检查 attention notebook 关键 shape | ||
| 10 分钟总结 | 写第 1 单元 5 分钟汇报稿 | ||
| 10 分钟自测/AI 提问 | 做自测题 10-13、27-28 |
第 1 单元 5 分钟汇报稿
大家好,我今天汇报的是从表示学习到 Transformer 的第一组经典论文……
今天还不懂的 3 个问题
1. 2. 3.
下周最小任务
- 开始 GPT 与 BERT:理解 causal language modeling 和 masked language modeling。