Day 28 学习记录：第四周复盘
Day 28 学习记录：第四周复盘
日期
-
今日任务
- 对应天数：Day 28
- 对应论文/概念：GPT、BERT、causal LM、MLM
- 对应文件：
第四周复盘.md
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 复习 GPT/BERT 关键概念 | ||
| 25 分钟论文 | 检查 GPT/BERT 个人笔记 | ||
| 25 分钟代码 | 重新检查 mini GPT 和 TinyBERT 的关键 shape | ||
| 10 分钟总结 | 写第四周 5 句话总结 | ||
| 10 分钟自测/AI 提问 | 做自测题 14-18 |
第四周 5 句话总结
1. 2. 3. 4. 5.
今天还不懂的 3 个问题
1. 2. 3.
下周最小任务
- 开始 GPT-3、Scaling Law、Chinchilla：理解 in-context learning 和规模规律。