MIT 6.S191 三周学习计划
MIT 6.S191 三周学习计划
来源:<https://introtodeeplearning.com/> 总目标:三周内看完约 9 小时课程录像,并形成可复述、可运行、可验收的学习证据。
每周节奏
建议每天 60-90 分钟。不要追求一次看完,重点是每讲都留下证据。
| 周次 | 范围 | 主要任务 | 产出 |
|---|---|---|---|
| 第 1 周 | Lecture 1-3 | 神经网络基础、序列建模、视觉 | 3 页讲座笔记,至少 1 个 lab/notebook 跑通 |
| 第 2 周 | Lecture 4-6 | 生成模型、强化学习、LLM/新前沿 | 3 页讲座笔记,1 次 lab 报错复盘或最小复现 |
| 第 3 周 | Lecture 7-9 | AI for Science、大规模训练、项目表达 | 3 页讲座笔记,1 个 5 分钟汇报稿 |
每讲固定流程
Step 1:课前 15 分钟
- 打开官网 lecture 页面和 slides。
- 看标题、目录、图,不钻公式。
- 写下三个预测:
- 这讲解决什么任务? - 输入输出是什么? - 可能用什么 loss 或评价指标?
Step 2:看视频 45-70 分钟
记录五类信息:
- task:问题类型。
- model:模型结构。
- objective:loss 或训练目标。
- evidence:实验、demo、lab 或应用证据。
- limitation:适用边界和风险。
Step 3:课后 40-60 分钟
- 写一页 Obsidian 笔记。
- 跑对应 lab 或本仓库已有最小 notebook。
- 写 3 个问题:概念、代码、研究连接。
第 1 周具体安排
| 天 | 任务 | 最低产出 |
|---|---|---|
| Day 1 | 课前基础:tensor、matrix multiplication、loss、gradient | 完成课前自测 1-5 |
| Day 2 | Lecture 1:Intro to Deep Learning | 一页笔记 + X @ W + b 代码 |
| Day 3 | Lecture 1 对应 lab/最小训练循环 | 记录一次 loss 下降 |
| Day 4 | Lecture 2:Deep Sequence Modeling | 解释 token、embedding、sequence |
| Day 5 | Lecture 2 lab 或最小序列 demo | 记录输入 shape 和输出 shape |
| Day 6 | Lecture 3:Deep Computer Vision | 解释 convolution、feature map |
| Day 7 | 第 1 周复盘 | 3 分钟口头解释:神经网络如何学习 |
第 2 周具体安排
| 天 | 任务 | 最低产出 |
|---|---|---|
| Day 8 | Lecture 4:Deep Generative Modeling | 区分分类、预测、生成 |
| Day 9 | 生成模型最小例子或 lab 阅读 | 写清 latent/denoising 的作用 |
| Day 10 | Lecture 5:Deep Reinforcement Learning | 区分 state、action、reward、policy |
| Day 11 | RL 例子复盘 | 说明 RL 为什么难评估 |
| Day 12 | Lecture 6:New Frontiers | 连接 LLM、fine-tuning、alignment |
| Day 13 | LLM lab 或 fine-tuning 概念复盘 | 写出 pretraining vs fine-tuning |
| Day 14 | 第 2 周复盘 | 3 个最容易混淆概念和修正表达 |
第 3 周具体安排
| 天 | 任务 | 最低产出 |
|---|---|---|
| Day 15 | Lecture 7:AI for Science | 写出 AI 辅助科学发现的流程 |
| Day 16 | 联系你的方向 | 选一个复杂系统/时间序列/极值问题做类比 |
| Day 17 | Lecture 8:Massively Parallel Training | 解释显存、batch、并行、通信瓶颈 |
| Day 18 | 大模型训练复盘 | 写清为什么 scaling 不是只加参数 |
| Day 19 | Lecture 9:Project Work | 整理一个小项目 proposal |
| Day 20 | 准备 5 分钟汇报 | 讲清一讲课程 + 一个 notebook/lab 证据 |
| Day 21 | 最终验收 | 完成验收清单 |
学习记录模板
日期:
讲次:
我认为这讲解决的问题:
核心模型/结构:
输入:
输出:
loss/训练目标:
我跑过的代码或 lab:
我观察到的 shape/loss/指标:
我还不确定的地方:
可以问老师/同学的问题:
下一步: