TTiti的学习笔记
首页 / 综合实践 / 12_深度学习原理与经典论文路线/MIT_6S191_9小时课程启动包.md

MIT 6.S191 9小时课程启动包

综合实践 · 12_深度学习原理与经典论文路线/MIT_6S191_9小时课程启动包.md

MIT 6.S191 9小时课程启动包

来源:<https://introtodeeplearning.com/> 更新时间:2026-07-16 适用目标:在 2026 年 9 月入学前,用 MIT 6.S191 课程录像建立深度学习的最低可用理解、代码运行能力和专业表达能力。

一句话定位

这门课不是用来把你训练成深度学习专家,而是用 9 个小时把神经网络、序列建模、计算机视觉、生成模型、强化学习、LLM、AI for Science 和大规模训练放到同一张地图里。

你学习时最要注意什么

你的主要风险不是“听不懂所有公式”,而是看完视频后只留下很多熟悉的词,却说不清每个模型在解决什么问题、输入输出是什么、loss 在优化什么、lab 代码是否真的跑通。

所以学习目标要从“看完 9 小时”改成:

  1. 每讲能写出一页中文笔记:问题、方法、输入输出、loss、应用、局限。
  2. 每个 lab 至少能跑通一个最小版本,并记录 shape、loss、指标和错误。
  3. 每讲能用 3 句话向老师或同学解释:这讲的核心机制、它和作业/科研的关系、自己还不确定哪里。

官网当前课程结构

官网当前显示 MIT 6.S191 是 Introduction to Deep Learning,2026 在线版从 2026-03-30 到 2026-05-25,每周一 10am ET 发布。官网说明课程会开放 lectures、slides 和 labs。前置基础是会求导、理解矩阵乘法;Python 有帮助但不是硬性要求。

当前官网可见的主线包括:

讲次主题你要抓住的主问题
Lecture 1Intro to Deep Learning神经网络如何从数据中学习参数
Lecture 2Deep Sequence Modeling序列、语言、时间依赖如何建模
Lecture 3Deep Computer Vision图像中的局部模式如何被 CNN/视觉模型提取
Lecture 4Deep Generative Modeling模型如何学习生成新样本
Lecture 5Deep Reinforcement Learning智能体如何通过奖励学习决策
Lecture 6New FrontiersLLM、微调、安全等新方向如何和基础模型连接
Lecture 7AI for Science深度学习如何进入科学发现流程
Lecture 8Massively Parallel Training大模型训练为什么需要并行、显存和通信设计
Lecture 9Project Work / Presentations如何把模型想法变成项目 proposal

官网内容可能继续更新,学习时以官网的 slides 和 labs 链接为准。

课前最小准备

1. 线性代数只补三件事

直觉解释:深度学习的大部分计算是在做“很多数一起乘、加、变形”。

专业表达:重点掌握 vector、matrix、tensor、matrix multiplication、shape broadcasting。

必须会说:

  • X @ W + bX 是输入 batch,W 是可学习参数,b 是偏置。
  • shape 对不上时,模型不是“数学错了”,而是输入输出维度设计错了。
  • embedding 本质上是把离散对象映射成可学习向量。

最低练习:


import numpy as np



X = np.random.randn(4, 3)   # 4 samples, 3 features

W = np.random.randn(3, 2)   # map 3 features to 2 outputs

b = np.random.randn(2)

Y = X @ W + b

print(X.shape, W.shape, b.shape, Y.shape)

2. 微积分只补三件事

直觉解释:梯度告诉模型“参数往哪个方向改,loss 会下降”。

专业表达:重点掌握 derivative、partial derivative、chain rule、gradient descent。

必须会说:

  • loss 是预测和目标之间的差距。
  • gradient 是 loss 对参数的敏感度。
  • backpropagation 是用链式法则高效计算所有参数的梯度。

最低练习:


import numpy as np



w = 1.0

x = 2.0

y_true = 5.0

lr = 0.1



for step in range(10):

    y_pred = w * x

    loss = (y_pred - y_true) ** 2

    grad_w = 2 * (y_pred - y_true) * x

    w = w - lr * grad_w

    print(step, round(w, 3), round(loss, 3))

3. Python/Jupyter 只补四件事

  • 会打开 notebook,逐 cell 运行。
  • 会打印变量、shape、前 5 行数据。
  • 会区分报错来自数据、shape、包版本还是模型逻辑。
  • 会把一次实验记录成:代码版本、输入、输出、指标、局限。

4. 机器学习只补五个词

概念一句话
train/test split用没见过的数据检查模型是否泛化
overfitting训练集表现好,但新数据表现差
cross entropy分类任务常用 loss
learning rate每次参数更新的步长
baseline用来证明复杂模型确实有必要的简单参照

每讲学习闭环

看前 15 分钟

  1. 打开官网对应 lecture 的 slides。
  2. 先看目录和图,不追公式。
  3. 写下三个预测:这讲解决什么问题、输入输出是什么、可能用什么 loss。

看中 45-70 分钟

只抓四类信息:

  • 任务:classification、generation、prediction、control、science discovery 还是 scaling。
  • 结构:MLP、CNN、RNN、Transformer、diffusion、RL agent 还是 distributed training。
  • 优化:loss 是什么,参数怎么更新。
  • 证据:实验、demo、lab 或应用案例证明了什么。

看后 40-60 分钟

  1. 写一页笔记。
  2. 跑一个对应 notebook 或 lab 的最小片段。
  3. 写 3 个问题:一个概念问题、一个代码问题、一个和你未来方向相关的问题。

你要避免的学习误区

  1. 不要把 9 小时视频当英语听力课。听不懂的地方要转成结构化问题。
  2. 不要试图一次补完深度学习数学。先补 shape、loss、gradient、chain rule。
  3. 不要只看视频不跑代码。深度学习理解很容易停留在“我好像懂了”。
  4. 不要把 LLM、生成模型、AI for Science 直接跳到前沿论文。先问它们继承了哪些基础机制。
  5. 不要让 AI 直接替你总结课程。AI 的作用是帮你检查:你的笔记是否漏了输入输出、loss、局限和验证证据。

和你实验室方向的关系

如果你的后续方向涉及复杂系统、极值、网络、时间序列或 AI 协作,这门课的作用是提供通用建模语言:

  • 复杂系统:深度模型可以学习高维系统状态的表示。
  • 时间序列:sequence modeling 和 Transformer 是关键入口。
  • 极值/风险:深度模型可以做特征提取,但必须警惕尾部风险、样本稀缺和可解释性不足。
  • AI for Science:课程后半部分能帮你理解“模型如何进入科学发现流程”,但不能替代领域机制判断。

交流时可以怎么说

保守版:

我准备用 MIT 6.S191 建立深度学习的基础地图。我的目标不是一次掌握所有推导,而是能说清每类模型解决什么问题、输入输出和 loss 是什么,并能跑通对应 lab 的最小版本。

稍专业版:

我会把每讲整理成 task、architecture、objective、evidence、limitation 五个部分。这样后面读论文或做课程作业时,可以判断问题属于序列建模、视觉、生成、强化学习、科学建模还是大规模训练。

可以追问老师或同学的问题

  1. 对跨专业学生来说,MIT 6.S191 的 labs 需要跑到什么程度,才算真正掌握?
  2. 如果研究方向更偏复杂系统或极值风险,深度学习部分应该优先补 Transformer、GNN、时间序列还是不确定性评估?
  3. 在课程作业中,老师更看重模型性能、代码实现、实验解释,还是对局限的说明?