最终模拟组会模板

综合实践 · 12_深度学习原理与经典论文路线/最终模拟组会模板.md

最终模拟组会模板

目标

用 10 分钟证明你不是“看过材料”，而是已经能把论文、概念、代码和理解边界连起来表达。

汇报结构

1. 开场：我学的主线是什么

建议 1 分钟。

模板：

我这次汇报的主题是深度学习经典论文的入门主线。我把 12 篇论文分成三组：第一组是表示学习到 Transformer，第二组是预训练语言模型与规模规律，第三组是对齐、适配与生成模型。我的目标不是完整复现所有大规模实验，而是理解每篇论文解决的问题，并用最小代码复现核心机制。

2. 论文主线图

建议 2 分钟。

按这个顺序讲：

1. word2vec：词如何变成向量。
2. ResNet：深层网络如何更容易训练。
3. Attention/Transformer：序列如何通过注意力建模。
4. GPT/BERT：如何用自监督目标预训练语言模型。
5. GPT-3/Scaling Law/Chinchilla：为什么规模、数据和计算量重要。
6. RLHF/LoRA/Diffusion：如何让模型更可用、更易适配，并理解另一类生成路线。

3. 选择一篇论文深入讲

建议 3 分钟。

模板：

我选择深入讲的是【论文名】。这篇论文解决的问题是【问题】。它之前的困难是【困难】。作者的核心方法是【方法】。我用 notebook 复现的是其中的【核心机制】，不是完整论文实验。

必须包括：

• 研究问题。
• 核心方法。
• 一张结构图或流程图。
• 一个你不完全理解的地方。

4. 展示一个 notebook

建议 2 分钟。

选择下面之一：

• dl_01_word2vec_embeddings.ipynb
• dl_02_resnet_block.ipynb
• dl_03_attention_qkv.ipynb
• dl_04_mini_gpt_causal_lm.ipynb
• dl_05_bert_mlm_toy.ipynb
• dl_06_scaling_law_chinchilla_toy.ipynb
• dl_07_lora_linear.ipynb
• dl_08_diffusion_denoising_toy.ipynb

讲解顺序：

1. 输入是什么，shape 是什么。
2. 模型或函数在计算什么。
3. 输出是什么，怎么解释。
4. 这个 notebook 没有复现论文的哪些部分。

5. 总结和边界

建议 2 分钟。

模板：

总结来说，我目前能把这些论文理解为深度学习从表示学习、深层结构、注意力机制，到预训练、规模规律、对齐适配和生成模型的发展路线。我已经能用最小 demo 解释部分核心机制。但我的边界也很明确：我还没有完成真实大规模训练，也没有完整复现论文实验；下一步我会优先补【具体短板】。

可能被追问的问题

1. 你说的“最小复现”和完整复现有什么区别？
2. Transformer 为什么比 RNN 更适合大规模训练？
3. GPT 和 BERT 的训练目标本质差别是什么？
4. Scaling Law 为什么不能当作严格定理？
5. RLHF 是否能保证事实正确？
6. LoRA 为什么能用少量参数适配模型？
7. Diffusion 为什么要多步去噪？
8. 这些论文和你的专业方向有什么关系？

自评清单

汇报后检查：

• 我有没有讲清每篇论文解决什么问题？
• 我有没有展示至少一个 notebook？
• 我有没有解释 shape、loss 或关键公式？
• 我有没有明确说出没有复现的部分？
• 我有没有提出下一步学习任务？