notebooks 使用说明

综合实践 · 07_notebooks/README.md

notebooks 使用说明

这里用于保存 Codex 生成或协助维护的 Python notebook。

建议主题

• 极值分布入门模拟。
• 线性回归和模型诊断。
• 时间序列基础可视化。
• 复杂网络中心性分析。
• 数据清洗与特征工程。
• 深度学习经典论文最小复现，例如 word2vec、ResNet block、attention、LoRA、diffusion toy demo。

深度学习专题 notebook

• dl_01_word2vec_embeddings.ipynb：用小语料演示 skip-gram、context window、negative sampling 和 embedding shape。
• dl_02_resnet_block.ipynb：用随机图像张量演示 residual block、shortcut 和 projection shortcut。
• dl_03_attention_qkv.ipynb：用 toy 序列演示 Q/K/V、scaled dot-product attention 和 attention weight shape。
• dl_04_mini_gpt_causal_lm.ipynb：用字符级 toy 语料演示 causal language modeling、causal mask 和 next-token loss。
• dl_05_bert_mlm_toy.ipynb：用空格分词 toy 语料演示 masked language modeling 和只在 mask 位置计算 loss。
• dl_06_scaling_law_chinchilla_toy.ipynb：用简化公式演示 scaling law 和 compute-optimal training 的直觉。
• dl_07_lora_linear.ipynb：用一个线性层演示 LoRA 的冻结基座权重、低秩增量和参数量节省。
• dl_08_diffusion_denoising_toy.ipynb：用二维 toy 数据演示 diffusion 的加噪和噪声预测训练目标。

notebook 必须包含

• 研究问题。
• 数据来源或模拟方式。
• 代码。
• 图表。
• 结果解释。
• 模型假设和局限。
• 可以写进报告的一段话。

给 Codex 的提示词

• 面向跨专业硕士新生；
• 每个代码块前有中文解释；
• 使用模拟数据即可；
• 最后总结这个 notebook 可以如何用于课程作业或组会展示。

请在 07_notebooks/ 中创建一个关于【主题】的最小可运行 notebook。 要求：