TTiti的学习笔记
首页 / 综合实践 / 12_深度学习原理与经典论文路线/notebook运行指南.md

notebook 运行指南

综合实践 · 12_深度学习原理与经典论文路线/notebook运行指南.md

notebook 运行指南

当前状态

当前 Codex 内置 Python 环境没有安装 PyTorch,因此以下 notebook 已完成 JSON/结构验证,但还需要在有 torch 的环境中完整运行:

  • dl_01_word2vec_embeddings.ipynb
  • dl_02_resnet_block.ipynb
  • dl_03_attention_qkv.ipynb
  • dl_04_mini_gpt_causal_lm.ipynb
  • dl_05_bert_mlm_toy.ipynb
  • dl_07_lora_linear.ipynb
  • dl_08_diffusion_denoising_toy.ipynb

以下 notebook 不依赖 PyTorch,已经用当前 Python 执行通过:

  • dl_06_scaling_law_chinchilla_toy.ipynb

先检查当前环境

运行 notebook 前,先在仓库根目录执行:


& 'C:\Users\小王神棍\.cache\codex-runtimes\codex-primary-runtime\dependencies\python\python.exe' '12_深度学习原理与经典论文路线\scripts\check_environment.py'

这个脚本会检查:

  1. 当前 Python 路径和版本。
  2. 是否安装 torchnumpymatplotlibjupyter
  3. 8 个深度学习 notebook 是否存在且 JSON 合法。
  4. 当前环境是否适合完整运行 PyTorch notebook。

注意:audit_progress.py 只能证明 notebook 文件结构存在;check_environment.py 才能告诉你当前 Python 环境是否具备运行 PyTorch demo 的条件。

推荐环境

如果你需要从零安装环境,优先按 PyTorch本地环境安装与验证清单.md 执行。下面只保留最小命令。

如果你本地已经有 Anaconda 或 Miniconda,建议新建一个环境:


conda create -n dl-study python=3.11 -y

conda activate dl-study

pip install torch torchvision torchaudio

pip install jupyter matplotlib numpy

如果没有 conda,也可以用普通 Python 虚拟环境:


python -m venv .venv

.venv\Scripts\activate

pip install torch torchvision torchaudio

pip install jupyter matplotlib numpy

运行顺序

建议按这个顺序运行:

  1. dl_01_word2vec_embeddings.ipynb
  2. dl_02_resnet_block.ipynb
  3. dl_03_attention_qkv.ipynb
  4. dl_04_mini_gpt_causal_lm.ipynb
  5. dl_05_bert_mlm_toy.ipynb
  6. dl_06_scaling_law_chinchilla_toy.ipynb
  7. dl_07_lora_linear.ipynb
  8. dl_08_diffusion_denoising_toy.ipynb

每个 notebook 运行后要记录什么

不要只看“能不能跑”。每个 notebook 运行后记录四件事:

  1. 输入 shape 是什么。
  2. 模型或函数计算了什么。
  3. loss 或输出说明什么。
  4. 这个 demo 没有覆盖论文的哪些部分。

常见错误

1. ModuleNotFoundError: No module named 'torch'

说明 PyTorch 没装。安装:


pip install torch torchvision torchaudio

2. shape mismatch

先打印每个张量的 shape。重点看:

  • batch 维度是否一致。
  • sequence length 是否一致。
  • embedding dimension 是否一致。
  • F(x) + x 两边 shape 是否一致。

3. loss 没有明显下降

toy demo 的目的不是训练高性能模型。先检查:

  • 训练循环是否执行。
  • loss 是否能计算。
  • 参数是否 requires_grad=True
  • optimizer 是否只更新该更新的参数。

给 Codex 的运行提示词


请帮我检查并运行 `07_notebooks/【notebook 名称】`。

要求:

1. 先确认当前 Python 环境是否有 torch

2. 如果没有 torch,说明不能完整运行,并做 JSON/结构检查

3. 如果有 torch,从上到下执行 notebook

4. 总结输入 shape、输出 shape、loss 或关键结果

5. 标出这个 notebook 只复现了论文哪一小部分