notebook 运行指南
notebook 运行指南
当前状态
当前 Codex 内置 Python 环境没有安装 PyTorch,因此以下 notebook 已完成 JSON/结构验证,但还需要在有 torch 的环境中完整运行:
dl_01_word2vec_embeddings.ipynbdl_02_resnet_block.ipynbdl_03_attention_qkv.ipynbdl_04_mini_gpt_causal_lm.ipynbdl_05_bert_mlm_toy.ipynbdl_07_lora_linear.ipynbdl_08_diffusion_denoising_toy.ipynb
以下 notebook 不依赖 PyTorch,已经用当前 Python 执行通过:
dl_06_scaling_law_chinchilla_toy.ipynb
先检查当前环境
运行 notebook 前,先在仓库根目录执行:
& 'C:\Users\小王神棍\.cache\codex-runtimes\codex-primary-runtime\dependencies\python\python.exe' '12_深度学习原理与经典论文路线\scripts\check_environment.py'
这个脚本会检查:
- 当前 Python 路径和版本。
- 是否安装
torch、numpy、matplotlib、jupyter。 - 8 个深度学习 notebook 是否存在且 JSON 合法。
- 当前环境是否适合完整运行 PyTorch notebook。
注意:audit_progress.py 只能证明 notebook 文件结构存在;check_environment.py 才能告诉你当前 Python 环境是否具备运行 PyTorch demo 的条件。
推荐环境
如果你需要从零安装环境,优先按 PyTorch本地环境安装与验证清单.md 执行。下面只保留最小命令。
如果你本地已经有 Anaconda 或 Miniconda,建议新建一个环境:
conda create -n dl-study python=3.11 -y
conda activate dl-study
pip install torch torchvision torchaudio
pip install jupyter matplotlib numpy
如果没有 conda,也可以用普通 Python 虚拟环境:
python -m venv .venv
.venv\Scripts\activate
pip install torch torchvision torchaudio
pip install jupyter matplotlib numpy
运行顺序
建议按这个顺序运行:
dl_01_word2vec_embeddings.ipynbdl_02_resnet_block.ipynbdl_03_attention_qkv.ipynbdl_04_mini_gpt_causal_lm.ipynbdl_05_bert_mlm_toy.ipynbdl_06_scaling_law_chinchilla_toy.ipynbdl_07_lora_linear.ipynbdl_08_diffusion_denoising_toy.ipynb
每个 notebook 运行后要记录什么
不要只看“能不能跑”。每个 notebook 运行后记录四件事:
- 输入 shape 是什么。
- 模型或函数计算了什么。
- loss 或输出说明什么。
- 这个 demo 没有覆盖论文的哪些部分。
常见错误
1. ModuleNotFoundError: No module named 'torch'
说明 PyTorch 没装。安装:
pip install torch torchvision torchaudio
2. shape mismatch
先打印每个张量的 shape。重点看:
- batch 维度是否一致。
- sequence length 是否一致。
- embedding dimension 是否一致。
F(x) + x两边 shape 是否一致。
3. loss 没有明显下降
toy demo 的目的不是训练高性能模型。先检查:
- 训练循环是否执行。
- loss 是否能计算。
- 参数是否
requires_grad=True。 - optimizer 是否只更新该更新的参数。
给 Codex 的运行提示词
请帮我检查并运行 `07_notebooks/【notebook 名称】`。
要求:
1. 先确认当前 Python 环境是否有 torch
2. 如果没有 torch,说明不能完整运行,并做 JSON/结构检查
3. 如果有 torch,从上到下执行 notebook
4. 总结输入 shape、输出 shape、loss 或关键结果
5. 标出这个 notebook 只复现了论文哪一小部分