Day 39 学习记录:LoRA linear notebook
Day 39 学习记录:LoRA linear notebook
日期
-
今日任务
- 对应天数:Day 39
- 对应论文/概念:frozen base weights、LoRA A/B、参数量对比
- 对应 notebook:
dl_07_lora_linear.ipynb
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 理解冻结基座权重和训练低秩增量 | ||
| 25 分钟论文 | 对照 LoRA 论文理解低秩更新 | ||
| 25 分钟代码 | 跑或检查 LoRA notebook | ||
| 10 分钟总结 | 计算 full weight params 和 LoRA params | ||
| 10 分钟自测/AI 提问 | 让 AI 检查是否误解为全量微调 |
今天跑通或检查的代码
- notebook:
dl_07_lora_linear.ipynb - base weight shape:
- LoRA A shape:
- LoRA B shape:
- trainable params:
- loss 或输出说明:
- 没有覆盖论文的部分:
今天还不懂的 3 个问题
1. 2. 3.
明天最小任务
- 理解 Diffusion 的 forward noising 和 reverse denoising。