TTiti的学习笔记
首页 / 综合实践 / 12_深度学习原理与经典论文路线/daily_logs/Day39_学习记录.md

Day 39 学习记录:LoRA linear notebook

综合实践 · 12_深度学习原理与经典论文路线/daily_logs/Day39_学习记录.md

Day 39 学习记录:LoRA linear notebook

日期

-

今日任务

  • 对应天数:Day 39
  • 对应论文/概念:frozen base weights、LoRA A/B、参数量对比
  • 对应 notebook:dl_07_lora_linear.ipynb

90 分钟闭环记录

环节计划实际完成证据
20 分钟概念理解冻结基座权重和训练低秩增量
25 分钟论文对照 LoRA 论文理解低秩更新
25 分钟代码跑或检查 LoRA notebook
10 分钟总结计算 full weight params 和 LoRA params
10 分钟自测/AI 提问让 AI 检查是否误解为全量微调

今天跑通或检查的代码

  • notebook:dl_07_lora_linear.ipynb
  • base weight shape:
  • LoRA A shape:
  • LoRA B shape:
  • trainable params:
  • loss 或输出说明:
  • 没有覆盖论文的部分:

今天还不懂的 3 个问题

1. 2. 3.

明天最小任务

  • 理解 Diffusion 的 forward noising 和 reverse denoising。