LoRA 个人论文笔记

综合实践 · 12_深度学习原理与经典论文路线/paper_notes/11_lora.md

LoRA 个人论文笔记

基本信息

• 标题：LoRA: Low-Rank Adaptation of Large Language Models
• 年份：2021
• 主题：低秩适配 / 参数高效微调
• 对应 notebook：dl_07_lora_linear.ipynb

一句话总结

这篇论文主要研究：如何低成本微调大模型。

研究问题

-

方法

• 使用了什么模型或方法：
• 为什么适合这个问题：
• 我还不理解的技术细节：

和最小复现的关系

• notebook 复现了论文中的哪一个核心机制：
• notebook 没有覆盖论文的哪些部分：
• 我能解释的参数量对比 / loss 输出：

5 分钟组会稿

大家好，我今天汇报的论文是 LoRA。这篇论文关注的问题是……

可能被追问的问题

1. 2. 3. 4. 5.

理解边界声明

我目前能解释：

-

我还不能声称掌握：

-