Day 30 学习记录：prompt 范式与 GPT-3 实验结构
Day 30 学习记录：prompt 范式与 GPT-3 实验结构
日期
-
今日任务
- 对应天数：Day 30
- 对应论文/概念：prompt、few-shot examples、benchmark
- 对应文件：
paper_notes/07_gpt3.md
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 区分 prompt、example、label、task description | ||
| 25 分钟论文 | 阅读 GPT-3 评估方式和 few-shot 设置 | ||
| 25 分钟代码/提示 | 写 zero-shot、one-shot、few-shot 三个 prompt | ||
| 10 分钟总结 | 写 in-context learning 不等于参数更新 | ||
| 10 分钟自测/AI 提问 | 让 AI 检查是否把 prompt 学习说成 fine-tuning |
prompt 对照表
| 类型 | prompt 内容 | 是否包含示例 | 是否更新参数 |
|---|---|---|---|
| zero-shot | |||
| one-shot | |||
| few-shot |
今天还不懂的 3 个问题
1. 2. 3.
明天最小任务
- 理解 Scaling Law 的 loss、参数量、数据量和计算量。