Day 03 学习记录:context window 与 skip-gram 样本
Day 03 学习记录:context window 与 skip-gram 样本
日期
-
今日任务
- 对应天数:Day 3
- 对应论文/概念:context window、skip-gram
- 对应 notebook:
dl_01_word2vec_embeddings.ipynb
90 分钟闭环记录
| 环节 | 计划 | 实际完成 | 证据 |
|---|---|---|---|
| 20 分钟概念 | 复习 embedding 和上下文共现 | ||
| 25 分钟论文 | 阅读 word2vec 中模型结构相关部分 | ||
| 25 分钟代码 | 运行或检查 build_skipgram_pairs | ||
| 10 分钟总结 | 手写 3 个中心词-上下文样本 | ||
| 10 分钟自测/AI 提问 | 做自测题 5 |
今天真正理解的 3 件事
1. 2. 3.
今天跑通或检查的代码
- notebook:
dl_01_word2vec_embeddings.ipynb - 关键输入 shape:
- 关键输出 shape:
- loss 或输出说明:
- 没有覆盖论文的部分:
今天还不懂的 3 个问题
1. 2. 3.
明天最小任务
- 理解 negative sampling 为什么能降低训练成本。