第一周复盘：深度学习基础与 word2vec
第一周复盘：深度学习基础与 word2vec
本周目标
建立深度学习基本词汇，并理解 word2vec 的最小机制：one-hot、embedding、context window、skip-gram、negative sampling。
本周完成证据
| 证据 | 文件或输出 | 是否完成 |
|---|---|---|
| Day01-Day07 学习记录 | daily_logs/Day01_学习记录.md 到 Day07_学习记录.md | |
| word2vec 个人笔记 | paper_notes/01_word2vec.md | |
| word2vec notebook 检查 | dl_01_word2vec_embeddings.ipynb | |
| 自测题 1-6 | 自测题库.md | |
| 3 分钟口头稿 | daily_logs/Day06_学习记录.md |
本周应能回答的问题
- tensor 的 shape 为什么重要？
- loss、gradient、optimizer 三者关系是什么？
- one-hot 和 embedding 有什么区别？
- skip-gram 在预测什么？
- negative sampling 为什么有用？
- word2vec 的 toy demo 没有复现论文哪些部分？
本周薄弱点
1. 2. 3.
下周计划
下周主题：ResNet 与深层网络。
最小任务：
- 读 ResNet 摘要、引言、Figure 2。
- 跑或检查
dl_02_resnet_block.ipynb。 - 填
paper_notes/02_resnet.md。 - 能解释 degradation problem 和
F(x)+x。