TTiti的学习笔记
首页 / 综合实践 / 12_深度学习原理与经典论文路线/daily_logs/Day03_学习记录.md

Day 03 学习记录:context window 与 skip-gram 样本

综合实践 · 12_深度学习原理与经典论文路线/daily_logs/Day03_学习记录.md

Day 03 学习记录:context window 与 skip-gram 样本

日期

-

今日任务

  • 对应天数:Day 3
  • 对应论文/概念:context window、skip-gram
  • 对应 notebook:dl_01_word2vec_embeddings.ipynb

90 分钟闭环记录

环节计划实际完成证据
20 分钟概念复习 embedding 和上下文共现
25 分钟论文阅读 word2vec 中模型结构相关部分
25 分钟代码运行或检查 build_skipgram_pairs
10 分钟总结手写 3 个中心词-上下文样本
10 分钟自测/AI 提问做自测题 5

今天真正理解的 3 件事

1. 2. 3.

今天跑通或检查的代码

  • notebook:dl_01_word2vec_embeddings.ipynb
  • 关键输入 shape:
  • 关键输出 shape:
  • loss 或输出说明:
  • 没有覆盖论文的部分:

今天还不懂的 3 个问题

1. 2. 3.

明天最小任务

  • 理解 negative sampling 为什么能降低训练成本。