把会运行,变成能自己写
会跑一个小项目之后,选一条路线继续走。
8–12 分钟选读,实践按自己的节奏
学完这章,你能
- 找到与已学知识对应的PyTorch官方教程
- 选择适合自己的中文视频
- 从结构图开始读论文,并做一个小实验
先选一个刚学过、还想弄明白的问题。找到一份对应资料、改一次小实验,就有了明确的下一步。
不必先读完所有资料。选一个还不熟的环节,做出一个能核对的小结果,再继续下册。
先做一件小事
打开PyTorch · Quickstart(快速开始),只找训练循环里的四个动作。
本次成果: 找到预测、损失、backward()求梯度、step()更新参数的位置。对照上册的小项目,说出这四步的先后;能找到就先停,不用抄完整篇。
按卡住的地方查一项
官方示例可能需要自己的开发环境;本站的小项目可以继续在网页练。不要一次改很多设置,先保留原结果作比较。
Quickstart 每轮会调用名为 test 的函数检查效果。如果反复用这份数据选参数,它就在承担验证集的作用;最终测试集仍要另留。
本节小结
先能独立写一个小训练程序,再扩展功能。 查API用官方文档,练思路用已经学过的小项目。
先选一个模糊的知识点
例如:反向传播究竟算什么?去《动手学深度学习》官方课程目录找对应一讲,配合在线教材阅读。李沐等人的讲解可以作为另一种理解角度。
本次成果: 暂停后,用一句话解释:“反向传播算出梯度,优化器才更新参数。”再回到上册的数字演示,核对梯度−24与参数2→2.24分别出现在哪一步。
视频与论文精读入口
本节小结
看一段 → 复述思路 → 改一个例子。 能讲出来、能动手改,比只看完进度条更有收获。
先选一篇,只回答三个问题:解决什么问题?结构改了哪里?实验怎样支持结论? 先看摘要和结构图,公式留到需要时再查。
从熟悉的ResNet开始
He等 · Deep Residual Learning for Image Recognition(2015)
找出残差块的直连路径;回到上册的残差连接小例子,用自己的话解释“旧信息怎样到达相加处”。先完成这个对应,不必复现论文中的大网络。
也可以换成另外一篇
留一份三句话的实验记录
- 原来怎样: 选上册已跑通的小任务,记下数据划分、设置和验证结果。
- 改了哪里: 固定数据划分,每次只改一个因素。
- 结果怎样: 比较改前改后;没变好也值得记录,再决定下一步。
不必一开始复现论文里的大规模训练。先读懂一个核心变化,再在小例子里验证自己的理解。
带着成果,继续往前
三条路线任选一条:查一份资料,解决一个卡点就够了。 不需要把教程、视频和论文全部学完,随时可以继续下册。
准备好后,从白话循环神经网络开始,把同一条训练主线带进序列与语言模型。
学完这一章,你也有这些疑惑吗?
先把问题留下,带着自己的理解继续交流。
- 已经能运行课程代码,下一步应该先补哪一项?
- 看视频时怎样判断自己真的理解,而不是只是听懂?
- 第一次读论文,哪些部分可以先看、哪些可以暂时跳过?
交流时可以带上:章节名、你的理解,以及遇到的现象。