这是可选练习,代码特意留了一行提示。先运行定位,再只补一行,把一个新位置接到两个历史位置后面;四个轴依次为批量、头、位置、每头特征。
沿时间轴追加一次
PyTorch先读代码注释,再运行;下方显示这次实际计算的结果。
查看错误详情
输入时自动提示 · Ctrl + Space 查看补全 · Ctrl / ⌘ + Enter 运行
点击运行,查看结果
文字输出
还没有运行。先读代码注释,再点击运行。
写好后怎样验收?
输出有三个位置,每个位置两项;前两行保留,最后一行为2和3。时间轴是dim=2,改变它会把不同含义的轴混在一起。
如果能解释“为什么沿位置轴接上”,就抓住了缓存拼接的要点。自查与作业可选,可以直接继续。
学完这一章,你也有这些疑惑吗?
先把问题留下,带着自己的理解继续交流。
- 两条计算路径为什么应该得到相同分数?
- 换一句话后,旧缓存还能直接沿用吗?
- 结构相似,为什么还不能说明模型能力相同?
交流时可以带上:章节名、你的理解,以及遇到的现象。