每个计算单元,都连接上一层的全部输入,并有各自的权重和偏置。把这样的层接起来,在隐藏层之间加入非线性激活——这就是全连接神经网络,也叫MLP(多层感知机)。
从头实现时,我们逐层写 @、加法和激活;使用PyTorch内置层时,这些计算被封装成了简洁的模块。
本章小结
先把计算写明白,再用内置层简洁表达。 输入、参数、结果都是Tensor;这些运算可以交给硬件执行。
先到小小里程碑,庆祝你搭出的第一个MLP,回顾一路学到的知识。然后继续学习怎样调整权重和偏置。
学完这一章,你也有这些疑惑吗?
先把问题留下,带着自己的理解继续交流。
- nn.Linear(2, 3)里的两个数字各指什么?
- 两行样本进入网络后,形状是怎样逐层变化的?
- 网络已经算出分数,为什么还不能说它学会了?
交流时可以带上:章节名、你的理解,以及遇到的现象。