2026年3月24日

第85~88页 为章节最后的介绍，略看即可 第89~92页

第七章梯度和初始化

7.1 问题定义

一个网络的定义，都是对于前面内容的总结性介绍，比如常用的随机梯度下降，损失函数的最小平方等等

特别提到了反向传播算法

7.2 计算导数

作者说反向传播算法负责计算导数，提出了两个观点来帮助理解

1. 每个层的权重任意微小调整，都会受到第一层的隐藏单元激活值的放大或衰减作用
2. 权重的微笑调整会在后续网络中引发一系列的变化，会修改其目标隐藏单元的值 所以，整个的向前传递

作者列出了如何一步步的向前进行计算，其实就是对于之前学习过的负反馈的感觉