2026年3月4日

第27~30页

还是在说线性拟合的事情,更加的细化了。输出将是输入的连续分段线性函数,线性区域在多维输入空间中呈现为凸多面体。

神经网络中,有很多种不同的激活函数,常用的是ReLU,可以理解为,每个输入空间,都是一个凸多面体,三维空间中很容易理解,多维空间本身就不容易构建脑中的立体图像。

这里其实没有理解在一维空间和二维平面上的状态。

二维平面上,就是每个小的四边形,一块块的,可能是角度各异。

三维空间,就是一个六面体了,能容易想象出来的是立方体。

3.6 多层感知器,就是至少包含一个隐含层的浅层神经网络。具有多个隐藏层的被称为深度神经网络。其中连接形成一个无欢图的神经网络被称为前馈网络

今日总结

只要拥有足够多的隐藏单元,浅层神经网络能够以任意精度逼近任何连续函数。