2026年3月4日
第27~30页
还是在说线性拟合的事情,更加的细化了。输出将是输入的连续分段线性函数,线性区域在多维输入空间中呈现为凸多面体。
神经网络中,有很多种不同的激活函数,常用的是ReLU,可以理解为,每个输入空间,都是一个凸多面体,三维空间中很容易理解,多维空间本身就不容易构建脑中的立体图像。
这里其实没有理解在一维空间和二维平面上的状态。
二维平面上,就是每个小的四边形,一块块的,可能是角度各异。
三维空间,就是一个六面体了,能容易想象出来的是立方体。
3.6 多层感知器,就是至少包含一个隐含层的浅层神经网络。具有多个隐藏层的被称为深度神经网络。其中连接形成一个无欢图的神经网络被称为前馈网络
今日总结
只要拥有足够多的隐藏单元,浅层神经网络能够以任意精度逼近任何连续函数。