2026年3月3日

23~26页

第三章

浅层神经网络：基本含义是将多变量输入x映射成多变量输出y。

提到激活函数：常用的是整流线性单元(ReLU)，特性如下

1. 自变量>=0时，因变量=自变量，就是活跃状态

2. 自变量<0时，因变量=0。就是不活跃状态

通过这种操作，仅保留一个方向的数据。

讲到了隐藏单元，多层隐藏单元，对于任意的连续函数，都存在一个容量无限大的神经网络用来标识此函数。

因为每增加一个隐藏单元，就可以多一层细小的折线用来逼近这个函数，无数的隐藏单元，逼近任意的连续函数，所以呀，现实世界里面的数据，一般都是可以用数据来逼近的。这个是此结论的基础。

今日总结

目前为止，现在的内容还是在介绍相关的概念，不过相对于前两章节，已经开始涉及实质性的内容了，今天的内容，已经需要慢下来去理解，去看懂他的核心含义。