深神经网络的非线性意味着什么



当我们说"深神经网络的非线性"时,在这种情况下,"非线性"一词实际上是什么意思?

此外,激活函数的目的是将非线性引入网络。这种非线性意味着什么?(我是深度学习的新手。)

非线性意味着无法从输入的线性组合复制输出(该输出与呈现到直线的输出不同 - 这个词是仿射)。

另一种思考它的方式:在网络中没有非线性激活功能,无论它拥有多少层,都会像单层的感知器一样行事,因为总结这些层将为您提供仅给您的另一个线性函数(请参见上面的定义)。

最新更新