深度神经网络的非线性是啥意思？

Posted 2023-03-12

【中文标题】深度神经网络的非线性是啥意思？

【英文标题】：What does Non-Linearity of Deep Neural Networks means?深度神经网络的非线性是什么意思？

【发布时间】：2018-06-04 15:22:53

【问题描述】：

当我们说“深度神经网络的非线性”时，在这种情况下，“非线性”一词的实际含义是什么？

此外，激活函数的目的是将非线性引入网络。这种非线性意味着什么？ （我是深度学习的新手。）

【问题讨论】：

这个问题更适合交叉验证：stats.stackexchange.com

【参考方案1】：

非线性意味着不能从输入的线性组合中再现输出（这与呈现为直线的输出不同——这个词是仿射的）。

另一种思考方式：如果网络中没有非线性激活函数，NN，无论它有多少层，都会像单层感知器一样运行，因为对这些层求和会得到另一个线性函数（见上面的定义）。

Source

【讨论】：

欢迎来到 Stack Overflow！请不要在明显偏离主题/不好的问题上发布答案！ See: Should one advise on off topic questions?