激活函数(Activation Functions)

Posted yhl_leo

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了激活函数(Activation Functions)相关的知识,希望对你有一定的参考价值。


本系列文章由 @yhl_leo 出品,转载请注明出处。
文章链接: http://blog.csdn.net/yhl_leo/article/details/56488640


简单整理了一下目前深度学习中提出的激活函数,按照激活函数是否可微的性质分为3类:

论文及资料已上传至GitHub: yhlleo/Activations.


简单绘制部分激活函数曲线:


References:

以上是关于激活函数(Activation Functions)的主要内容,如果未能解决你的问题,请参考以下文章

Keras官方中文文档:激活函数Activation

tensorflow学习-------激活函数(activation function)

Pytorch Note14 激活函数(Activation Function)

激活函数-Activation Function

ValueError:未知激活函数:my_custom_activation_function

新手入门深度学习 | 3-2:激活函数activation