leakyrelu激活函数 激活函数的作用

为什么要使用relu激活函数？增加了网络的非线性能力，以适应更多的非线性过程。在一定程度上，relu可以防止梯度的消失，但这并不是使用它的主要原因。主要原因是很容易找到...