首页 / 科技周边 / 正文

sigmoid函数和relu函数区别

时间：2024-07-07 04:01:51 科技周边

Sigmoid激活函数和ReLU激活函数的区别：

Sigmoid激活函数和ReLU激活函数的区别：

特性 Sigmoid 激活函数 ReLU 激活函数

梯度弥散 只有在0附近的时候有比较好的激活性， 在正负饱和区，其梯度都接近于0，导致梯度弥散 在大于0的部分梯度为常数，不会出现梯度弥散

单侧抑制 不具有单侧抑制功能 在输入负值时输出0，神经元不被激活，有单侧抑制功能。使得网络稀疏，提高了计算效率。

如有侵权请及时联系我们处理，转载请注明出处来自

相关文章

推荐文章

数码行情网版权所有 粤ICP备2021127029号