LawsonAbs的认知与思考，还请各位读者批判阅读。

总结

• 文章来源：csdn：LawsonAbs
• 持续更新~

---

Sigmoid 函数

函数表达式：
f ( z ) = 1 1 + e − z f(z) = \frac{1}{1+e^{-z}} f(z)=1+e−z1​

tanh函数

函数表达式：
f ( z ) = e z − e − z e z + e − z f(z) = \frac{e^{z}-e^{-z}}{e^{z}+e^{-z}} f(z)=ez+e−zez−e−z​

Relu函数

f ( z ) = m a x ( 0 , z ) f(z) = max(0,z) f(z)=max(0,z)