sigmoid、tanh、softplus和ReLu激活函数

RT，这些激活函数的演化及其在神经生物学中的解释，请戳 这里！