nn 激活函数_激活函数
就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端。是一个重要的非线性函数，负责提高神经网络的非线性因素，增加深度网络解决问题的能力。“激活函数”按照其可导的性能分成两类——“饱和激活函数”和“非饱和激活函数”。激活函数分类sigmoid tanhsigmoid和tanh是“饱和激活函数”，而ReLU及其变体则是“非饱和激活函数”。使用“非饱和激活函数”的优势在于两点：首先，“...
