Tensorflow：Tanh和Sigmoid之间的关系（前端移植的一个坑）1. 问题描述2. 解决方法3. Toy example
1. 问题描述LZ在使用tensorflow训练好对应的模型，并转成caffemodel后，将模型交由前端同事的时候，前端同事转成wk文件后，发现推断结果与caffemodel结果相差很大，后来经过逐层排查后发现海思芯片的tanh与caffe或者tf中的实现有一定差异，会导致结果相差很大，于是LZ准备使用Sigmoid的进行替代，2. 解决方法但是因为网络物理含义的需求，需要经过激活函数后，feature map的值要在（-1， 1）之间，显然单纯Sigmoid是不满足这一要求的，于是，我们可以
