RNN中的梯度消失与梯度爆炸1. 引入2. 梯度消失3. 梯度爆炸4. 总结参考
1. 引入我们可以在[1]中，看到RNN的结构，如下图所示。假设我们输入两个句子如下：The cat, which already xxx yyy zzz …, was full.The cats, which alrady xxx yyy zzz …, were full.这两句话中，“xxx yyy zzz …”表示句子中间有很长的文本，此处略去。我们只看单数与复数，最后一个逗...
