正直薯片

文章
8
资源
0
加入时间
2年10月24天

NLP之简单笔记:LSTM一. LSTM简介二. LSTM的计算过程三. LSTM的参数计算四. LSTM为什么能解决梯度消失的问题

目录一. LSTM简介二. LSTM的计算过程三. LSTM的参数计算一. LSTM简介LSTM:即Long Short-tem Memory,长短期记忆神经网络,1997年就被提出来了。传统RNN的缺点,只能保留前一时刻的t-1的memory;而LSTM通过增加了3个门(输入门,遗忘门,输出门),来选择保存更多时刻的memory。LSTM结构如下图所示,参考https://apaszke.github.io/lstm-explained.html二. LSTM的计算过程现在有初始状态的输入x