理解RNN和LSTM
理解RNN和LSTM 本文是台大李宏毅教授ML2020课程笔记。同时参考了其他博客。网上关于RNN和LSTM的blogs太多了,本文只是摘抄+笔记。1. RNN RNN(Recurrent Neural Network)是一类用于处理序列数据的神经网络。所谓序列,通常除了数据维度以外,还存在广义的时间维度,即序列是有顺序的,反应了数据随着时间的变化状态,例如,一串语音信号、一段文本或者一段视频都是序列。1.1 RNN结构 传统的前馈神经网络包含输入层、输出层和隐藏层,通过激活函数控制输