烂漫紫菜

文章
3
资源
0
加入时间
2年10月21天

从RNN到LSTM

一个词汇表示成一个Vector输入一个向量,第n个词的输入和第n-1个词的输出相加,然后生成第n个词的概率多层的两种Network两边同时进行RNN,除了可以获取从头到尾的信息,还能获取从尾到头的信息。LSTM**一个局部LSTM:**每个f(x)函数都是用的sigmoid函数,就是生成0~1的值来表示这个阀门的打开程度大小。流程:输入向量,输入门(Input Gate)以一定概率控制输入输入,遗忘门(Forget Gata)一一定概率记住这个值,然后输出门(Output Gate