概述
一、循环神经网络简介
循环神经网络挖掘数据中的时序信息以及语义信息的深度表达能力，在语音识别、语言模型、机器翻译以及时序分析等方面实现了突破。
1、循环神经网络简介
循环神经网络的主要用途是处理和预测序列数据。循环神经网络的来源就是为了刻画一个序列当前的输出与之前信息的关系。从网络结构上，循环神经网络会记忆之前的信息，并利用之前的信息影响后面结点的输出。也就是说，循环神经网络的隐藏层之间的结点是有连接的，隐藏层的输入不仅包括输入层的输出，还包括上一时刻隐藏层的输出。
下图是一个典型的循环神经网络。循环神经网络的主体结构A的输入除了来自输入层 xt x t ，还有一个循环的边来提供上一时刻的隐藏状态 ht−1 h t − 1 。在每一时刻，循环神经网络的模块A在读取了 xt x t 和 ht−1 h t − 1 之后会生成新的隐藏状态 ht h t ，并产生本时刻的输出 ot o t 。循环神经网络当前的状态 ht h t 是根据上一时刻的状态 ht−1 h t − 1 和当前的输入 xt x t 共同决定的。
在时刻t，状态 ht h t 浓缩了前面序列 x0,x1 x 0 , x 1 ,…, xt−1 x t − 1 的信息，用于作为输出 o
最后
以上就是落寞西装为你收集整理的循环神经网络的全部内容，希望文章能够帮你解决循环神经网络所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复