机器学习(19)——循环神经网络(一)1 简介2 序列表示方法3 一个例子4 RNN 类型5 反向传播(只是探讨梯度问题)
文章目录1 简介2 序列表示方法2.1 独热表示2.2 分布式表示2.3 Embedding 层3 一个例子3.1 考虑全连接3.2 考虑权重共享3.3 考虑全局语义3.4 循环神经网络3.5 小结4 RNN 类型5 反向传播(只是探讨梯度问题)1 简介 在本系列文章中,我有跟大家分享过神经网络中两种经典层:卷积层(CNN) 和 全连接层(FC),这两种层的输入数据分别是:特征向量和图像(张量),在具体实现时输入的多样本之间是相互独立的,无联系关系。而且,卷积神经网络利用数据的局部相关性和权值