我是靠谱客的博主 无情大门,这篇文章主要介绍论文:Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classification,现在分享给大家,希望可以做个参考。

论文:Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classification

 

关系分类中的的一个挑战是决定分类的重要信息再句子中的位置是不确定的,本文提出基于注意力机制的bi-lstm模型,能捕获句子中最重要的语义层面的信息。

 

模型主要由五个部分组成:

(1)输入层:输入句子

(2)Embedding层:将词映射到低维稠密向量

(3)LSTM层:获取高阶特征

(4)Attention层:通过权重向量和bilstm的各个时刻的隐藏层状态相乘求和,将词级别的特征融合成为句子级别的特征

(5)输出层:将最后一层的句子级别的特征向量用于关系分类

 

Attention层详解:

是lstm输出隐藏向量 构成的矩阵,

通过下式,获取最终句子表示,用于下一层的分类。

最后

以上就是无情大门最近收集整理的关于论文:Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classification的全部内容,更多相关论文:Attention-Based内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(121)

评论列表共有 0 条评论

立即
投稿
返回
顶部