基于GRU和注意力机制的远程监督关系抽取

摘要:随着深度学习的发展,越来越多的深度学习模型被运用到了关系提取的任务中,但是传统的深度学习模型无法解决长距离依赖问题;同时,远程监督将会不可避免地产生错误标签。针对以上两个问题,提出一种基于GRU(gated recurrent unit)和注意力机制的远程监督关系抽取方法。首先通过使用GRU神经网络来提取文本特征,解决长距离依赖问题;接着在实体对上构建句子级的注意力机制,减小噪声句子的权重;最后在真实的数据集上,通过计算准确率、召回率并绘出PR曲线证明该方法与现有的一些方法相比,取得了比较显著的进步。

关键词:
  • 深度学习  
  • 远程监督  
  • 门控循环单元  
  • 注意力机制  
作者:
黄兆玮; 常亮; 宾辰忠; 孙彦鹏; 孙磊
单位:
桂林电子科技大学广西可信软件重点实验室; 广西桂林541004
刊名:
计算机应用研究

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

期刊名称:计算机应用研究

计算机应用研究杂志紧跟学术前沿,紧贴读者,国内刊号为:51-1196/TP。坚持指导性与实用性相结合的原则,创办于1984年,杂志在全国同类期刊中发行数量名列前茅。