Navigation

    Gpushare.com

    • Register
    • Login
    • Search
    • Popular
    • Categories
    • Recent
    • Tags

    Joint Extraction of Entities and Relations Based on a Novel Decomposition Strategy

    语音识别与语义处理领域
    1
    1
    40
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • 175****1239
      175****1239 last edited by

      在这里插入图片描述

      Abstract

      本文将关系抽取任务转换为两个任务,HE抽取(头实体抽取)和TER抽取(尾实体和关系)
      前一个子任务是区分所有可能涉及到object关系的头实体,后一个任务是识别每个提取的头实体对应的尾实体和关系,然后基于本文提出的基于span的标记方法将两个子任务进一步分解为多个序列标记任务,采用分层边界标记HBT和多跨度解码算法解决这些问题。本文的第一步不是提取所有实体,而是识别可能参与目标三元组的头实体,从而减轻冗余实体对的影响。

      Model

      标注策略

      在这里插入图片描述
      对于每个识别出的头实体,TER提取也分解为两个序列标注任务,利用跨度边界提取尾实体并同时预测关系。
      第一个序列标记子任务主要标记尾实体的开始字标记的关系类型,第二个子任务标记结束字标记的关系类型。

      模型

      在这里插入图片描述

      层次边界标记器HBT

      使用LSTM编码。标注开始位置时,单词xix_ixi​的标签被预测为:
      在这里插入图片描述
      hih_ihi​是token的隐藏表示,aia_iai​是辅助向量,从整个句子中学习到的全局表示
      xix_ixi​的结束标签可以通过如下计算:
      在这里插入图片描述
      这里又增加了一个位置向量pisep_i^{se}pise​,在预测结束位置时能够感知起始位的隐藏状态,因此引入了histah_i^{sta}hista​

      抽取模型

      在这里插入图片描述
      这个过程和级联二进制和multi-QA的方法几乎一样,或者说这三篇文章的思路都是一个思路

      Result

      在这里插入图片描述

      启示

      1. 在没有用BERT的情况下达到了现在的分数,确实厉害,不过还是老生常谈的问题,时间复杂度太高了
      2. 感觉关系抽取太卷了,作为NLP,一个任务需要跑个十几个和二十多个小时,算力不充足的我太难受了,大家能run的就抓紧run吧。
      1 Reply Last reply Reply Quote 1
      • First post
        Last post