Template-Based Named Entity Recognition Using BART

MachineSun

在这里插入图片描述

Template-Based Named Entity Recognition Using BART

Abstract

最近人们对研究少数目标域感兴趣，其中与资源丰富的源域相比，低资源的目标域具有不同的标签集。现有的方法使用基于相似性的度量。然而，它们不能充分利用NER模型参数中的知识迁移。
为了解决这一问题，本文提出了一种基于模板的NER排序方法，将NER看作是Seq2Seq框架中的语言模型排序问题，其中由候选命名实体跨度填充的原始句子和语句模板分别被视为源序列和目标序列。为了进行推理，模型需要根据相应的模板分数对每个候选跨度进行分类。

Model

在这里插入图片描述
将NER看作是一个seq2seq框架下的语言模型排序问题，手动创建模板，一个槽用于候选跨度，一个槽用于实体类别标签，如上图2c所示

Template Influence

在这里插入图片描述
显然，第一条模板效果最好

Experiment

在这里插入图片描述

启发

利用prompt的热点，可以尝试在此基础上进行丰富模型
prompt构造的模板对模型的性能影响太大，是不是可以改成动态生成模板的方式呢