Template-Based Named Entity Recognition Using BART
-
Template-Based Named Entity Recognition Using BART
Abstract
最近人们对研究少数目标域感兴趣,其中与资源丰富的源域相比,低资源的目标域具有不同的标签集。现有的方法使用基于相似性的度量。然而,它们不能充分利用NER模型参数中的知识迁移。
为了解决这一问题,本文提出了一种基于模板的NER排序方法,将NER看作是Seq2Seq框架中的语言模型排序问题,其中由候选命名实体跨度填充的原始句子和语句模板分别被视为源序列和目标序列。为了进行推理,模型需要根据相应的模板分数对每个候选跨度进行分类。Model
将NER看作是一个seq2seq框架下的语言模型排序问题,手动创建模板,一个槽用于候选跨度,一个槽用于实体类别标签,如上图2c所示Template Influence
显然,第一条模板效果最好Experiment
启发
- 利用prompt的热点,可以尝试在此基础上进行丰富模型
- prompt构造的模板对模型的性能影响太大,是不是可以改成动态生成模板的方式呢