KagNet: Knowledge-Aware Graph Networks for Commonsense Reasoning
-
亮点
引入ConceptNet作为额外的知识事实来帮助构建图,通过GCN 和层次注意力。图构建关系,GCN提取特征,层注意力来计算相关性分数进行排序
方法:
- 如何构建图
- 基于图如何去实现推理过程
图的构建
首先提取QA中的concept,本文采用N-gram的方式,通过采用停用词好词性还原方法去除噪音。
基于路径搜索的方法找到路径不超过4的路径,这样初步的图就构建完成了。然后使用预训练好的embedding来表示这个图的结点以及关系。
通过cos来计算两个结点间的关系,进行剪枝
推理过程
通过两层GCN编码
#启示
- 引入外部知识库的方法可以进行领域迁移,代码部分是重点。
- 构建图的方法可以迁移到其他领域。