基于BERT-GCN的因果关系抽取

针对自然语言处理中传统因果关系抽取主要用基于模式匹配的方法或机器学习算法进行抽取,结果准确率较低,且只能抽取带有因果提示词的显性因果关系问题,提出一种使用大规模的预训练模型结合图卷积神经网络的算法 BERT-GCN.首先,使用 BERT(bidirectional encoder representation from transformers)对语料进行编码,生成词向量;然后,将生成的词向量放入图卷积神经网络中进行训练;最后,放入 Softmax层中完成对因果关系的抽取.实验结果表明,该模型在数据集 SEDR-CE 上获得了较好的结果,且针对隐式的因果关系效果也较好.