ACL 2019 论文 "ERNIE: Enhanced Language Representation with Informative Entities" 的源代码和数据集
ACL 2019 论文 "ERNIE: Enhanced Language Representation with Informative Entities" 的源代码和数据集
ERNIE 是 OpenSKL 的一个子项目,提供了一个开源工具包(Enhanced language RepresentatioN with Informative Entities**),用于将预训练的语言模型与知识图谱表示相结合。
我们在本工具包中提供了知识增强的预训练语言模型 ERNIE。我们还提供了用于针对不同下游任务微调 ERNIE 的详细命令。
这里我们报告了上述数据集的主要结果。从该表中可以观察到,ERNIE 有效地提高了 BERT 在这些知识驱动任务上的性能。
如果您想自己获取 anchor2id,请在 python3 pretrain_data/extract.py 4 之后运行以下代码(此操作大约需要半天时间):
暂无开放 Issues,或尚未同步最近议题。