亚马逊最新《知识增强预训练语言模型》

【文件属性】：

文件名称：亚马逊最新《知识增强预训练语言模型》

文件大小：726KB

文件格式：PDF

更新时间：2024-11-09 18:00:28

知识增强 预训练语言模型

预训练语言模型(Pretrained Language Models, PLM)通过在大规模文本语料库上学习信息语境化表示，建立了一种新的范式。这种新的范式已经彻底改变了整个自然语言处理领域，并为各种NLP任务设置了新的最先进的性能。然而，尽管PLM可以从训练语料库中存储一定的知识/事实，但它们的知识意识还远远不能令人满意。