基于语言模型的预训练技术研究综述

【文件属性】：

文件名称：基于语言模型的预训练技术研究综述

文件大小：1.73MB

文件格式：PDF

更新时间：2021-10-12 23:54:10

语言模型 预训练技术

预训练技术当前在自然语言处理领域占有举足轻重的位置。尤其近两年提出的ELMo、GTP、BERT、XLNet、T5、GTP-3等预训练模型的成功,进一步将预训练技术推向了研究高潮。该文从语言模型、特征抽取器、上下文表征、词表征四个方面对现存的主要预训练技术进行了分析和分类,并分析了当前自然语言处理中的预训练技术面临的主要问题和发展趋势。