基于序列到序列模型的无监督文本简化方法

【文件属性】：
文件名称：基于序列到序列模型的无监督文本简化方法
文件大小：949KB
文件格式：PDF
更新时间：2021-04-30 15:06:28
文本简化 无监督 序列到序列模型 训练基于序列到序列（seq2seq）的文本简化模型需要大规模平行语料库，但是规模较大且标注质量较好的语料却难以获得。为此，提出一种无监督文本简化方法，使模型的学习仅需要无标注的复杂句和简单句语料。首先，利用去噪自编码器（denoising autoencoder）分别从简单句语料和复杂句语料中学习，获取简单句的自编码器和复杂句的自编码器；然后，组合两个自编码器形成初始的文本简化模型和文本复杂化模型；最后，利用回译策略（back-translation）将无监督文本简化问题转换为监督问题，不断迭代优化文本简化模型。通过在标准数据集上的实验验证，该方法在通用指标BLEU和SARI上均优于现有无监督模型，同时在词汇级别和句法级别均有简化效果。