文本生成,如机器翻译和自动摘要,是在现实应用中常见的自然语言处理任务。目前,基于微调的小型语言模型已经被广泛部署于许多产品和系统中。由前述内容所述,大语言模型具备强大的文本生成能力,通过适当的提示方法,在很多生成任务中能够展现出接近人类的表现。此外,大语言模型的使用方式更为灵活,可以应对实际应用场景的很多特殊要求。例如,在翻译过程中,大语言模型能够与用户形成交互,进一步提高生成质量。然而,大语言模型难以有效处理低资源语言或领域下的文本生成任务,例如马拉地语到英语的翻译。这是因为预训练数据中缺乏低资源语言的数据语料,使得大语言模型无法有效掌握这些语言的语义知识与语法逻辑。