该论文的主要创新点可以总结如下：
-
引入多轮程序合成范式：论文提出了一种多轮程序合成范式，即将程序合成分解为多个步骤，用户在每一轮中提供具体规格，系统生成子程序，最终共同完成整个程序。这种范式被用于开发一个多轮编程基准（MTPB），包括115种多样性问题，这些问题被分解为多轮提示。
-
多轮提示显著提升程序合成效果：论文通过MTPB的实验表明，使用多轮提示相比单轮提示，程序合成的效果显著改善。这表明更好地理解用户意图能够显著提高程序合成的质量。
-
大规模语言模型用于程序合成：论文训练了一系列大规模语言模型（最多161亿参数），并在自然语言和编程语言数据上进行了训练。这些模型被用于零样本Python代码生成，并在HumanEval基准测试上与之前的方法进行了比较。
-
开源训练代码和模型检查点：论文开源了训练代码和模型检查点（https://github.com/salesforce/CodeGen），这将促进未来的研究和实际应用。
-
评估多轮程序合成的能力：论文通过MTPB评估了多轮程序合成的能力，并展示了这些能力随着模型规模和数据量的增加而增长。这表明大规模语言模型在多轮程序合成任务上的能力得到了提升。
-
开发多轮编程基准（MTPB）：该基准用于评估模型在多轮编程框架下的程序合成能力，这是首次开发的此类基准，为程序合成研究提供了新的数据集。
-
多轮合成优于单轮合成