论文阅读_代码生成模型_CodeLlama-1 读后感

Code Llama 是一个基于 llama2 模型进行训练得到的代码生成大模型。又针对代码填充、长上下文等特殊条件以及人类通常用法进行了优化，因此它集成了 llama2 对自然语言的理解，并针对代码生成场景进行了优化。

除了调用推理，我们一般主要利用微调模型来进行改进模型效果，因此选择一个好的基础模型作为工作基础非常重要，Code Llama 是当前代码生成模型中比较推荐的基础模型。

论文结构针对几项主要贡献进行了层层深入的讨论。在整理时，我把实现部分归纳了一下，把同一主题的内容放在一起了。