GPT2:OpenAI GPT-2的PyTorch实施

时间:2024-04-20 11:37:40
【文件属性】:

文件名称:GPT2:OpenAI GPT-2的PyTorch实施

文件大小:153KB

文件格式:ZIP

更新时间:2024-04-20 11:37:40

nlp natural-language-processing pytorch transformer natural-language-generation

GPT-2 PyTorch实施 目录 介绍 该项目是OpenAI GPT-2模型的PyTorch实现。 它提供模型训练,句子生成和量度可视化。 它被认为是可以理解和优化的。 我们设计的代码易于理解。 另外,我们使用来提高性能。 依存关系 正则表达式 tqdm 火炬 麻木 matplotlib 用法 怎么训练? 在训练GPT-2模型之前,应准备语料库数据集。 我们建议使用构建自己的语料库。 相反,训练模块需要带有词汇表文件的标记化训练和评估数据集。 准备数据集后,可以使用以下方法训练GPT-2: $ python -m gpt2 train --train_corpus build/corpus.train.txt \ --eval_corpus build/corpus.test.txt \


【文件预览】:
GPT2-master
----.github()
--------workflows()
----GPT2_Interactive_Notebook.ipynb(10KB)
----tests()
--------training()
--------data()
--------modeling()
--------__init__.py(37B)
--------generation()
----LICENSE(11KB)
----src()
--------gpt2()
----example-figure.png(111KB)
----requirements.txt(33B)
----.gitignore(3KB)
----README.md(9KB)

网友评论

  • 用户下载后在一定时间内未进行评价,系统默认好评。