文件名称:gpt-2-cloud-run:通过GPT-2进行Cloud Run的文本生成API
文件大小:136KB
文件格式:ZIP
更新时间:2024-02-18 12:33:51
api text-generation gpt-2 cloud-run APIHTML
gpt-2-cloud-run 该应用程序用于构建文本生成API,以通过从的生成文本,并以可扩展的方式运行该文本,并通过Google的有效地免费提供。 该应用旨在用于轻松,经济高效地允许其他人在另一个数据集上使用经过微调的GPT-2模型,并允许以编程方式访问所生成的文本。 基本app.py运行app.py是实现异步/未来发展,如果您想修改GPT-2的输入/输出,强制使用某些生成参数或想要添加其他功能/端点(例如在推文中生成结果),则很容易被黑客。 演示版 您可以在此处运行基于Web的Cloud Run API演示,该演示指向默认的117M“小型” GPT-2模型: : 演示Web UI基于此app_ui.html中的app_ui.html文件(基于和构建),旨在易于黑客攻击以添加新功能和/或调整设计(例如,您可以在JavaScript中更改URL函数以指向您自己的Cloud Run API)。 如何构建容器并开始云运行 由于Cloud Run是无状态的,无法访问本地存储,因此您必须将模型捆绑在容器中。 首先,下载/克隆此仓库并将模型复制到文件夹中(模型应采用文件夹层次结构/c
【文件预览】:
gpt-2-cloud-run-master
----.gitignore(7B)
----Dockerfile(522B)
----cloud_build.md(2KB)
----LICENSE(1KB)
----examples()
--------hacker_news_app.py(1KB)
----cloudbuild.yaml(316B)
----README.md(6KB)
----api_ui.html(9KB)
----app.py(2KB)
----docs()
--------scope.png(26KB)
--------logs.png(110KB)