torchlambda:用于将PyTorch模型部署到AWS Lambda的轻型工具

时间:2024-02-20 11:29:21
【文件属性】:

文件名称:torchlambda:用于将PyTorch模型部署到AWS Lambda的轻型工具

文件大小:90KB

文件格式:ZIP

更新时间:2024-02-20 11:29:21

python docker cli lightweight yaml

是一个工具,该工具使用和在上部署模型。 使用静态编译的依赖项,整个程序包缩小到30MB 。 由于已编译源代码的大小小,用户可以将其模型作为进行传递。 不再需要类的服务来加载模型。 的PyTorch和AWS依赖关系始终经过测试并保持最新状态,因为它每天都在进行。 文件 部署方式 包 Python 火炬 码头工人 CodeBeat 图片 :check_mark: 为什么要使用torchlambda ? 轻巧和最新的依赖项-编译后的源代码仅重30MB 。 在AWS Lambda( )上进行PyTorch网络部署的先前方法使用过时的PyTorch( 1.1.0 )作为依赖项层,并需要AWS S3来托管您的模型。 现在,您只能使用AWS Lambda并将模型托管为图层,并且每天都支持PyTorch master和最新的稳定版本。 便宜且资源匮乏-可用的解决方案始终运行服务器托管传入的请求。 AWS Lambda(和torchlambda)仅在请求到来时运行。 轻松的自动缩放通常是使用或类似工具(请参阅 )完成自动缩放的。 这种方法需要了解其他工具,并设置适当的服务(例如 )。


【文件预览】:
torchlambda-master
----setup.py(2KB)
----.gitignore(2KB)
----torchlambda()
--------Dockerfile(926B)
--------templates()
--------arguments()
--------subcommands()
--------.dockerignore(53B)
--------__init__.py(53B)
--------build.sh(781B)
--------_version.py(23B)
--------dependencies()
--------main.py(505B)
--------CMakeLists.txt(2KB)
--------implementation()
----MANIFEST.in(32B)
----assets()
--------logos()
--------banner.png(17KB)
----CODE_OF_CONDUCT.md(5KB)
----LICENSE(1KB)
----.github()
--------workflows()
----scripts()
--------analysis()
--------release()
--------ci()
----README.md(8KB)
----tests()
--------settings()
----BENCHMARKS.md(11KB)

网友评论