gpu-rest-engine, 使用 Docker 和的Caffe的REST API.zip

时间:2022-10-07 19:37:24
【文件属性】:

文件名称:gpu-rest-engine, 使用 Docker 和的Caffe的REST API.zip

文件大小:251KB

文件格式:ZIP

更新时间:2022-10-07 19:37:24

开源

gpu-rest-engine, 使用 Docker 和的Caffe的REST API 简介这个库展示了如何使用 NVIDIA gpu实现低延迟图像分类( 推理)的REST服务器。 这是对 GRE软件的初步演示,可以让你构建自己的加速 microservices 。演示使用了几种你可能熟悉的技术:Docker: 用于捆


【文件预览】:
gpu-rest-engine-master
----benchmark()
--------benchmark.h(328B)
--------kernel.cu(339B)
--------kernel.h(97B)
--------main.go(886B)
--------benchmark.cpp(3KB)
----tensorrt()
--------classification.cpp(15KB)
--------gpu_allocator.cpp(2KB)
--------gpu_allocator.h(784B)
--------classification.h(509B)
--------main.go(1KB)
----Dockerfile.tensorrt_server(3KB)
----images()
--------2.jpg(16KB)
--------1.jpg(15KB)
--------6.jpg(137KB)
--------3.jpg(21KB)
--------5.jpg(23KB)
--------4.jpg(13KB)
----Dockerfile.benchmark_server(864B)
----common.h(2KB)
----Dockerfile.caffe_server(4KB)
----LICENSE(1KB)
----caffe()
--------classification.cpp(13KB)
--------gpu_allocator.cpp(2KB)
--------gpu_allocator.h(784B)
--------classification.h(529B)
--------main.go(1KB)
----.gitignore(10B)
----Dockerfile.inference_client(225B)
----.dockerignore(18B)
----README.md(6KB)
----Dockerfile.benchmark_client(176B)

网友评论