文件名称:Torchserve-基准测试:基准化Torchserve和Tensorflow服务的客户端
文件大小:2KB
文件格式:ZIP
更新时间:2024-03-02 21:14:01
用法 1.目录 确保主目录中有这些文件夹。 /model-server /benchmark /conf /logs /model-store /tmp /torchserve_benchmark 并使用chmod -R 777授予这些文件夹的权限。 2.指令 rm -rf logs/; singularity run --nv -B ~/model-server:/home/model-server torchserve_latest-gpu.sif "torchserve --start --model-store /home/model-server/model-store --ts-config /home/model-server/benchmark/conf/config.properties > /home/model-server
【文件预览】:
Torchserve-Benchmark-main
----model-server()
--------benchmark()
----README.md(635B)