Pytorch2TensorRT:CUDA10.0,CUDNN7.5.0,TensorRT7.0.0.11

时间:2024-05-30 12:11:02
【文件属性】:

文件名称:Pytorch2TensorRT:CUDA10.0,CUDNN7.5.0,TensorRT7.0.0.11

文件大小:7KB

文件格式:ZIP

更新时间:2024-05-30 12:11:02

附件源码 文章源码

Pytorch2TensorRT 将Pytorch模型部署到TensorRT的一个简单用法,技术路线为“pytorch model-->onnx file-->TensorRT engine”。 当前仅针对ONNX和TensorRT支持OP可进行转换,如有不支持的OP需编写插件。 News: 2020.12.10: 更新trt_convertor.py脚本,使之适用于TRT7; 软件环境: TensorRT7.0.0.11 Pytorch1.2 PIL6.2.1 numpy1.17.4 Linux_x86_64 CUDA10.0 CUDNN7.5.0 当前支持: TensorRT FP32 TensorRT FP16 TensorRT INT8 使用方法: 从Pytorch模型到ONNX:修改并使用pytoch_to_onnx.py脚本转ONNX,或者独自进行转换; 利用自行提供的或


【文件预览】:
Pytorch2TensorRT-master
----do_inference.py(2KB)
----main.py(1KB)
----myCalibrator.py(3KB)
----trt_convertor.py(2KB)
----ReadMe.md(2KB)
----pytoch_to_onnx.py(1KB)
----my_files()
--------put your onnx file here(0B)

网友评论