tensorrt_models:该项目旨在通过python在TensorRT上进行cpp推理

时间:2024-06-07 15:30:00
【文件属性】:

文件名称:tensorrt_models:该项目旨在通过python在TensorRT上进行cpp推理

文件大小:176KB

文件格式:ZIP

更新时间:2024-06-07 15:30:00

C

Python中的TensorRT推理 该项目旨在通过tensorRT通过其C ++ API为NN提供快速推理,而无需任何C ++编程。 使用您可爱的python。 例子 重要的 当前支持CUDA 10.2,TensorRT 7.1.3.4和TensorRT 7.2.1.6。 也是CUDA 11.1和TensorRT 7.2.2 制作说明 Windows预构建说明: 安装Visual Studio 然后安装CUDA(确保VS版本满足cuda要求 建造: 下载TensorRT库并解压缩。 git clone-递归 cd tensorrt_models 打开CmakeLists.txt并更改TensorRT的include和lib路径。 点安装。 预构建包 那么你就可以: from tensorrt_models import TRTModel model = TRTModel


【文件预览】:
tensorrt_models-master
----.gitmodules(158B)
----src()
--------basic_model.cpp(15KB)
--------EntropyCalibrator.cpp(4KB)
--------TRTModel.cpp(7KB)
----cuda()
--------cudaUtility.h(3KB)
--------cudaMappedMemory.h(3KB)
----CMakeLists.txt(1KB)
----samples()
--------test.py(601B)
----setup.py(2KB)
----README.md(3KB)
----pybind11()
----image()
--------imageIO.cpp(3KB)
--------stb()
--------imageIO.h(237B)
----spdlog()
----include()
--------common.h(14KB)
--------TRTModel.h(646B)
--------EntropyCalibrator.h(1KB)
--------basic_model.h(4KB)

网友评论