文件名称:tiny-tensorrt:用于CNN的简单,高效,易于使用的Nvidia TensorRT包装器,支持c ++和python
文件大小:180KB
文件格式:ZIP
更新时间:2024-06-02 19:11:50
tensorrt C++
小张量 一个简单,高效,易于使用的nvidia TensorRT包装器,用于带有c ++和python API的cnn,支持caffe,uff和onnx格式模型。 您将可以在几行代码中使用tiny-tensorrt部署模型! // create engine trt.CreateEngine(onnxModelpath, engineFile, customOutput, maxBatchSize, mode); // transfer you input data to tensorrt engine trt.CopyFromHostToDevice(input,inputIndex); // inference!!! trt.Forward(); // retrieve network output trt.CopyFromHostToDevice(output, outputIn
【文件预览】:
tiny-tensorrt-master
----Int8Calibrator.h(1KB)
----.github()
--------ISSUE_TEMPLATE()
----.gitmodules(86B)
----Trt.h(8KB)
----CMakeLists.txt(6KB)
----plugin()
--------plugin_utils.cpp(2KB)
--------plugin_utils.h(3KB)
--------CuteSamplePlugin()
----Trt.cpp(13KB)
----test()
--------test.cpp(4KB)
--------test.py(732B)
----cmake()
--------CUDA_utils.cmake(4KB)
----README.md(2KB)
----utils.h(3KB)
----pybind11()
----docs()
--------UserGuide.md(1KB)
--------CustomPlugin.md(8KB)
--------CustomPlugin-CN.md(9KB)
----Int8Calibrator.cpp(3KB)
----.gitignore(28B)
----PyTrt.cpp(2KB)
----spdlog()
--------sinks()
--------formatter.h(461B)
--------fmt()
--------spdlog-inl.h(3KB)
--------logger.h(9KB)
--------logger-inl.h(6KB)
--------common.h(6KB)
--------spdlog.h(10KB)
--------async.h(3KB)
--------version.h(330B)
--------async_logger.h(2KB)
--------tweakme.h(6KB)
--------common-inl.h(1KB)
--------async_logger-inl.h(3KB)
--------details()