KerasToTensorRT:这是一个简单的演示,演示了如何在具有TensorRT集成(TFTRT)的Tensorflow上或直接在TensorRT上运行Keras模型模型,而无需调用“ freeze_graph.py”

时间:2024-05-20 16:32:44
【文件属性】:

文件名称:KerasToTensorRT:这是一个简单的演示,演示了如何在具有TensorRT集成(TFTRT)的Tensorflow上或直接在TensorRT上运行Keras模型模型,而无需调用“ freeze_graph.py”

文件大小:25.48MB

文件格式:ZIP

更新时间:2024-05-20 16:32:44

Python

Keras到TensorRT的例子 这是在不使用情况下在具有TensorRT集成(TFTRT)的Tensorflow上或直接在TensorRT上运行Keras模型的简单演示。 注意:建议使用NVIDIA Tensorflow泊坞映像运行这些示例。 您可以从下载图像。 要求 Python(2和3都可以) TensorRT(> 3.0) 具有TensorRT集成的Tensorflow(> 1.7) 凯拉斯 如果您想直接在TensorRT上运行模型,则还需要Pycuda: 皮丘达(> 2017.1.1) 例子 演示了如何在TFTRT上运行Keras模型。 该方法支持NCHW和NHWC格式,因为Tensorflow可以处理格式问题。 $ python tftrt_example.py 演示了如何在TFTRT上运行Keras Applications ResNet50。 $ pyth


【文件预览】:
KerasToTensorRT-master
----.gitignore(24B)
----README.md(2KB)
----utils()
--------ascii.py(291B)
--------dataset.py(838B)
--------__init__.py(0B)
----nhwc_model.h5(13.76MB)
----get_mnist_model.py(3KB)
----tftrt_resnet_example.py(3KB)
----nchw_model.h5(13.76MB)
----tftrt_multi_inputs_mutli_outputs_example.py(8KB)
----trt_example.py(3KB)
----tftrt_example.py(4KB)

网友评论