TensorRT部署

Posted xytpai

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了TensorRT部署相关的知识,希望对你有一定的参考价值。

下载

https://developer.nvidia.com/nvidia-tensorrt-7x-download 选择对应设备型号
LINUX查看CUDA版本 cat /usr/local/cuda/version.txt
LUNUX查看CUDNN版本 cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2



以上是关于TensorRT部署的主要内容,如果未能解决你的问题,请参考以下文章

TensorRT 模型加速 1-输入输出部署流程

模型部署Tensorrt学习记录

深度学习 模型加速 TensorRT篇输入输出部署流程

pytorch C++部署模型 ONNX tensorRT

TensorRT部署

TensorRT部署