TensorRT安装

Posted 2023-02-23 洪流之源

  下面以TensorRT-8.0.1为例，基于ubuntu20.04安装，默认已经安装GPU驱动、CUDA、cuDNN；TensorRT依赖CUDA、cuDNN的版本，比如TensorRT软件包TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz，依赖于cuda11.3、cudnn8.2，因此操作系统中必须事先安装好对应版本的cuda、cudnn。

1. 下载TensorRT

TensorRT8.0下载链接：https://developer.nvidia.com/nvidia-tensorrt-8x-download

TensorRT的安装方式有多种，本次采用TAR包的形式安装，根据系统已经安装的CUDA版本下载对应的TAR包，根据已经安装的CUDA版本，选择相应的下载链接，因为已经安装了cuda11.3，因此选择了如下红框标注版本：

 2. 安装TensorRT

  将下载好的软件包，上传至Linux操作系统任意用户目录下，例如将TAR包

TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz上传至~/software目录，并进入到该目录下：

1) 解压

tar xvzf TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz

2）拷贝至指定安装目录

将解压得到的TensorRT-8.0.1.6目录拷贝至/opt目录下：

sudo cp -R TensorRT-8.0.1.6 /opt

3）设置环境变量

打开/etc/profie文件，添加TensorRT库的搜索路径

sudo vi /etc/profile

如下：

 4）使环境变量生效

source /etc/profile

5）测试TensorRT安装

进入到TensorRT安装目录下的手写数字识别samples，执行编译，执行测试：

cd /opt/TensorRT-8.0.1.6/samples/sampleMNIST
sudo make
../../bin/sample_mnist

如下所示，手写数字8识别为8，运行正常：