yolov8在TensorRT+cuda加持下的性能测试

Posted 2023-01-13 FeiYull_

测试信息

• 测试平台：linux+docker
• 硬件：NVIDIA 3070
• 模型输入：batchx3x640x640（测试设置batch为8）
• 测试模型：yolov8n，yolov8s，yolov8n，更多模型测试可以去网盘下载：文件分享

测试仓库

yolov8相关tensrrt+cuda部署代码在仓库TensorRT-Alpha:

https://github.com/FeiYull/tensorrt-alpha

测试结果速览

测试指令：

# yolov8n
./app_yolov8  --model=../../data/yolov8/yolov8n.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4   --show
# yolov8s
./app_yolov8  --model=../../data/yolov8/yolov8s.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4   --show
# yolov8m
./app_yolov8  --model=../../data/yolov8/yolov8m.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4   --show

需要注意：下图中，preprocess包含图像预处理，例如：resize, padding等。postprocess包含decode和NMS，下面测试结果速览，仅供参考：

yolov8n：

 yolov8s:

 yolov8m:

 yolov8l yolov8x可以自己去仓库玩耍一下。

更新计划

“Win10环境下：yolov8的模型部署运行教程”