自动驾驶中的深度学习模型量化部署加速实战

Posted Charmve

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了自动驾驶中的深度学习模型量化部署加速实战相关的知识,希望对你有一定的参考价值。

这里主要是针对AI算法落地的模型部署,其中有基于TensorRT的部署、基于OpenCV+CUDA的部署以及基于NCNN的部署,项目包括简单的demo案例、目标检测、语义分割、实例分割、车道线检测以及Transformer等。大家可以参考以下的链接进行学习和指正。

#模型部署#

1. ResNet50基于TensorRT FP16生成Engnie文件的C++工程

ResNet50基于TensorRT FP16生成Engnie文件的C++工程,ubuntu运行,可自行修改为win下使用,推理代码可自行根据自己的实际情况书写,需要的小伙伴自取哈。图片为执行步骤。

点击这里查看付费文章。


2. ResNet_ibn基于TensorRT FP32生成Engnie文件的C++工程

https://t.zsxq.com/036qjMBUB


## 3. Arcface+TensorRT的部署 https://t.zsxq.com/03eaAaamQ
## 4. YOLO V4基于opencv+cuda部署与加速,MX250实时10ms https://t.zsxq.com/03yFY3rF6

5. M

以上是关于自动驾驶中的深度学习模型量化部署加速实战的主要内容,如果未能解决你的问题,请参考以下文章

《自动驾驶中的深度学习模型量化部署加速实战》专栏概述 | 实战教程,开放源码

自动驾驶感知算法实战14——感知算法模型生产线

自动驾驶感知算法实战14——感知算法模型生产线

自动驾驶感知算法实战14——感知算法模型生产线

深度学习模型压缩与加速

提速还能不掉点!深度解析 MegEngine 4 bits 量化开源实现