tensorRT C++ API

Posted yanxingang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了tensorRT C++ API相关的知识,希望对你有一定的参考价值。

核心的C++ API包含在 NvInfer.h 中。

有四个关键的API如下:

1、Bulider API

2、Execution API

3、Network Definition API

4、Plugin API

 

命名空间:nvinfer1 (个人理解为是 nvidia inference version1的意思)

命名空间里有很多members,主要涵盖了functions、Enumerations、Enumerator

具体命名空间里的member的意思可以到https://docs.nvidia.com/deeplearning/sdk/tensorrt-api/c_api/namespacemembers.html查阅

 

tensorRT中大量的类以及类的介绍、成员、方法查阅https://docs.nvidia.com/deeplearning/sdk/tensorrt-api/c_api/classes.html

以上是关于tensorRT C++ API的主要内容,如果未能解决你的问题,请参考以下文章

TensorRT C++网络模型接口推理

TensorRT 系列 C++ API 构建编译网络

C++ (tensorRT中学习)

C++ TensorRT 批量推理给出了奇怪的结果

TensorRT模型部署实战,英伟达平台,C++ 和python对比(包含源码)

TensorRT模型部署实战,英伟达平台,C++ 和python对比(包含源码)