TensorRT层和每个层支持的精度模式

Posted demo-deng

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了TensorRT层和每个层支持的精度模式相关的知识,希望对你有一定的参考价值。

下表列出了TensorRT层和每个层支持的精确模式。它还列出了该层在深度学习加速器(DLA)上运行的能力。有关附加约束的更多信息,请参见 DLA Supported Layershttps://docs.nvidia.com/deeplearning/sdk/tensorrt-developer-guide/index.html#dla_layers .
有关每个TensorRT层的更多信息,请参见TensorRT层。要查看每个层支持的特定属性列表,请参考TensorRT API文档https://docs.nvidia.com/deeplearning/sdk/tensorrt-api/index.html

技术图片

 

以上是关于TensorRT层和每个层支持的精度模式的主要内容,如果未能解决你的问题,请参考以下文章

TensorRT模型加速 | 网络结构优化 | 低精度推理

TensorRT模型加速 | 网络结构优化 | 低精度推理

TensorRT--用fp16精度运行 比 fp32还慢?

TensorRT 模型加速 2- 优化方式

TensorRT&Sample&Python[uff_custom_plugin]

服务层和数据访问对象层如何适应 Spring MVC 架构?