TFLite Interpreter

Posted Dufre.WC

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了TFLite Interpreter相关的知识，希望对你有一定的参考价值。

文章目录

Architechture

  • PC
    • model training
    • convert model to xxx.tflite
  • Device
    • xxx.tflite interpreter
    • inference
      • Neon Kernels
      • Hardware Acceleration interface(GPU/APU…)

在这里插入图片描述

Model Structure

在这里插入图片描述
在这里插入图片描述

Subgraph

在这里插入图片描述

Operator

在这里插入图片描述

Class Structure

在这里插入图片描述

TfLiteNode/TfLiteRegistration

在这里插入图片描述

Interpreter Implement

mmap

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

TfLiteNode

在这里插入图片描述

TfLiteRegistration

在这里插入图片描述

TfLiteContext

在这里插入图片描述

Workflow

InterpreterBuild::operator()

在这里插入图片描述
在这里插入图片描述

Subgraph::Invoke()

在这里插入图片描述

Example

This is CNN Model

  1. Conv2D
  2. MaxPool2D
  3. Conv2D
  4. MaxPool2D
  5. Reshape
  6. FullyConnected
  7. Softmax
    在这里插入图片描述

ParseNodes

在这里插入图片描述

ParseTensors

在这里插入图片描述

SetTensorParameterReadOnly()

在这里插入图片描述

SetTensorParameterReadWrite()

在这里插入图片描述

Subgraph::Invoke()

在这里插入图片描述

以上是关于TFLite Interpreter的主要内容，如果未能解决你的问题，请参考以下文章

GpuDelegateV2 Tflite 不接受任何参数

如何在图像分类上快速运行 tflite 模型

如何在脚本中加载 tflite 模型？

Tflite.runModelOnImage参数说明

tflite模型的生成

如何查看 .tflite 文件中的权重？