使用tensorflow对模型进行量化

Posted hayley111

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用tensorflow对模型进行量化相关的知识,希望对你有一定的参考价值。

本文旨在将训练好的模型基于tensorflow自带工具进行量化。
环境配置部分可参考博文[https://www.cnblogs.com/hayley111/p/12887853.html]。
首先使用如下workflow理解模型部署的过程,本文主要描述的是

bazel build tensorflow/python/tools:freeze_graph 

出现以下信息表示bazel-bin编译成功:
技术图片

  • 查看上述2中step3中的training文件夹,一般一般情况下用tf.train.Saver.save()方式保存下来的checkpoint会产生四个文件:
checkpoint #文本文件,该文件记录了保存的最新的checkpoint文件以及其他checkpoint文件列表
model.ckpt.data-00000-of-00001 #.data文件保存了当前参数值
model.ckpt.index #.index文件保存了当前参数名
model.ckpt.meta #.meta文件保存了当前图结构

技术图片







以上是关于使用tensorflow对模型进行量化的主要内容,如果未能解决你的问题,请参考以下文章

使用 toco 将假量化 tensorflow 模型(.pb)转换为 tensorflow lite 模型(.tflite)失败

facenet训练后模型使用tensorflow量化

Tensorflow-lite - 从量化模型输出中获取位图

训练后使用量化权重进行 keras 模型评估

tensorflow模型量化实例

Tensorflow超参调整时对于模型重加载轻量化的测试