Tensor Flow量化里representative_dataset参数是什么意思？

Posted 2022-02-11 17岁boy想当攻城狮

representative_dataset是代表性数据集的意思，一般我们取的是validation的那一段数据集，它的作用是用于校准或估计模型中所有浮点数组（如模型输入、中间层激活输出和模型输出）的范围，即（最小、最大），以进行量化。

一般我们在量化PB文件的时候就需要这一个参数，这个参数的作用是用于矫正与标准化网络里所有浮点数数组大小，representative_dataset一般给的值是验证集里的数据，这样让Tensor Flow来矫正网络里所有的浮点数数组的输入与输出范围，如验证集里的图像大小是64x64，72x72，128x128，那么浮点数数组会被量化的大小一般取值范围是64x64-128x128，这样能保证输入源的数据能够被数组存储起来，如卷积在做卷积工作时都需要临时浮点数数组来存储卷积操作过程中产生的数值。

因为针对于神经网络来说，你输入时来判断图像大小在动态扩充数组的话这样会发生更多的内存COPY，耗费更多的运算时间与效率，神经网络的工作理应做权重计算。