地平线量化方案QAT原理介绍及实践，包含源代码

Posted 2023-03-03 Charmve

地平线量化方案QAT

• 1 what is QAT？
• 2 Before start
• • 2.1 环境部署
  • 2.2 模型准备
• 3 QAT模型量化
• • 3.1 模型量化
  • • 3.1.1 prepare_qat_fx
    • 3.1.2 qconfig_dict
    • 3.1.3 prepare_custom_config_dict
  • 3.2 其他量化配置
  • • 3.2.1 输入/输出量化配置
    • 3.2.2 量化状态train/eval配置
  • 3.3 模型结构检查
  • 3.4 量化训练策略
  • 3.5 量化精度验证
  • • 3.5.1精度验证
    • 3.5.2 问题定位