实战篇第8节：量化感知训练QAT——如何在PyTorch中模拟量化并部署

PTQ在ResNet上掉0.3%可以忍，但在轻量模型（MobileNetV3）上掉5%不能忍——QAT让模型在训练中"学会"在量化噪声下工作，精度损失<0.1%

前言

量化感知训练（Quantization-Aware Training, QAT）是PTQ的进阶方案：在训练（或微调）过程中插入"假量化"节点（FakeQuant），让前向传播模拟量化的截断和舍入误差，反向传播则使用STE（Straight-Through Estimator）绕过不可导的round操作。

QAT的优势和代价：

• 精度：通常比PTQ高1-5个百分点，尤其在MobileNet/EfficientNet等轻量模型上
• 代价：需要额外的训练时间（通常是原始训练的10-20%，微调场景下几小时即可）
• 适用：对精度要求苛刻的场景——自动驾驶感知、医疗影像、人脸识别

这一节，我们从PyTorch的QAT工具链出发，覆盖训练、导出到TensorRT部署的完整流程。

一、QAT的工作原理

1.1 FakeQuant：训练时模拟量化

importtorch