导读:
———————————————————————————————————————————
重建类异常检测方法有一个隐藏的顽固缺陷:模型学会了"捷径"。理想情况下,模型应该只重建正常特征,使异常区域在重建前后产生差异。但实际上,模型可能直接复制输入特征——包括异常部分——导致缺陷被完美重建而无法被检测。
TFA-Net的解决方案是引入一张固定的正常模板图像:将输入特征向模板特征聚合,而非直接重建输入。由于异常特征与正常模板特征的相似度低,聚合过程有效地过滤掉了异常信息。在MVTec AD数据集上,TFA-Net以98.7%的图像级AU-ROC和98.3%的像素级AU-ROC达到了15个类别的平均最优,其中Leather、Tile、Bottle、Hazelnut和Toothbrush五个类别达到100%图像级检测。
论文信息
_____________________________________________________________________________
标题:Template-Based Feature Aggregation Network for Industrial Anomaly Detection
作者:Wei Luo, Haiming Yao, Wenyong Yu
机构:清华大学精密测量技术与仪器国家重点实验室;华中科技大学数字制造装备与技术国家重点实验室
状态:预印本(已投稿Elsevier期刊)
代码:https://github.com/tlov23/TFA-Net
一、重建类方法的"捷径学习"问题
_____________________________________________________________________________
无监督异常检测的主流思路分为两大类:嵌入类方法(如PaDiM、PatchCore)建立正常特征的记忆库并度量距离;重建类方法(如自编码器、DFR)学习重建正常数据,利用重建误差作为异常分数。
重建类方法面临一个核心问题:捷径学习(shortcut learning)。模型在训练时只见过正常样本,理论上只能学会重建正常模式。但实际上,现有特征重建方法存在两个缺陷:
平凡解问题(trivial solution):即模型走捷径,直接复制输入特征,使得异常区域也被完美重建
像素级差异无语义:在特征空间中,输入和重建之间的像素级差异不一定承载语义信息,可能产生大量假阳性
论文中直观地对比了直接特征重建与模板特征聚合的效果:直接重建时异常特征被保留在重建结果中;而模板聚合后,异常区域被有效抑制。
二、TFA-Net的四阶段流水线
TFA-Net的整体架构包含四个阶段:
阶段一:多层级融合特征提取
使用预训练的Wide-ResNet50作为特征提取器,取第1至第4层的特征图。不同层的特征图具有不同的感受野:浅层特征包含更多细节但较少语义信息,深层特征则相反。
将各层特征图统一缩放至相同空间尺寸(),在通道维度拼接,得到维度为1856的多层级融合特征 。
阶段二:模板特征聚合机制(TFAM)
这是TFA-Net的核心创新。选择一张固定的正常图像作为模板 ,同样提取融合特征 。
TFAM基于Vision Transformer(ViT)的自注意力机制。具体步骤:
将输入特征和模板特征分别通过投影头转换为patch embedding 和
拼接两组embedding:
送入12层Transformer Block进行自注意力聚合
聚合后,丢弃输入特征部分,仅保留模板特征部分
关键机制:在自注意力过程中,正常输入特征与正常模板特征相似度高,能有效聚合(高聚合度);异常输入特征与正常模板特征相似度低,难以聚合(低聚合度)。因此,TFAM通过将输入信息向模板特征聚合,有效地过滤了异常信息,将原本平凡的特征复制任务转化为有意义的特征聚合任务。
阶段三:特征细节精炼模块(FDRM)
经过TFAM后,模板特征已融合了来自正常输入的信息。但TFAM存在一个边界情况:少量异常特征可能因与模板特征在潜空间中的相似性而被部分聚合。FDRM使用8层Transformer Block对TFAM输出进行进一步精炼,修复这些残留的异常痕迹,生成最终的重建特征图 。
阶段四:双模式异常分割
最终异常分数同时使用欧几里得距离和余弦相似度:
两种度量的element-wise乘积能同时捕捉特征幅值差异和方向差异,提升定位精度。
三、MVTec AD与MVTec LOCO AD上的实验结果
MVTec AD结果(论文Table 1)
TFA-Net在15个类别上的平均性能(AU-ROC即ROC曲线下面积,越高越好):
指标 | TFA-Net | 次优方法 | 领先幅度 |
|---|---|---|---|
图像级AU-ROC | 98.7% | 98.0%(Draem) | +0.7% |
像素级AU-ROC | 98.3% | 97.3%(多个方法) | +1.0% |
五个类别达到100%图像级检测:Leather、Tile、Bottle、Hazelnut、Toothbrush。在较难的Transistor类别上,TFA-Net以99.8%图像级AU-ROC和97.7%像素级AU-ROC领先次优方法2.0%和0.7%。
MVTec LOCO AD结果(论文Table 2)
MVTec LOCO AD包含逻辑异常(如零件缺失、位置错误)和结构异常(如表面缺陷),检测难度更高。
方法 | 逻辑异常 AU-ROC | 结构异常 AU-ROC | 平均 |
|---|---|---|---|
GCAD | 86.0 | 80.6 | 83.3 |
| TFA-Net | 77.2 | 85.4 | 81.6 |
TFA-Net在结构异常检测上以85.4%领先次优方法PatchCore的82.0%(+3.4%)。在逻辑异常上,TFA-Net排名第二(77.2%),低于专为逻辑异常设计的GCAD(86.0%)。这说明TFAM的特征聚合机制在处理需要高级语义推理的逻辑异常时仍有提升空间。
四、消融实验:TFAM为什么有效?
_____________________________________________________________________________
特征提取器的影响(论文Table 3)
特征提取器 | 图像/像素 AU-ROC | FPS | 参数量 |
|---|---|---|---|
MobileNet | 94.5/94.6 | 23.4 | 112.86M |
VGG19 | 97.6/96.6 | 18.5 | 140.93M |
WideResNet50 | 98.7/98.3 | 15.3 | 173.57M |
WideResNet101 | 98.8/98.5 | 10.0 | 231.58M |
WideResNet50在精度和效率之间取得了最优平衡。
TFAM的影响
移除TFAM后,Cable类别的图像级AU-ROC下降6.8%,Screw下降5.6%,Transistor下降9.6%。这些类别的共同特点是需要检测全局性缺陷(如物体缺失),说明TFAM学习到的语义丰富的全局信息对此类缺陷的检测至关重要。
模板图像选择的鲁棒性
在Hazelnut、Screw和Metal Nut三个具有姿态多样性的类别上,使用10张不同的正常图像作为模板进行测试。结果显示:Hazelnut的最大波动仅0.0/0.09%(Image/Pixel AU-ROC),Screw为0.9/0.21%,Metal Nut为0.6/0.37%。模型性能波动均在1%以内。
论文解释:虽然不同模板图像在外观上差异较大,但经过ViT分割为patch后,不同位置的patch之间仍然能建立对应关系——这正是ViT缺乏平移等变性的特点在此场景下的优势。
双模式分割的影响(论文Table 4)
分割方式 | 图像/像素 AU-ROC |
|---|---|
仅欧几里得距离 | 97.7/97.8 |
仅余弦相似度 | 97.8/98.0 |
| 双模式分割 | 98.7/98.3 |
双模式分割相比仅用欧几里得距离提升了+1.0%/+0.5%(图像/像素),相比仅用余弦相似度提升了+0.9%/+0.3%。
五、总结与思考
_____________________________________________________________________________
TFA-Net通过引入模板特征聚合机制(TFAM),将重建类异常检测中容易陷入的平凡特征复制任务转化为有意义的跨图像特征聚合任务,有效解决了捷径学习问题。配合FDRM精炼和双模式分割,在MVTec AD上达到了98.7%/98.3%的图像/像素级AU-ROC。
在此基础上,有几点值得进一步思考:
逻辑异常检测的局限性:TFA-Net在MVTec LOCO AD的逻辑异常类别上的表现(77.2%)明显低于结构异常(85.4%)。逻辑异常需要理解物体间的组合关系(如零件是否齐全、位置是否正确),这超出了基于特征相似度聚合的能力范围。
模板选择的鲁棒性:论文消融实验表明,使用10张不同正常图像作为模板,性能波动均在1%以内(Hazelnut仅0.09%像素级波动)。论文将此归因于ViT缺乏平移等变性,使得不同位置的patch仍能建立对应关系。
推理速度与精度的权衡:论文Table 3显示,WideResNet50作为特征提取器时FPS为15.3,切换到MobileNet可提升至23.4 FPS,但图像级AU-ROC从98.7%降至94.5%。论文最终选择WideResNet50作为精度与效率的平衡点。