2021.4，效果排名第23（papers with code）

模型原理

思想：将transformer引入异常检测领域，将基于生成重构的问题转化为inpainting问题（将图像某些区域覆盖然后恢复，可视为自监督方法），使用transformer来进行大感受野的信息捕捉。

Patch Embeddings and Multihead Feature Self-attention

Patch embeddings

如图，将输入的图分成16*16的网格图，再从网格图中随机选取7*7大小的图，构成张量[252,49,768]（batchsize：252，7*7:49，16*16*3（RGB通道）：768）。经全连接层转换为[252,49,512]，输出到网络的图是[252,49,512]（包括未被掩盖的块和为补充位置关系而加的层），[252,768]（被掩盖的块）。

Multihead Feature Self-attention MFSA多头注意力机制

query，key，value张量均为输入的图[252,49,512]，query，key经（MLP）两个全连接层（层间设置激活函数）输出[252,49,256]，再转换张量的布置输出[252,8,49,32]，value经一个全连接层（不设置激活函数）输出[252,49,256]，再转换张量的布置输出[252,8,49,64]。

key张量再转换[252,8,32,49]与query张量相乘后除 $\sqrt{32}$ 得张量[252,8,49,49]。经softmax返回张量p_attn[252,8,49,49]，将p_attn与value相乘返回张量value_pro[252,8,49,64]。

将value_pro经转换经全连接后输出张量[252,49,512]。

Network Architecture and Training

将输入的张量经全连接层gelu激活再经全连接层。

--------------------------------------------

通过MSFA与MLP搭建transformer，后输出张量[252,49,512]，求平均，经全连接层输出[252,768]。

映射成图[252,3,16,16]，计算损失函数，损失函数包括L2损失/结构相似度损失（structural similarity）/梯度幅度相似度损失（gradient magnitude similarity）

实验

细节：transformer的训练时间比较长，有些时候需要超过500个epoch。当验证集loss超过50个epoch都没有明显下降，则停止训练，并选择最优的模型进行评估。

消融实验：长连接，MSA与MFSA，窗口的长度（原文为7）。

参考

用于异常检测的Transformer - InTra《Inpainting Transformer for Anomaly Detection》_我是大黄同学呀的博客-CSDN博客_transformer 异常检测

InTra【异常检测：Reconstruction_based】相关推荐

异常检测阅读笔记《Inpainting Transformer for Anomaly Detection》CVPR 2021
异常检测阅读笔记<Inpainting Transformer for Anomaly Detection> CVPR 2021 来源:2021年的CVPR,原文论链接论文的方向是图像方 ...
异常检测算法：Isolation Forest
iForest (Isolation Forest)是由Liu et al. [1] 提出来的基于二叉树的ensemble异常检测算法,具有效果好.训练快(线性复杂度)等特点. 1. 前言 iFore ...
一文掌握异常检测的实用方法 | 技术实践
作者 | Vegard Flovik 译者 | Tianyu 责编 | Jane 出品 | AI科技大本营(ID: rgznai100) [导读]今天这篇文章会向大家介绍几个有关机器学习和统计分析的技 ...
KDD Cup 2021 时序异常检测总结！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货方向:时序异常检测,来源:Coggle 赛题描述 KDD Cup 202 ...
6种时序异常检测思路总结！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货内容:异常检测,来源:Coggle数据科学时序异常检测并不困难,如果你 ...
使用计算机视觉来做异常检测！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:Mia Morton,来源:AI公园导读创建异常检测模型,实现 ...
CMU赵越关于异常检测的分享！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:赵越,卡内基梅隆大学,Datawhale特邀作者信息知乎微调: ...
CMU赵越：异常检测的算法、案例和落地
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale线上分享:赵越,卡内基梅隆大学研究方向:异常检测等东南大学微软技术俱 ...
时序预测竞赛之异常检测算法综述
本文将介绍在时间序列预测相关问题中常见的异常检测算法,可以很大程度上帮助改善最终预测效果. 异常分类时间序列的异常检测问题通常表示为相对于某些标准信号或常见信号的离群点.虽然有很多的异常类型,但是我 ...
利用Kafka和Cassandra构建实时异常检测实验
导言异常检测是一种跨行业的方法,用于发现事件流中的异常事件 - 它适用于物联网传感器,财务欺诈检测,安全性,威胁检测,数字广告欺诈以及许多其他应用程序.此类系统检查流数据以检查异常或不规则,并在检测 ...

InTra【异常检测：Reconstruction_based】

模型原理

Patch Embeddings and Multihead Feature Self-attention

Network Architecture and Training

实验

InTra【异常检测：Reconstruction_based】相关推荐

最新文章

热门文章