Transformer+异常检测论文解读
1. OOD
OODformer: Out-Of-Distribution Detection Transformer是2021年12月发表在BMVC上的一篇比较新的OOD的论文。顾名思义，OODformer使用Transformer做异常检测。算法流程图如下：
OODformer是一种比较简单的算法，和之前的SSD、CSI等OOD方法的思路接近。OOD的主要步骤都如下：
- 训练一个ViT（有监督）。
- 根据ViT提取学习到的特征，用马氏距离度量测试样本和训练样本之间的差异，差异大（或者置信度低）则为异常样本。
重要更新：我个人认为这篇论文是有问题的，不建议大家学习。
代码中的这一行代码存在问题，分别对来自in-dataset和out-of-dataset的测试数据做了不同的处理：对in-dataset使用的是真实标签，out-of-dataset使用的是预测的标签。
这一不同的处理在异常检测中是不被允许的。因为异常检测目的是找到谁是异常数据，而这样的处理相当于提前知道了谁来自in-dataset，谁来自out-of-dataset，只有这样才能分别做不同的处理。相当于作弊了。
2. One-CLass
介绍三篇One-CLass+Transformer的算法，采用的基本结构都是encoder-decoder的经典无监督异常检测方法。
2.1 AnoViT
AnoViT: Unsupervised Anomaly Detection and Localization With Vision Transformer-Based Encoder-Decoder 用Transformer作为encoder，CNN网络作为decoder，该方法使重建误差、输入图像与重建图像之间的差异最小化，并学习正常数据的正态分布以进行异常检测。
2.2 UTRAD
UTRAD: Anomaly detection and localization with U-Transformer主要的贡献除了采用了transformer之外，主要是提出了一种U型的多尺度金字塔层次结构。在不同层之间连接，有助于检测多尺度结构和非结构异常。UTRAD的结构如下：
UTRAD的步骤：
- 将图像输入预训练网络，提取多尺度特征。
- 将深度特征发送到U-transformer进行特征级重构。
- 利用重构误差得到异常评分图。
2.3 VT-ADL
VT-ADL: A Vision Transformer Network for Image Anomaly Detection and Localization在encoder的输出之后加入了一个gaussian mixture density网络用来定位异常。
VT-ADL的步骤：
- 将图像分割为面片，通过位置嵌入进行增强后送到变压器编码器。
- 将编码后的特征求和为重构向量，再将重构向量送入解码器。
- 变压器编码的特征也被输入高斯近似网络，该网络随后用于定位异常
Transformer+异常检测论文解读相关推荐
- 异常检测论文解读—Memorizing Normality to Detect Anomaly
论文链接 code暂时未开源 这是一篇异常检测方向的paper:ICCV2019已收录. 论文背景 目前视觉中基于无监督学习的异常检测主要为编码器-解码器结构,仅训练正常样本,希望测试阶段的正常样本有 ...
- 【图异常检测论文解读】AnomMAN: Detect Anomaly on Multi-view Attributed Networks
论文链接:AnomMAN: Detect Anomaly on Multi-view Attributed Networks. 一.前言 1.1 以往图异常检测算法的问题 大多数图异常检测算法仅仅考虑 ...
- CVPR2021 | 2D目标检测论文解读
CVPR2021 | 2D目标检测论文解读 1. UP-DETR:--<UP-DETR: Unsupervised Pre-training for Object Detection with ...
- 目标检测论文解读复现之一：基于改进YOLOv5的整车原木数量检测方法——TWD-YOLOv5（代码已复现）
目标检测论文解读复现 文章目录 目标检测论文解读复现 前言 一.摘要 二.网络模型及核心创新点 三.应用数据集 四.实验效果 五.投稿期刊介绍 前言 此前出了目标改进算法专栏,但是对于应用于什么场景, ...
- 目标检测论文解读复现之六：基于YOLOv5的遥感图像舰船的检测方法
目标检测论文解读复现 文章目录 目标检测论文解读复现 前言 一.摘要 二.网络模型及核心创新点 三.应用数据集 四.实验效果 五.实验结论 六.投稿期刊介绍 前言 此前出了目标改进算法专栏,但是对于应 ...
- 目标检测论文解读复现之五：改进YOLOv5的SAR图像舰船目标检测
目标检测论文解读复现 文章目录 目标检测论文解读复现 前言 一.摘要 二.网络模型及核心创新点 三.应用数据集 四.实验效果(部分展示) 五.实验结论 六.投稿期刊介绍 前言 此前出了目标改进算法专栏 ...
- ICML 2022 重思考为图结构数据异常检测设计图神经网络 | 图数据异常节点检测 | 论文解读和代码复现
文章目录 一.引言 二.背景与挑战 三.论文主要内容 四.结果分析 五.代码复现 1. 环境配置 2. 结果复现 一.引言 Rethinking Graph Neural Networks for A ...
- 异常检测论文阅读笔记《MIST: Multiple Instance Self-Training Framework for Video Anomaly Detection》
MIST: Multiple Instance Self-Training Framework for Video Anomaly Detection 论文来源:CVPR 2021 原论文地址链接 相 ...
- 【视频异常检测-论文阅读】Anomaly Detection in Video via Self-Supervised and Multi-Task Learning
来源: Georgescu, Mariana-Iuliana, et al. "Anomaly Detection in Video via Self-Supervised and Mult ...
- 【异常检测-论文阅读】（CVPR 2022）Self-Supervised Predictive Convolutional Attentive Block for Anomaly Detection
来源: Ristea N C, Madan N, Ionescu R T, et al. Self-supervised predictive convolutional attentive bloc ...
最新文章
- ZOJ2158，POJ1789
- Perl函数pack/unpack（二进制读写）
- y7000p电池固件_拯救者Y7000、Y7000P、Y9000k显卡切换了解一下
- 中国第五届CSS大会分享：CSS TIME
- Android 系统（80）---Android 8.0 7.0 6.0 动态权限管理
- 设计鲁棒性的方法：输入一个链表的头结点，逆序遍历打印该链表出来
- 怎样用java抽签小程序,可以作弊的抽签小程序,急求java抽签小程序
- 5种常用的相关分析方法
- iOS dSYM详解和分析crash，ips文件
- 光学成像原理之景深(Depth of Field)
- java 营业执照验证_基于Java的营业执照识别示例代码-六派数据
- Autonomous Aerial Dual-Target Following Among Obstacles
- 计算机心理学测试题目及答案解析,大学生趣味心理测试题及答案
- SoClean！磁盘清理软件
- 实验二——网络嗅探与欺骗.
- Android开发——进程间通信之Bundle和文件
- 1000：入门测试题目--信息学奥赛一本通题解
- 技术干货集中营——WOT 2017全球架构与运维技术峰会
- 从0到1 CTFer成功之路》XSS---学习笔记
- 老男孩教育 | 0基础学习三个月的心得分享！