【GNN报告】赵越-图神经网络与异常检测
目录
1、简介
2、图神经网络与异常检测
小引
图异常检测
背景
系统PyGOD
基准BOND综述
未来方向
总结
小结
QA
3、参考
1、简介
摘要:
在这次演讲中,赵越会围绕异常检测与图上的异常检测来介绍他参与多校联合的Python Graph Outlier Detection (PyGOD)工具库,以及最近的NeurIPS论文:BOND: Benchmarking Unsupervised Outlier Node Detection on Static Attributed Graphs。
个人简介:
赵越,卡内基梅隆大学博士在读,主要研究领域为异常检测和机器学习系统。他发表了超过30篇相关文章,并参与开发过多个重要的机器学习工具库,包括Python Outlier Detection (PyOD)用于表格数据异常检测和Python Graph Outlier Detection (PyGOD)用于图上的异常检测。他在2021年暑假曾访问斯坦福大学,在Jure Leskovec教授的指导下参与设计了PyTorch Geometric的profiling和benchmarking模块。他独立设计的机器学习工具,已获得超过一千万次下载、超过1.5万个GitHub星标和上千次引用。他也是知乎的优秀答主「微调」。
2、图神经网络与异常检测
小引
图异常检测
背景
进可能找到异常点,目前大多是无监督学习
应用:
- 无人机驾驶
- 金融反洗钱
- 医疗罕见病检测
少量样本很有实际应用场景的话,可以使用异常检测
系统PyGOD
图上的异常检测举例
无监督图异常检测存在挑战:标签少且标注困难
这里讨论完全无label的
静态属性图上的无监督节点异常检测定义
做了一个library,来对图上异常检测进行深入研究
PyGOD
很像之前发布的PyOD库
图上的异常检测库
图上异常检测代表性工作1
核心
- 节点与邻居节点的差异性?(节点间特征X关系)
- 节点与邻居节点特征/结构的差异性?(节点间结构A关系)
做法:
- 用自编码器思想做的
- 重构误差越大,则越是异常点
图上异常检测代表性工作2
人为地增加一些先验信息(手动异常)
核心在于重构(知识先压缩再重构)
核心源于不平衡来检测异常
PyGOD优势在于
基准BOND综述
图上基于节点的异常检测综述
带*是因为这些数据本身不携带异常点,因此人为注入异常点(共9个数据集)
异常种类:
- 结构异常:子图节点间紧密相连(相对的)
- 属性异常:节点结构与其他相似,但是属性不同
度量标准
调参设置(无监督无法调参,但可以尽可能让不同模型架构的参数相似)
发现图异常检测方法在注入的数据上表现较好,但是在真实数据集上表现较差(可能是因为异常不源于结构,而真实数据上结构所占loss比重大,则会导致效果变差)
发现非graph如reddit上效果好,说明太过依赖于图关系的模型不见得好,这个为了说明不一定要用GNN模型,而要根据具体情况而定
聚焦人工注入异常的表现发现:
- 重构对于结构异常有益的;
- 低阶信息足够使用
如何同时考虑结构异常和上下文(属性)异常
仅仅loss加权很难做到
未来方向:预算开销上
未来方向
自动学习
设计生成模型生成注入异常
鲁棒loss设计
运算开销上
总结
小结
讲的很通俗易懂,未来发展方向这块的几个点都很不错哦
QA
1)图自监督在工业上初步开始,目前很少
2)动态图异常检测也是需要重构思想来所,但是关键在于node和edge随着时间变化和其他节点的差异性评估
3)无监督下的创新还是有限的,哪怕是伪标签,因为远远差于打标签效果?
4)因为不平衡,所以利用不平衡来进行图检测异常,都则就变成聚类了
5)无监督永远差于半监督和监督效果的
6)用生成模型注入异常来代替人为注入异常
3、参考
异常检测--ADBench (NeurIPS'22) is ALL You Need - 知乎
用PyOD工具库进行「异常检测」 - 知乎
LOGS 第2022/10/23期 || 卡内基梅隆大学赵越-图神经网络与异常检测_哔哩哔哩_bilibili
异常检测算法详解_哔哩哔哩_bilibili
【GNN报告】赵越-图神经网络与异常检测相关推荐
- 消失的网络-基于图流的异常检测算法SpotLight
今天给大家介绍一个非常牛逼的图异常检测方法,今天只开个头,抛砖引玉,介绍下基本原理,后续有时间了,慢慢讲细节和实战. 我们如何从电子邮件或运输日志中发现有趣的事件?我们如何从IP-IP通信数据中检测端 ...
- GNN通俗笔记:图神经网络在推荐/广告中的应用
原始视频:七月在线公开课<图神经网络在推荐广告场景中的应用>,课件可以打开视频页面下载 分享老师:推荐吴老师,推荐/广告算法专家,曾任部门算法负责人,年薪....不低 字幕校对:天保,全程 ...
- Make GNN Great Again:图神经网络上的预训练和自监督学习
来源:RUC AI Box本文约6500字,建议阅读13分钟本文梳理近年来 GNN预训练和自监督学习/对比学习的相关工作. 1 引言 近些年来,对图神经网络(GNN)的研究如火如荼.通过设计基于 GN ...
- cnn 一维时序数据_蚂蚁集团智能监控的时序异常检测:基于 CNN 神经网络的异常检测...
1 背景在蚂蚁集团智能监控领域,时序异常检测是极重要一环,异常检测落地中,业务方参考业界标准输出 Metrics 指标数据,监控不同业务.应用.接口.集群的各项指标,包含 Metrics 指标(总量. ...
- 技术分享|基于图神经网络的微服务系统调用链和日志融合异常检测方法
基于图神经网络的微服务系统调用链和日志融合异常检测方法 微服务系统运行时环境具有高度的复杂性和动态性,由此带来的各种问题导致微服务系统常常出现各种故障.为了尽早发现故障,快速准确的异常检测方法成为保证 ...
- 收藏|图神经网络综述
来源:人工智能AI技术 本文约12000字,建议阅读10+分钟 本文为你简述图计算.图数据库.知识图谱.图神经网络等图技术领域的相关历史及不同类型的图结构. 在科学研究中,从方法论上来讲,都应&quo ...
- 【综述专栏】图神经网络综述
来源:图灵人工智能 作者:王健宗等 https://wwwihcm/people/euu-lin-jun-7 原文链接: https://kns.cnki.net/kcms/detail/31.128 ...
- 【GNN报告】香港科技大学李佳:图异常检测再思考—我们究竟需要怎样的图神经网络?
目录 1.简介 2.Rethinking Graph Neural Networks for Anomaly Detection 背景 学习模式 现有图异常检测工作 编辑 动机 背景知识 方法 实验 ...
- 【GNN报告】腾讯AI Lab机器学习中心荣钰:图神经网络最新范式的探索
目录 1.简介 2.图神经网络最新范式的探索 背景 存在不足 Geometrically Equivariant Graph Neural Networks: A Survey Equivariant ...
最新文章
- C++11中nullptr的使用
- 10-Linux 基本指令
- 妈蛋:kinMaxShow轮播图异常,WebUploader图片上传坑爹,图片被压缩了
- kibana操作elasticsearch:多字段查询(multi_match)
- # PHP - 使用PHPMailer发邮件
- zigbee 协议栈数据类型及转换
- oracle批量update数据_东方国信大数据面试真题
- python与7无关的数输出格式第一行为所有与7无关的数_70 道 NumPy 测试题
- day10:函数进阶
- vue 判断两对象是否一致_你的.vue文件就已经是你的文档了
- python向oracle写数据类型,python-oracle插入数据类型不匹配
- 查看单元测试用例覆盖率新姿势:IDEA 集成 JaCoCo
- python高阶爬虫---视频类内容爬取,内含详细教程和代码实例
- 省市县三级联动的实现方案
- 【史上最全】国内外常用精品API接口汇总
- Dubbo学习之DubboService
- 时光启程了岁月里所有的狼狈
- 短信管理器android,短信夹管理软件-短信夹管理app预约v1.4.3 安卓版-西西软件园...
- 万物心选—新生代妈妈创业的优质之选
- 二叉树的遍历(前序遍历,中序遍历,后序遍历)