PhD Debate-11 预告 | 回顾与展望神经网络的后门攻击与防御
点击蓝字
关注我们
AI TIME欢迎每一位AI爱好者的加入!
7月9日20:00-21:30,本期PhD Debate直播间邀请了来自宾夕法尼亚州州立大学电子工程系博士生向臻、清华大学博士生李一鸣、弗吉尼亚理工计算机工程博士生曾祎和普渡大学计算机科学博士生沈广宇,与大家一起回顾与展望神经网络的后门攻击与防御。
1.近年来,针对神经网络的后门攻击引起了广泛的关注。现有后门攻击的特点,设计的难点,以及未来研究的方向有哪些?
2. 后门攻击和对抗攻击在预测过程中均需要对样本进行修改,后门攻击与对抗攻击也是如今神经网络安全研究的两个重要的方向,大家如何看待这两个方向的区别与相似之处?
3. 现有后门防御的特点,设计的难点,以及未来研究的方向有哪些?
4. 如何看待和设计新任务上的后门攻击和后门防御?
哔哩哔哩直播通道
扫码关注AITIME哔哩哔哩官方账号预约直播
★ 嘉宾简介 ★
向臻:
宾夕法尼亚州州立大学电子工程系博士生,师从David J. Miller以及George Kesidis。主要研究方向为可信赖人工智能(包含后门攻击,投毒攻击,与躲避攻击等多个方向)以及统计信号处理。在TNNLS,Computer&Security,Neural Computation等期刊,以及ICLR,ICASSP,ICCV等会议发表一作学术论文多篇并担任多个国际会议、期刊的审稿人。
李一鸣:
清华大学四年级在读博士生,师从夏树涛和江勇教授。其研究方向为AI安全,主要包括后门学习、对抗学习和数据隐私保护。其在ICCV、 ICLR、 AAAI、IEEE TNNLS、 Pattern Recognition等AI相关顶级会议和期刊发表学术论文多篇。曾受邀担任AAAI 2022会议高级程序委员会成员,NeurIPS、ICML、ICLR等会议程序委员会成员,以及IEEE TPAMI、IEEE TDSC、IEEE TNNLS等期刊审稿人。曾获清华大学‘未来学者’、腾讯‘犀牛鸟精英人才’等荣誉。个人主页:http://liyiming.tech
曾祎:
弗吉尼亚理工计算机工程二年级博士生,师从Ruoxi Jia。个人主攻兴趣为人工智能安全。他的论文曾获得第20届ICA3PP国际会议最佳论文奖。他的论文主要发表在计算机领域顶会(如ICLR、ICCV、IJCAI、AsiaCCS)以及顶刊(例如 IEEE TII、IEEE TC、IEEE Access 等)。个人主页:https://www.yi-zeng.com/
沈广宇:
普渡大学计算机科学二年级博士生,师从Xiangyu Zhang。其研究方向为AI安全,包括在不同模态神经网络中的后门攻击,检测和防御(如计算机视觉,自然语言处理)在CVPR, ICML, S&P 等会议发表一作学术论文并多次担任顶级会议审稿人。个人主页: https://www.cs.purdue.edu/homes/shen447/
★ 主持人★
毛海涛:
密歇根州立大学一年级博士生,师从汤继良教授,曾以一作身份获CIKM2021 best short paper award,曾受邀担任NeurIPS,ICML等会议程序委员会成员。
直播结束后大家可以在群内进行提问,请添加“AI TIME小助手(微信号:AITIME_HY)”,回复“PhD-5”,将拉您进“AI TIME PhD 交流群-5”!
AI TIME微信小助手
主 办:AI TIME
合作媒体:AI 数据派、学术头条
合作伙伴:智谱·AI、中国工程院知领直播、学堂在线、蔻享学术、AMiner、 Ever链动、科研云
往期精彩文章推荐
记得关注我们呀!每天都有新知识!
关于AI TIME
AI TIME源起于2019年,旨在发扬科学思辨精神,邀请各界人士对人工智能理论、算法和场景应用的本质问题进行探索,加强思想碰撞,链接全球AI学者、行业专家和爱好者,希望以辩论的形式,探讨人工智能和人类未来之间的矛盾,探索人工智能领域的未来。
迄今为止,AI TIME已经邀请了600多位海内外讲者,举办了逾300场活动,超210万人次观看。
我知道你
在看
哦
~
点击 阅读原文 预约直播!
PhD Debate-11 预告 | 回顾与展望神经网络的后门攻击与防御相关推荐
- 【PhD Debate —11】矛与盾的对决——神经网络后门攻防
点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 2022年7月9日,AI TIME组织了Ph.D. Debate第十一期,题为"矛与盾的对决--神经网络后门攻防"的 ...
- 论文浅尝 | 图神经网络的对抗攻击和防御相关文献集
本文转载自公众号:专知. 作者:Wei Jin. 导读:本资源整理了关于图形数据或GNN(图形神经网络)上的对抗攻击和防御的论文链接.并对其进行分类. 目录 Survey Papers Attack ...
- 火炬电阻_火炬神经网络的对抗性攻击和防御
火炬电阻 The rise of deep learning and neural networks brought various opportunities and applications su ...
- 论文阅读丨神经清洁: 神经网络中的后门攻击识别与缓解
摘要:本文将带你了解深度神经网络的后门知识,作者提出了一种可靠且可推广的DNN后门攻击检测和缓解系统,这是了解对抗样本和神经网络后门攻击的深度解读. 本文分享自华为云社区<[论文阅读] (02) ...
- 直播预告 PhD Debate | 浅谈自然语言处理中的泛化性
点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 2月26日 晚8点,本期PhD Debate就自然语言处理中的泛化性邀请了来自北航与微软亚洲研究院的联合培养.约翰霍普金斯大学.剑桥大学 ...
- AI:2023年6月9日北京智源大会演讲分享之基础模型前沿技术论坛—《工程化打造AI中的CPU》、《构建一个AI系统:在LLM上应用带有RLHF来推进定制》、《多模态预训练的进展回顾与展望》、《扩展大
AI:2023年6月9日北京智源大会演讲分享之基础模型前沿技术论坛-<工程化打造AI中的CPU>.<构建一个AI系统:在LLM上应用带有RLHF来推进定制>.<多模态预训 ...
- 北京大学王立威教授:机器学习理论的回顾与展望
王立威 王立威,在北京大学教授主要研究领域为机器学习.在包括COLT, NIPS,JMLR, PAMI等权威会议期刊发表论文60余篇.2010年入选 AI's 10 to Watch,是首位获得该奖项 ...
- 中国医学影像人工智能20年回顾和展望
点击下方卡片,关注"CVer"公众号 AI/CV重磅干货,第一时间送达 转载自:中国图象图形学报 点击进入-> CV 微信技术交流群 中国图象图形学报 在过去20年里,医学影 ...
- 学界|北京大学王立威教授:机器学习理论的回顾与展望
(一) 2017-03-05 奕欣 人工智能深度内参 本文由奕欣,夏睿联合编辑. AI科技评论按:本文根据王立威教授在中国人工智能学会AIDL第二期人工智能前沿讲习班*机器学习前沿所作报告<机器 ...
- 高杰:对撞机的历史回顾与展望
自从 Rolf Wideröe(1902-1996)在 1943 年为他提出的对撞机想法申请了秘密专利,以及世界上第一台环形正负电子对撞机 AdA 于 1963 年在法国奥赛(Orsay)的直线加速器 ...
最新文章
- spring_security权限应用
- VTK:图片之ImageMapToColors
- Memetic Algorithm(文化基因算法)
- DevOps工程师到底是做什么的?
- VTDecompressionSessionDecodeFrame -8969
- Marlin 溫度感應器 數值轉換對應表
- macos无法验证此app不包含恶意软件_macOS 下 Electron 程序的签名及公证
- 用OpenCV创建第一个图像
- 43张图还原煤厂各工段的全工艺流程,构建数字孪生体
- 工商银行计算机网银不能连接u盾,工商银行网银U盾无法识别怎么办
- 必应壁纸爬取 def
- 你们都出去玩吧,我选择宅在家里「憋文章」
- 三维空间中,向量在另外一个向量或者面上的投影
- HTML、CSS实现手风琴效果
- 跟小博老师一起学习数据库 ——索引
- 9.27通则康威技术面
- MATLAB代码:含冰蓄冷空调的冷热电联供型微网多时间尺度优化调度
- java计算机毕业设计疫情物质管理系统源码+数据库+lw文档+系统+部署
- 25、驾考题库API接口,免费好用
- mysql分组查询选择数量最多的前十个_mysql 查询每一个分组前N条记录