直播 | 清华大学李一鸣：后门攻击简介

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间，旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为，单向地输出知识并不是一个最好的方式，而有效地反馈和交流可能会让知识的传播更加有意义，从而产生更大的价值。

本期 AI Drive，我们邀请到清华大学博士生李一鸣，为大家带来后门攻击简介的专题直播。对本期主题感兴趣的小伙伴，1 月 20 日（周三）晚 7 点，我们准时相约 PaperWeekly B 站直播间。

直播信息

后门攻击是一种新兴的针对深度学习模型的攻击方式，攻击者在模型的训练过程中通过某种方式对模型植入一些后门。当后门未被激发时，被攻击的模型具有和正常模型类似的表现；而当模型中埋藏的后门被攻击者激活时，模型的输出变为攻击者预先指定的标签以达到恶意的目的。后门攻击可以发生在训练过程非完全受控的很多场景中，例如使用第三方数据集、使用第三方平台进行训练、直接调用第三方模型等，因此对模型的安全性造成了巨大威胁。

在本次分享中，我们将介绍后门攻击的基础知识和一些经典方法，并介绍我们在这个领域的一些探索。

本次分享的具体内容有：

后门攻击的基础知识
后门攻击的三种经典范式
我们在后门攻击的三个探
展望

嘉宾介绍

李一鸣 / 清华大学博士生

李一鸣，清华大学数据科学和信息技术专业三年级博士生。其研究兴趣为安全性机器学习，主要包括后门学习、对抗学习和数据隐私保护。

直播地址 & 交流群

本次直播将在 PaperWeekly B 站直播间进行，扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后，嘉宾还将在直播交流群内实时 QA，在 PaperWeekly 微信公众号后台回复「AI Drive」，即可获取入群通道。

B 站直播间：

https://live.bilibili.com/14884511

合作伙伴

????

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域，欢迎在公众号后台点击「交流群」，小助手将把你带入 PaperWeekly 的交流群里。

直播 | 清华大学李一鸣：后门攻击简介相关推荐

后门攻击经典背景文献（综述）
总结攻击在各个场景都有体现,比如外包场景.迁移学习.联邦学习等,主要集中于前两个前景,联邦学习的攻击还有待发展. 攻击手段都集中在带触发器输入的构造上,无论是直接设计,还是使用目标模型的参数进行优化 ...
ICCV 2021 | 模型安全不容忽视！特定样本触发器的隐形后门攻击方法
关注公众号,发现CV技术之美论文链接:https://openaccess.thecvf.com/content/ICCV2021/papers/Li_Invisible_Backdoor_Atta ...
论文阅读丨神经清洁：神经网络中的后门攻击识别与缓解
摘要:本文将带你了解深度神经网络的后门知识,作者提出了一种可靠且可推广的DNN后门攻击检测和缓解系统,这是了解对抗样本和神经网络后门攻击的深度解读. 本文分享自华为云社区<[论文阅读] (02) ...
用于针对DNN中后门攻击的蒸馏对策和中毒数据的去除
用于针对DNN中后门攻击的蒸馏对策和中毒数据的去除之前的工作现有的防御大多利用后门模型在输入后门数据和正常数据时DNN内部神经元活性分布的不同. [刘, 2018]通过对干净样本输入时神经活性低的 ...
各种后门攻击以及防御复现
后门攻击代码复现研究后门一年多,把好多代码复现整理了下,需要的下面的链接,记得点star 有bug,可私信如果需要其他攻击或者防御的,可私信,有的话会分享目前有BadNets,Composite ...
反知识蒸馏后门攻击：Anti-Distillation Backdoor Attacks: Backdoors Can Really Survive in Knowledge Distillation
Ge, Yunjie, et al. "Anti-Distillation Backdoor Attacks: Backdoors Can Really Survive in Knowled ...
使用语义触发器发起不可见后门攻击
文章目录 Hidden Killer: Invisible Textual Backdoor Attacks with Syntactic Trigger 后门应用背景基于词法的触发器形式化文本后 ...
清华大学计算机基础实验部,2019计算机考研清华大学计算机基础教学部简介
2019考研复习正在紧张的进行中,为了更好的帮助同学们学习.新东方在线为大家整理了"2019计算机考研清华大学计算机基础教学部简介"的相关信息,提醒各位考生要合理安排复习时间,做好 ...
论文阅读笔记-后门攻击及防御
hello,这是鑫鑫鑫的论文分享站,今天分享的文章是Regula Sub-rosa: Latent Backdoor Attacks on Deep Neural Networks,一篇关于后门攻击及 ...

直播 | 清华大学李一鸣：后门攻击简介

直播 | 清华大学李一鸣：后门攻击简介相关推荐

最新文章

热门文章