论文那些事—DeepFool: a simple and accurate method to fool deep neural networks
DeepFool: a simple and accurate method to fool deep neural networks
1、摘要及背景
- 提出Deepfool算法，对比FGSM和I-BLGS算法添加的扰动，Deepfool添加的扰动值要远远小于这两种算法添加的扰动，并且也能很好的完成攻击任务
- 提出鲁棒性量化，让模型鲁棒性有了一个很好的评估标准
2、Deepfool算法原理
线性二分类问题：对于二分类问题，只需要将样本 X0 更新到直线的另一侧，即完成攻击任务，那么毫无疑问最快最短的距离就是垂直 f（x） 的距离，这也代表了最小的扰动。
最后这个公式得拆分为两部分，点到超平面的距离 f（x0）/|| w ||2 和单位向量 w/|| w ||2，负号代表移动的方向，这个公式是针对线性可微的，那么对于非线性问题的算法如下：
把非线性问题近似为线性问题，寻找 X0 到曲线的最短距离，利用线性二分类的解将扰动叠加，直到 X0 落到决策边界上，算法才终止，这就是使用while的原因。
注意最终的结果是之前扰动的累加值。论文中提到返回的最小范数距离需要乘一个系数（1+0.02）保证扰动可以使得样本“跨过”决策边界。
线性多分类问题：需要计算出 X0到每条决策边界的距离，然后进行比较，将最短距离作为最终扰动。
推广到非线性多分类问题，我们依然将它近似为线性问题，使用迭代求解最短距离，算法如下：
第6行的for循环循环体代表我们在每一次生成新的扰动点后都需要计算新的线性近似边界。
3、总结
本文作者通过实验证明，Deeopfool添加的扰动要比FGSM和L-BFGS方法添加的扰动小很多，并且使用Deepfool生成的对抗样本对模型进行对抗训练能够增加模型的鲁棒性，而FGSM在多轮训练后鲁棒性反而下降。
论文那些事—DeepFool: a simple and accurate method to fool deep neural networks相关推荐
- 意图识别算法：噪音处理之O2U-Net: A Simple Noisy Label Detection Approach for Deep Neural Networks
目录 问题描述 解决思路 具体过程 预训练阶段 Cyclical Training阶段 clean dataset训练阶段 实验结果 论文下载:O2U-Net: A Simple Noisy Labe ...
- 【论文阅读｜深读】ANRL: Attributed Network Representation Learning via Deep Neural Networks
目录 前言 简介 Abstract 1 Introduction 2 Related Work 3 Proposed Model 3.1 Notations and Problem Formulati ...
- Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记
Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记 0. 概述 如今一些深度 ...
- [论文阅读笔记58]Learning from Noisy Labels with Deep Neural Networks：A Survey
1.题目 Learning from Noisy Labels with Deep Neural Networks: A Survey 作者团队:韩国科学技术院(KAIST) Song H , Kim ...
- 深度学习论文阅读图像分类篇（三）：VGGNet《Very Deep Convolutional Networks for Large-Scale Image Recognition》
深度学习论文阅读图像分类篇(三):VGGNet<Very Deep Convolutional Networks for Large-Scale Image Recognition> Ab ...
- 3.Deep Neural Networks for YouTube Recommendations论文精细解读
一.总述 今天分享的是Deep Neural Networks for Y ouTube Recommendations这篇论文的一些核心,这篇论文被称为推荐系统工程实践领域的一篇神文,每一个细节都值 ...
- 【论文研读】【医学图像分割】【BCRNN】Fine-grained Recurrent Neural Networks for Automatic Prostate Segmentation ...
[论文研读][医学图像分割][BCRNN]Fine-grained Recurrent Neural Networks for Automatic Prostate Segmentation inUl ...
- 剪枝综述论文阅读：Methods for Pruning Deep Neural Networks
文章目录 一.概述 1.分类 2.评估 二.Magnitude based pruning 1.权重剪枝 2.彩票定理 3.特征图和过滤器剪枝 (1)基于通道方差的剪枝 Inbound pruning ...
- 对抗样本论文学习：Deep Neural Networks are Easily Fooled
近日看了一些对抗样本(adversarial examples)方面的论文,在这里对这些论文进行一下整理和总结. 以下仅代表个人理解,本人能力有限难免有错,还请大家给予纠正,不胜感激.欢迎一起讨论进步 ...
最新文章
- go linux 源码编译环境,Linux 源码安装 GO 环境
- 2021暨南大学计算机考研,暨南大学2021广播电视专硕经验贴
- iOS开发笔记 -- 推送证书的创建及合并
- larval mysql 查询转数组_laravel 中将DB::select 得到的内容转为数组
- python中json文件处理涉及的四个函数json.dumps()和json.loads()、json.dump()和json.load()的区分
- 服务器远程显示用户忙,服务器远程显示用户忙
- 我犯的错误--struts标签s:radio
- bigdecimal 保留两位小数_一律使用 BigDecimal，避免后患？
- 开心果 | 即使天天看的图标 你未必都认识
- 基于keepalived实现haproxy高可用的双主模型配置
- mysql的基本数据类型总结_Mysql数据类型的详细总结
- 你遇到过最有诗意的句子是什么？
- freemarker和thymeleaf的使用样例
- 人机协同、数据驱动，云时代SOC的演进之路
- L2-016 愿天下有情人都是失散多年的兄妹（DFS）
- python中计算DataFrame,Series的数据频率
- 基于改进蜂群算法和灰色模型的管道腐蚀预测 - 附代码
- 相似图片搜索——感知哈希算法
- 常见错误：无效的文件dsn
- easyui 设置css样式,Easyui 条件设置行背景颜色_EasyUI 教程