参考：https://posts.careerengine.us/p/5ff6b16ae83b0349b1f7c3a3

1、二范数

论文中：

以上是鲁棒性定义，即给定一个分类器，样本鲁棒性是使得模型出现误分类的最小扰动，即。为干净的样本，为模型预测的标签。是分类器在处鲁棒性。
模型在整个数据集上的鲁棒性定义为：

这是一种期望的形式。作者的这种定义是在分母中都除以一个样本的 2 范数。模型鲁棒性是更好地理解当前网络体系结构的局限性和设计增强健壮性的方法的关键。

2、DeepFool攻击二分类器

图2：线性二进制分类器的对抗样本。

上图为对抗样本攻击线性分类器的图示。其中为一个二分类器。为干净样本点的最短距离，即为样本点在分类器中的鲁棒性。

=0 为分类超平面。

目标函数如下：

意思是：改变分类器决策的最小扰动对应于 x0 在 F 上的正交投影。它由以上解析公式给出。

为了更好的理解上图对抗样本攻击二分类器的原理，我重新画了一个图来对其进行解释。如下图所示，在二维平面中，有一条直线和一个点，其中直线的法向量为，由高中的点到直线的距离知识可知点到直线的距离为：

3、论文给出的最终公式如何推导？

上面目标函数可以通过迭代的方式来进行求解以获得最小对抗扰动，可以重新转换成如下的优化形式：

下面为具体的推导过程：

已知梯度（函数在当前位置的导数），所以有：

又因为梯度的模长为 1，所以两边同乘以有：

最后，移项可得到最终论文中给出的公式：

4、DeepFool攻击多分类器

介绍完 DeepFool 攻击二分类器，这一节介绍有关 DeepFool 攻击多分类器。分类器预测标签如下公式所示：

其中，是预测概率向量的第 k 类的概率分量。多分类器模型误分类的优化函数如下所示：

为了更好的理解以上优化形式的含义，自己做了一个图示便于理解。如下图所示，左半部分是干净样本的概率向量的输出，预测的类别为，加入对抗扰动后，预测类别变成了。

如下图实例所示，已知一个四分类器，干净样本被分为第四类中。绿色区域为一个凸区域可以表示为：

根据高中的点到直线的距离公式，可以推算得知点到三条边界最短的距离的计算公式为：

与 DeepFool 攻击二分类器相似，则多分类器的对抗扰动为：

下面是自己的理解：

5、非线性多分类

DeepFool公式理解相关推荐

数学-先验概率和后验概率和一系列概率公式理解
自用. 一. 先验概率和后验概率理解这两个都是描述某个结论H发生的概率. 假如我当前什么证据都没有,就根据之前的人生经历,思索下说P(H)=0.99,认为结论H发生的可能高达99%,那这时的P(H) ...
四足控制中的公式理解
说明:本文章用于记录四足相关论文的公式理解,由于本人能力有限,公式的理解来自对论文内容的研读,网上的相关文章以及个人猜测的结合,不准确之处欢迎各位批评指正,本文也会不断更新.欢迎与我联系:225001 ...
100天搞定机器学习|day37 无公式理解反向传播算法之精髓
100天搞定机器学习(Day1-34) 100天搞定机器学习|Day35 深度学习之神经网络的结构 100天搞定机器学习|Day36 深度学习之梯度下降算法本篇为100天搞定机器学习之第37天,亦 ...
关于BRDF公式理解的笔记
看视频的时候一直没理解反射方向的光亮度radiance为什么要做微分,看到很多弹幕也有类似的问题,但翻遍论坛没有找到想要的回答.在反复观看闫老师和清华胡事民在这部分的讲解后,有些个人的理解,在此记录下 ...
【算法思考】双目视差求像素深度公式理解
目录背景可视化理解推导背景双目相机可以通过左右目图像的匹配得到每个像素的视差,即左眼像素 u l , v u_l, v ul,v 能找到右眼图像中的匹配像素 u r , v u_r, v ...
距离保护整定计算中分支系数公式理解
在一般的距离保护II段和III段的整定计算中,分支系数的计算是必须要的,本文选自电力系统继电保护(第二版)(张保会老师主编)P94-P97页的例题,分析其中分支系数的计算公式. 我们在前面的章节中知道 ...
背计算机二级excel公式,理解不了就硬背！计算机二级Excel常考函数公式！
十二月的计算机二级快来了,很多同学可能就是栽在Excel这里,不会用公式,实在不行,就硬背加理解吧! 1.数学函数 (1)绝对值函数ABS 格式: ABS(number) 功能:返回参数number的 ...
模型压缩之量化入门笔记||量化基本公式的理解||量化过程可视化||LSQ公式理解
文章目录公式介绍量化零点 z z z 在离散化过程中的作用量化尺度 s s s 在离散化过程中的作用量化尺度 s s s 和量化零点 z z z 联合作用公式介绍本人初入模型量化的坑, ...
sparseTM的公式理解
本篇的论文来自:Wang C, Blei D M. Decoupling sparsity and smoothness in the discrete hierarchical dirichlet ...
光轴会聚模型求解世界坐标点流程与公式理解
光轴会聚模型下,由左右像片像素坐标值,求解世界坐标点流程: 左.右两摄像机共线方程的矩阵形式: 上面公式的逆推导流程,首先将有关u1,v1,u2,v2的项移到等式的左边,再将无关u1,v1,u2,v2 ...

DeepFool公式理解