机器学习中对抗性攻击的介绍和示例

来源：DeepHub IMBA
本文约1000字，建议阅读5分钟
本文为你展示微小的变化如何导致灾难性的影响。

概念

对抗样本是专门设计的输入，旨在欺骗机器学习 (ML) 模型，从而导致高置信度的错误分类。有趣的是这种方式对图像所做的修改虽然温和，但足以欺骗 ML 模型。在这篇文章中，我想展示微小的变化如何导致灾难性的影响。下图总结了对抗性攻击的过程：

考虑上面的猫的图像，我们添加了一个小的扰动，经过计算使图像被高置信度地识别为柠檬。更具体地说，我们将获取图像并计算相对于所需标签的损失（在本例中为“柠檬”）。我们获得输入图像计算的梯度，并将其乘以一些小的常数 epsilon。经过多次这样的迭代，我们的模型被欺骗了，虽然肉眼看到是猫的图像，但是这这使得我们的 ML 模型可以高度自信地将它归类为柠檬。

这种方法非常健壮，而且简单易懂。这使得对抗样本可能非常危险。例如，攻击者可能让我的 AI 柠檬水制作机器人挤压我的猫并制作另一个柠檬水。

机器学习中对抗性攻击的介绍和示例相关推荐

机器学习HW10对抗性攻击
机器学习HW10对抗性攻击一.任务描述二.算法 1.FGSM 2.I-FGSM 3.MI-FGSM 4.多种输入(DIM) 评估指标三.实验 1.Simple Baseline 2.Medium ...
机器学习中的优化算法介绍
在机器学习中,有很多的问题并没有解析形式的解,或者有解析形式的解但是计算量很大(譬如,超定问题的最小二乘解),对于此类问题,通常我们会选择采用一种迭代的优化方式进行求解. 这些常用的优化算法包括: ...
机器学习中的标签泄漏介绍及其如何影响模型性能
您是否对优秀或接近优秀的模型表现不知所措? 你的快乐被出卖了吗? 简而言之,当您要预测的信息直接或间接出现在训练数据集中时,就会发生标签泄漏或目标泄漏. 它会导致模型夸大其泛化误差,并极大地提高了模型 ...
php中使用mysql的视图_MYSQL中视图的用法介绍（代码示例）
本篇文章给大家带来的内容是关于MYSQL中视图的用法介绍(代码示例),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助. 1.什么是视图执行一条SQL,将结果集保存在一张虚拟表中 (相关 ...
predicate java_java8中predicate的用法介绍（代码示例）
本篇文章给大家带来的内容是关于java8中predicate的用法介绍(代码示例),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助. 传递代码我们首先看一个例子,假设你有一个 Appl ...
php simpledateformat,Java中SimpleDateFormat的用法介绍（代码示例）
本篇文章给大家带来的内容是关于Java中SimpleDateFormat的用法介绍(代码示例),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助. 1.为什么要使用SimpleDateFo ...
php eof 使用函数_PHP中EOF的用法介绍（附示例）
本篇文章给大家带来的内容是关于PHP中EOF的用法介绍(附示例),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助. PHP EOF(heredoc)是一种在命令行shell(如sh.cs ...
机器学习中的线性代数之矩阵求导
前面针对机器学习中基础的线性代数知识,我们做了一个常用知识的梳理.接下来针对机器学习公式推导过程中经常用到的矩阵求导,我们做一个详细介绍. 矩阵求导(Matrix Derivative)也称作矩阵微分 ...
今晚直播 | 强化学习在比赛和自动机器学习中的应用简析
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...

机器学习中对抗性攻击的介绍和示例

概念

机器学习中对抗性攻击的介绍和示例相关推荐

最新文章

热门文章