【论文阅读笔记】Deep neural networks are easily fooled- High confidence predictions for unrecognizable image

与之前提出的添加微小扰动来造成DNN的误判不同，本文提出的是生成一系列人类无法识别，但是却可以被DNN以99.99%的置信度分类的图片。具体而言提出了两种基于进化算法的以及一种利用梯度上升的生成算法。

基于进化算法的主要参考以下流程：

其中第一种EA：保留每个（或单个，如果是针对一个类别来生成）类别的最优生成样本，每次随机选择样本来变异。采用直接编码的方式，首先随机生成每个像素点的值，然后在变异时每个像素值有一定的概率发生变动（通过多项式变异算子），变异后的图像通过DNN模型得到属于不同分类的概率，如果获得的属于某一分类的最高概率大于对应类的最优样本对应概率，则用此变异结果替代对应类所记录的最优样本。

第二种EA：基于CPPN来生成图片，然后通过DNN进行选择并反馈（感觉类似于生成对抗网络）。

第一种EA生成的图片都是很不规则的噪声图像，而第二种基于CPPN的生成算法得到的图片往往都有一定的规律性（这是CPPN的特点）。

另外第三种方法是在像素空间中使用反向传播的梯度上升的算法，计算某一特定类别的softmax单元对应当前输入图像的梯度，按照梯度来增加所选单位的激活度（若使用L2正则化则可以生成某些可识别特征）。

【论文阅读笔记】Deep neural networks are easily fooled- High confidence predictions for unrecognizable image相关推荐

[论文阅读笔记]Deep Neural Networks are Easily Fooled:High Confidence Predictions for Unrecognizable Images
Deep Neural Networks are Easily Fooled:High Confidence Predictions for Unrecognizable Images(CVPR201 ...
[论文笔记]Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images
作者:Anh Nguyen, Jason Yosinski, Jeff Clune 链接:https://arxiv.org/pdf/1412.1897.pdf 摘要: 本文的工作基于Christia ...
Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images
论文原文:Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images ...
论文-Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images
Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images Deep N ...
Deep Neural Networks are Easily Fooled:High Confidence Predictions for Unrecognizable Images
在卷积神经网络如日中天的现在,重要会议上的论文自然成了广大学者研究的对象.苦苦寻觅,然而并不能搜到"大家们"对论文的见解.痛定思痛,决定对自己看过的论文写点小感.只是个人看法,如有 ...
[转载]Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images
论文内容总结首次提出假反例攻击,即:生成人类无法识别的图片,却能够让神经网络以高置信度分类成某个类别使用了多种不同的方法生成图片,称为"fooling images" 普通的E ...
Deep Neural Networks are Easily Fooled High Confidence Predictions for Unrecognizable Images
Layer-Wise Data-Free CNN Compression 我们的无数据网络压缩方法从一个训练好的网络开始,创建一个具有相同体系结构的压缩网络.这种方法在概念上类似于知识蒸馏[23],即 ...
[深度学习论文笔记][Adversarial Examples] Deep Neural Networks are Easily Fooled: High Confidence Predictions
Nguyen, Anh, Jason Yosinski, and Jeff Clune. "Deep neural networks are easily fooled: High conf ...
对抗样本论文学习：Deep Neural Networks are Easily Fooled
近日看了一些对抗样本(adversarial examples)方面的论文,在这里对这些论文进行一下整理和总结. 以下仅代表个人理解,本人能力有限难免有错,还请大家给予纠正,不胜感激.欢迎一起讨论进步 ...
【论文阅读】Deep Neural Networks for Learning Graph Representations | day14，15
<Deep Neural Networks for Learning Graph Representations>- (AAAI-16)-2016 文章目录一.模型 1.1解决了两个问题 ...

【论文阅读笔记】Deep neural networks are easily fooled- High confidence predictions for unrecognizable image

【论文阅读笔记】Deep neural networks are easily fooled- High confidence predictions for unrecognizable image相关推荐

最新文章

热门文章