安妮 编译自 arXiv
量子位 出品 | 公众号 QbitAI

俗话说的好，耳听为虚。但眼见……也不一定为实。

机器学习模型很容易受到对抗样例的影响，一个图片中的微小变化可能会让模型将之认错。

例子数不胜数。熊猫图加上扰乱被判定为长臂猿，MIT研究让谷歌AI将乌龟识别城步枪，香蕉图上贴张贴纸就被识别成烤面包机。

△ 熊猫变长臂猿（上），乌龟变步枪（左下），香蕉变面包机（右下）

在此之前，对抗样例只能让计算机上当。可怕的是，在Ian Goodfellow等人的最新研究中，对抗样例也能骗过人眼了。

在下面这张图像中，左边是原图，右边是生成的对抗样例。

计算机和被测试人类均认为左图为一只猫，而右图的对抗样例看起来更像一只狗。

骗过机器骗人类，这是项什么画风奇特的研究？

在论文Adversarial Examples that Fool both Human and Computer Vision中，来自谷歌、斯坦福和UC伯克利的Gamaleldin F.Elsayed、Shreya Shankar和Ian Goodfellow等五人想调查计算机视觉模型中强迁移对抗样例对人类视觉感知的影响，并借助3种主要方法检测对抗样例对人类视觉系统是否存在明显作用。

首先，研究人员用最近的黑盒对抗样例构建技巧，在无法获取模型体系结构和参数的情况下为目标模型创建对抗样例。

之后，他们调整机器学习模型，模仿视觉处理过程，让对抗样例更有可能从模型转移作用到人类。

最后，研究人员让人类在时限性环境中对对抗样例分类，因此即使人类感知的微小影响也可被检测到。之后，研究人员评估结果是否准确。换句话说，当人类能在分类任务上准确度较高时，行为的细微变化可能并不与可测量的准确度变化对应。

△ 在原图为猫（最右）的情况下，随着攻击目标数量的增加，产生的图像看起来更像狗

研究人员发现，在计算机视觉模型中传递的对抗性例子成功影响了被测试人类的感知。这似乎揭示了一种计算机视觉模型和人脑之间共享的新错觉。

最后，附论文地址：

https://arxiv.org/abs/1802.08195

— 完 —

加入社群

量子位AI社群13群开始招募啦，欢迎对AI感兴趣的同学，加小助手微信qbitbot5入群；

此外，量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募，面向正在从事相关领域的工程师及研究人员。

进群请加小助手微信号qbitbot5，并务必备注相应群的关键词~通过审核后我们将邀请进群。（专业群审核较严，敬请谅解）

诚挚招聘

量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。


量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态


Goodfellow新研究：对抗样例让机器与人类双双上当 | 论文相关推荐

  1. 麻省理工人工智能实验室新研究！有远见的机器学习方法：能预知未来行为的AI智能体

    原创/文 BFT机器人 近日,麻省理工学院的研究人员开发出一种新技术,让AI智能体能够思考更远的未来,寻找更合适的合作与竞争长期解决方案. 想象一个游戏规则:两支足球队在球场上PK,玩家们可以选择相互 ...

  2. 深度学习：生成式对抗网络，让机器在博弈中实现“自我成长”

    点击阅读原文 深度神经网络在判别模型领域的进步远比在生成模型领域进步快得多,其主要原因就在于相对于生成式模型来说,判别模型目标清晰.逻辑相对简单,实现起来容易. 用通俗的比喻来说,判别模型相当于是来料 ...

  3. 问答Goodfellow：没有样例能不能训练机器学习算法？

    李杉 编译整理 量子位 出品 | 公众号 QbitAI 从图像和语音识别到自然语言分析,神经网络已经在很多领域大展身手.过去几年,它们的精确度已经几乎可以与人类媲美.但仍有很多神经网络无法完成的任务- ...

  4. Java 8 时间日期库的20个使用演示样例

    除了lambda表达式,stream以及几个小的改进之外,Java 8还引入了一套全新的时间日期API,在本篇教程中我们将通过几个简单的任务演示样例来学习怎样使用Java 8的这套API.Java对日 ...

  5. 谷歌新研究对神经网络数据并行性提出质疑

    https://www.toutiao.com/a6670724671169626636/ 在训练神经网络时,并行计算和模型并行是很常用的方法,以最大限度地利用有限的算力.然而,谷歌的一项新研究表明, ...

  6. AI学会灌水和造假！Google新研究揭露了AI现实应用的陷阱

    来源:Google AI.新智元 作者:Alex D'Amour.atherine Heller 今天,机器学习(ML)模型得到了大规模的使用,而且影响力也越来越大.然而,当它们被用于现实世界的领域时 ...

  7. Linux 网卡驱动学习（一）（分析一个虚拟硬件的网络驱动样例）

    在Linux,网络分为两个层,各自是网络堆栈协议支持层,以及接收和发送网络协议的设备驱动程序层. 网络堆栈是硬件中独立出来的部分.主要用来支持TCP/IP等多种协议,网络设备驱动层是连接网络堆栈协议层 ...

  8. RESTful设计原则和样例（开发前后台接口）

    摘要 REST(表征性状态传输)设计风格;REST通常基于使用HTTP,URI协议和标准.使用URL标识资源,开发前后台接口.主要使用post,get方式 参考博文: http://www.cnblo ...

  9. 为新研究准备好一块用武之地：最全任务型对话数据调研

    合适的数据集或者语料是优秀的自然语言研究工作的基础,然而找寻合适的数据集通常是一件耗时耗力的工作.这时候一份优质的数据集汇总就能帮助科研人员,在研究开始的时候事半功倍.这篇文章就向你介绍一份优质的数据 ...

最新文章

  1. C#共享内存实例 附源码
  2. 元旦福利 | Python、机器学习、TensorFlow 图书送一波
  3. C#------编码规范
  4. 嵌入式编程笔记之六--设备树初体验
  5. dede修改mysql,Dedecms（织梦）程序MySQL修复表和文章路径修改方法
  6. 编程之美-高效率安排见面会的方法整理
  7. JS面向对象，创建，继承
  8. docker版wordpress
  9. chmod 命令详解
  10. MySQL（6）视图
  11. [FWT] UOJ #310. 【UNR #2】黎明前的巧克力
  12. 云图说｜初识数据仓库服务：云时代的数据分析助手
  13. Spring MVC学习总结（3）——Spring3 MVC详解
  14. 多线程的那点儿事（之自旋锁）
  15. whereis 命令(转)
  16. linux内核编译选项ccl,嵌入式Linux学习笔记（一）
  17. 会玩shiny的数据产品经理更好，是这样吗？
  18. java解释器是什么_java编译器和解释器
  19. java字符串不足长度自动补0
  20. Python学习笔记—— 面向对象5.异常

热门文章

  1. Chrome 打包扩展程序
  2. 查询显示注释_第2章 查询基础
  3. c 语言编写脚本优化,两周自制脚本语言-第11天 优化变量读写性能
  4. php dom xml解析,PHP使用DOM解析XML
  5. self计算机语言,python中self在函数中如何使用
  6. contenttype文件ajax_jquery ajax contentType设置
  7. jinja2模板注入_Flask（Jinja2） 服务端模板注入漏洞
  8. 小程序Canvas原有接口不再维护
  9. mysql6获取不到连接_codesmith6.5连接Mysql提示“找不到请求的 .Net Framework Data Provider。可能没有安装。”解决方法...
  10. android studio 项目源码_这个标星 2.3k+ 的项目带你 Android 源码分析从入门到放弃...