解读 intriguing properties of neural networks
题目：神经网络的隐藏属性
作者：一作： Christian Szegedy (GooLeNet, BN) 三作： Ilya Sutskever (AlexNet二作，S2S) 六作：Ian Goodfellow(DL book, Maxout, GAN Bengio学生) 七作：Rob Fergus(Visualizing)
出处：ICLR
摘要：深度神经网络在语音、视觉识别方面取得非常好的表现，它成功的原因也使得它具有反直觉的性质，本文提出了两种反直觉性质：
1）：根据对神经元的分析，深层的单个神经元与深层神经元的随机结合没有本质区别，这表明深度神经网络中存储语义信息的是网络结构而不是之前认为的单个神经元（对深度学习影响不大）
2）：发现深度神经网络的非线性程度很高，这使得通过添加扰动，可以使得神经网络错分类，此外这些扰动也可以使另外的模型错分类（深刻的影响了深度学习）
性质1，实验没怎么看懂，就知道，寻找使某个激活函数值最大化的一系列图像，不知道怎么得出结论的
性质2，论文指出图像的微小扰动通常不会改变分类，但可以人工生成。论文通过使用L-BFGS算法最小化下式
其实并没有看懂这个公式。
实验结果表明对抗样本具有通用性，对抗样本同样可以使不同模型的神经网络分错类，甚至在不同训练集上的神经网络也会错分类
通过反馈对抗样本给训练集可能提高模型的泛化程度
转载于:https://www.cnblogs.com/YKang/p/10772710.html
解读 intriguing properties of neural networks相关推荐
- 论文解读-Intriguing properties of neural networks（ICLR2014）
Intriguing properties of neural networks(ICLR2014) 这篇文章被认为是对抗样本的开山之作,首次发现并提出了对抗样本,作者阵容豪华,被引了很多次.但是文章 ...
- 论文阅读笔记：Intriguing properties of neural networks
论文阅读笔记:Intriguing properties of neural networks 深度学习对抗样本的开山之作 要点 以往的观点认为深度神经网络的高层特征中每一个分量描述了一种特质,但是这 ...
- 对抗样本论文阅读Intriguing properties of neural networks
Intriguing properties of neural networks 文章提出了神经网络中的两个有趣的特性,首次提出了对抗样本adversarial examples的概念 Represe ...
- 论文笔记（一）《Intriguing properties of neural networks》
对抗样本(一)<Intriguing properties of neural networks> 神经网络的有趣特性 两点: 性质1:单个的深层神经元与随机线性组合的多个深层神经元并没有 ...
- Intriguing properties of neural networks
作者: 19届 lz 论文:<Intriguing properties of neural networks> 特性: 根据单元分析的各种方法,我们发现单个高级单元和高级单元的随机线性组 ...
- Intriguing properties of neural networks——L-BFGS attack
2014的文章Intriguing properties of neural networks引发了关于对抗样本研究的热潮.其实对抗样本的研究很早就有了,只是当时没有得到足够的重视,最早的文章应该是下 ...
- Intriguing properties of neural networks手动翻译
Intriguing properties of neural networks 神经网络有趣的特性 深度神经网络: 1)优点: 深度神经网络是一种高度表达性的模型,在语音和视觉识别任务上取得了最好的 ...
- 《Intriguing properties of neural networks》代码实现——Pytorch
<Intriguing properties of neural networks>代码实现--Pytorch 一.代码实现 #导入库 import torch import torch. ...
- 关于Intriguing properties of neural networks的理解
这是有关神经网络的对抗样本的首篇文章,Szegedy等人发现了神经网络的一些(两个)有趣的性质. 第一个是关于高维神经网络的神经元的含义问题,先前的一些工作认为深度神经网络的神经元都代表着某一个特 ...
最新文章
- 初识vue 2.0（2）：路由与组件
- 2020-10-25（动态调试SMC代码）
- re匹配正则字符串中的起始和结束元字符的使用方法
- python+opencv 给女朋友照片加上个性相框，学会等着她夸你。
- Django-启动文件的制作
- 推荐北大饶毅教授的《生物学概念与途径》课程（慕课视频+讲义）
- 我如何使用Python帮助我选择了Google Summer of Code '19的组织
- mask rcnn算法分析_实例分割综述（单阶段/两阶段/实时分割算法汇总）
- 不用鼠标，程序员编程竟能如此高效?
- 数据结构与算法之-----栈的应用（一）
- JavaScript String 对象、Math 对象使用详解
- 华南理工计算机电路基础试题,华南理工大学计算机电路基础
- 黑莓刷机及情景设置来电和短信等没有声音的解决办法
- Rider 全局搜索搜索不到内容
- [生存志] 第101节 九歌道尽楚芳华
- 大数据分析原地踏步 原来是分析工具面临信任问题
- PC博物馆(番外01)-城会玩，初中生开发实体尺规大航海游戏
- 软件工程笔记 清华大学刘强etc
- 元旦在家撸了两天Seata源码，你们是咋度过的呢？
- 转：加密的惨剧！慎用文件夹加密软件！