深度学习中不变性是什么？平移不变性Translation Invariance、旋转/视角不变性Ratation/Viewpoint Invariance、尺度不变性Size、Illumination
文章目录
- 不变性定义
- 不变性分类
- 为什么卷积神经网络具有平移不变性
不变性定义
意味着即使目标的外观发生了某种变化，但是你依然可以把它识别出来。这对图像分类来说是一种很好的特性，因为我们希望图像中目标无论是被平移，被旋转，还是被缩放，甚至是不同的光照条件、视角，都可以被成功地识别出来。
不变性分类
- 平移不变性：Translation Invariance
- 旋转/视角不变性：Ratation/Viewpoint Invariance
- 尺度不变性：Size Invariance
- 光照不变性：Illumination Invariance
为什么卷积神经网络具有平移不变性
简单地说，卷积+最大池化约等于平移不变性。
卷积：简单地说，图像经过平移，相应的特征图上的表达也是平移的。下图只是一个为了说明这个问题的例子。输入图像的左下角有一个人脸，经过卷积，人脸的特征（眼睛，鼻子）也位于特征图的左下角。
假如人脸特征在图像的左上角，那么卷积后对应的特征也在特征图的左上角。
在神经网络中，卷积被定义为不同位置的特征检测器，也就意味着，无论目标出现在图像中的哪个位置，它都会检测到同样的这些特征，输出同样的响应。比如人脸被移动到了图像左下角，卷积核直到移动到左下角的位置才会检测到它的特征。
池化：比如最大池化，它返回感受野中的最大值，如果最大值被移动了，但是仍然在这个感受野中，那么池化层也仍然会输出相同的最大值。这就有点平移不变的意思了。
所以这两种操作共同提供了一些平移不变性，即使图像被平移，卷积保证仍然能检测到它的特征，池化则尽可能地保持一致的表达。
参考文章1：卷积神经网络为什么具有平移不变性？
参考文章2：深度学习基础–卷积神经网络的不变性
深度学习中不变性是什么？平移不变性Translation Invariance、旋转/视角不变性Ratation/Viewpoint Invariance、尺度不变性Size、Illumination相关推荐
- 万字长文带你看尽深度学习中的各种卷积网络
来源:AI科技评论 摘要:深度学习中的各种卷积网络大家知多少? 深度学习中的各种卷积网络大家知多少?对于那些听说过却又对它们没有特别清晰的认识的小伙伴们,这篇文章非常值得一读.Kunlun Bai 是 ...
- 万字长文带你看尽深度学习中的12种卷积网络
转自 | AI科技评论 作者 | Kunlun Bai 深度学习中的各种卷积网络大家知多少?对于那些听说过却又对它们没有特别清晰的认识的小伙伴们,Kunlun Bai 这篇文章非常值得一读.Kunlu ...
- 总结 62 种在深度学习中的数据增强方式
数据增强 数据增强通常是依赖从现有数据生成新的数据样本来人为地增加数据量的过程 这包括对数据进行不同方向的扰动处理 或使用深度学习模型在原始数据的潜在空间(latent space)中生成新数据点从而 ...
- 深度学习中的注意力机制（二）
作者 | 蘑菇先生 来源 | NewBeeNLP 目前深度学习中热点之一就是注意力机制(Attention Mechanisms).Attention源于人类视觉系统,当人类观察外界事物的时候,一般不 ...
- 深度学习中的注意力机制（一）
作者 | 蘑菇先生 来源 | NewBeeNLP 头图 | CSDN下载自视觉中国 目前深度学习中热点之一就是注意力机制(Attention Mechanisms).Attention源于人类视觉系统 ...
- 深度学习中的反向卷积
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 本文转自:opencv学堂 图像卷积最常见的一个功能就是输出模糊( ...
- 详解深度学习中的Normalization，不只是BN（1）
" 深度神经网络模型训练之难众所周知,其中一个重要的现象就是 Internal Covariate Shift. Batch Normalization 大法自 2015 年由Google ...
- 深度学习中的Normalization模型（附实例公式）
来源:运筹OR帷幄 本文约14000字,建议阅读20分钟. 本文以非常宏大和透彻的视角分析了深度学习中的多种Normalization模型,从一个新的数学视角分析了BN算法为什么有效. [ 导读 ]不 ...
- 从AlexNet到BERT：深度学习中那些最重要idea的最简单回顾
本文作者Denny Britz按时间总结的深度学习比较重要的idea集锦,推荐新人看,几乎给自12年以来最重要的idea 都列了出来,这些 idea 可以说得上是养活了无数人,大家都基于这些发了无数的 ...
最新文章
- 吴恩达老师机器学习和深度学习课程文字版下载
- Interview QA - 房间里有三盏灯，屋里有三个开关分别控制这三盏灯。如何只进入房间一次就知道哪一个开关控制哪一盏灯？
- Mesos Framework开发指南 一
- leetcode 771. 宝石与石头(set)
- 【ZOJ - 4024】Peak（模拟，水题）
- caffe学习路的起点
- python中的reg_如何在python中从注册表读取字符串格式的Reg_二进制类型值
- [C++]2-3 倒三角形
- 什么是对象存储？OSD架构及原理
- 浅谈功能测试--＞自动化测试
- About all the awsome websites
- linux压缩包解压
- RE2:Simple and Effective Text Matching with Richer Alignment Features
- 金三银四最新Java面试题总结前199+1页都在这里了，非常详细
- 移植tslib后，运行报错 Couldnt load module linear
- 星辰变服务器响应超时,星辰变中最让秦羽痛心的是这四件事，最后一件无力挽回！...
- win10怎么开启arp防火墙【系统天地】
- RS232 RS485 串口 电平标准
- FigDraw 5. SCI 文章绘图之柱状图 (Barplot)
- 增长气血的捷径——山药薏米芡实粥