Deep learning：卷积神经网络之卷积计算、作用与思想

【定义】
参考链接：https://baike.baidu.com/item/%E5%8D%B7%E7%A7%AF/9411006?fr=aladdin
大牛链接：https://www.cnblogs.com/shine-lee/p/9932226.html
在泛函分析中，卷积、旋积或摺积(英语：Convolution)是通过两个函数f 和g 生成第三个函数的一种数学算子，表征函数f 与g经过翻转和平移的重叠部分函数值乘积对重叠长度的积分。
如果将参加卷积的一个函数看作区间的指示函数，卷积还可以被看作是“滑动平均”的推广。

卷积内涵

简单定义：卷积是分析数学中一种重要的运算。
设:f(x),g(x)是R1上的两个可积函数，作积分：

可以证明，关于几乎所有的实数x，上述积分是存在的。这样，随着x的不同取值，这个积分就定义了一个新函数h(x)，称为函数f与g的卷积，记为h(x)=(fg)(x)。
容易验证，(f * g)(x) = (g * f)(x)，并且(f * g)(x)仍为可积函数。这就是说，把卷积代替乘法，L1（R1）空间是一个代数，甚至是巴拿赫代数。
卷积与傅里叶变换有着密切的关系。利用一点性质，即两函数的傅里叶变换的乘积等于它们卷积后的傅里叶变换，能使傅里叶分析中许多问题的处理得到简化。
由卷积得到的函数fg一般要比f和g都光滑。特别当g为具有紧致集的光滑函数，f为局部可积时，它们的卷积f * g也是光滑函数。利用这一性质，对于任意的可积函数f，都可以简单地构造出一列逼近于f的光滑函数列fs，这种方法称为函数的光滑化或正则化。
卷积的概念还可以推广到数列、测度以及广义函数上去。
【理解卷积】
理解卷积
这里提供两个理解卷积的角度：

从函数（或者说映射、变换）的角度理解。

卷积过程是在图像每个位置进行线性变换映射成新值的过程，将卷积核看成权重，若拉成向量记为w，图像对应位置的像素拉成向量记为x，则该位置卷积结果为y=w′x+b，即向量内积+偏置，将x变换为y。从这个角度看，多层卷积是在进行逐层映射，整体构成一个复杂函数，训练过程是在学习每个局部映射所需的权重，训练过程可以看成是函数拟合的过程。

从模版匹配的角度理解。

前面我们已经知道，卷积与相关在计算上可以等价，相关运算常用模板匹配，即认为卷积核定义了某种模式，卷积（相关）运算是在计算每个位置与该模式的相似程度，或者说每个位置具有该模式的分量有多少，当前位置与该模式越像，响应越强。下图为图像层面的模板匹配（图片来自链接），右图为响应图，可见狗头位置的响应最大。当然，也可以在特征层面进行模版匹配，卷积神经网络中的隐藏层即可以看成是在特征层面进行模板匹配。这时，响应图中每个元素代表的是当前位置与该模式的相似程度，单看响应图其实看不出什么，可以想像每个位置都有个“狗头”，越亮的地方越像“狗头”，若给定模板甚至可以通过反卷积的方式将图像复原出来。这里多说一句，我们真的是想把图像复原出来吗，我们希望的是在图像中找到需要的模式，若是通过一个非线性函数，将响应图中完全不像“狗头”的地方清零，而将像“狗头”的地方保留，然后再将图像复原，发现复原图中只有一个“狗头”，这是不是更美好——因为我们明确了图像中的模式，而减少了其他信息的干扰！

Deep learning：卷积神经网络之卷积计算、作用与思想相关推荐

卷积神经网络之卷积计算、作用与思想深度学习
博客:blog.shinelee.me | 博客园 | CSDN 卷积运算与相关运算在计算机视觉领域,卷积核.滤波器通常为较小尺寸的矩阵,比如3×33×3.从这个角度看,多层卷积是在进行逐层映射,整 ...
【数据挖掘】卷积神经网络 ( 视觉原理 | CNN 模仿视觉 | 卷积神经网络简介 | 卷积神经网络组成 | 整体工作流程 | 卷积计算图示 | 卷积计算简介 | 卷积计算示例 | 卷积计算参数 )
文章目录 I . 人类的视觉原理 II . 卷积神经网络模仿视觉原理 III . 卷积神经网络简介 IV . 卷积神经网络组成 V . 卷积神经网络工作流程 VI . 降低样本参数数量级 VI ...
AI周报丨《2021年人工智能专利综合指数报告》近日发布；北大团队提出基于卷积神经网络的全光计算，超快、超低能耗
行业动态 <2021年人工智能专利综合指数报告> 近日发布人工智能(Artificial Intelligence,简称AI),是研究人类智能活动规律,构造具有一定智能的人工系统,国际数 ...
请概述可视化卷积神经网络的中间输出的基本思想。_卷积神经网络为什么能称霸计算机视觉领域？...
其它机器学习.深度学习算法的全面系统讲解可以阅读<机器学习-原理.算法与应用>,清华大学出版社,雷明著,由SIGAI公众号作者倾力打造. 书的购买链接书的勘误,优化,源代码资源导言在 ...
请概述可视化卷积神经网络的中间输出的基本思想。_万字长文：特征可视化技术(CAM)...
前言众所周知,深度学习是一个"黑盒"系统.它通过"end-to-end"的方式来工作,输入数据例如RGB图像,输出目标例如类别标签.回归值等,中间过程不可得知 ...
卷积神经网络的一般步骤,卷积神经网络采用卷积
1.卷积神经网络cnn究竟是怎样一步一步工作的用一个卷积核滑动图片来提取某种特征(比如某个方向的边),然后激活函数用ReLU来压制梯度弥散.对得到的结果用另一个卷积核继续提取+reLU,然后池化(保 ...
【卷积神经网络】卷积神经网络（Convolutional Neural Networks, CNN）基础
卷积神经网络(Convolutional Neural Networks, CNN),是一种针对图像的特殊的神经网络. 卷积神经网络概述 Why not DNN? 图像数据的维数很高,比如 1, ...
基于深度卷积神经网络,深度卷积神经网络结构
1.卷积神经网络算法是什么? 一维构筑.二维构筑.全卷积构筑. 卷积神经网络(Convolutional Neural Networks, CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Fe ...
04.卷积神经网络 W1.卷积神经网络（作业：手动/TensorFlow 实现卷积神经网络）
文章目录作业1:实现卷积神经网络 1. 导入一些包 2. 模型框架 3. 卷积神经网络 3.1 Zero-Padding 3.2 单步卷积 3.3 卷积神经网络 - 前向传播 4. 池化层 5. 卷 ...
请概述可视化卷积神经网络的中间输出的基本思想。_最详细的卷积神经网络入门指南！...
编辑:murufeng Date:2020-05-15 来源:深度学习技术前沿微信公众号链接:干货|最全面的卷积神经网络入门教程卷积神经网络简介卷积网络 (convolutional netw ...

Deep learning：卷积神经网络之卷积计算、作用与思想

Deep learning：卷积神经网络之卷积计算、作用与思想相关推荐

最新文章

热门文章