一维信号卷积与图像卷积的区别

基础概念：

　　卷积神经网络（CNN）：属于人工神经网络的一种，它的权值共享的网络结构显著降低了模型的复杂度，减少了权值的数量。卷积神经网络不像传统的识别算法一样，需要对数据进行特征提取和数据重建，可以直接将图片作为网络的输入，自动提取特征，并且对图形的变形等具有高度不变形。在语音分析和图像识别领域有重要用途。

　　卷积：卷积是泛函分析中的一种积分变换的数学方法，通过两个函数 f 和 g 生成第三个函数的一种数学算子，表征函数 f 与 g 经过翻转和平移的重叠部分的面积。设函数是定义在上的可测函数，与的卷积记作，它是其中一个函数翻转并平移后与另一个函数的乘积的积分，是一个对平移量的函数，也就是：

具体解释下：

　　1.已知两函数f(t)和g(t)。下图第一行两图分别为f(t)和g(t)。

　　2.首先将两个函数都用来表示，从而得到f()和g()。将函数g()向右移动t个单位，得到函数g(-t)的图像。将g(-t)翻转至纵轴另一侧，得到g(-(-t))即g(t-)的图像。下图第二行两图分别为f()和g(t-)。

　　3.由于非常数(实际上是时间变量)，当时间变量(以下简称“时移”)取不同值时，能沿着轴“滑动”。下图第三四五行可理解为“滑动”。

　　4.让从-∞滑动到+∞。两函数交会时，计算交会范围中两函数乘积的积分值。换句话说，我们是在计算一个滑动的的加权总和(weighted-sum)。也就是使用当做加权函数，来对 f()取加权值。

　　最后得到的波形（未包含在此图中）就是f和g的卷积。

　　神经网络的基本组成包括输入层、隐藏层、输出层。卷积神经网络的特点在于隐藏层分为卷积层和池化层。卷积层通过一块块的卷积核在原始图像上平移来提取特征，每一个特征就是一个特征映射；而池化层通过汇聚特征后稀疏参数来减少要学习的参数，降低网络的复杂度，池化层最常见的包括最大值池化 (max pooling) 和平均值池化 (average pooling) 。

　　卷积核在提取特征映射时的动作称为 padding，其有两种方式，即 SAME 和 VALID。由于移动步长（Stride）不一定能整除整张图的像素宽度，我们把不越过边缘取样称为 Vaild Padding，取样的面积小于输入图像的像素宽度；越过边缘取样称为 Same Padding，取样的面积和输入图像的像素宽度一致。

几种不同的卷积神经网络：

1.LeNet

输入层：32 x 32
卷积层：3个
下采样层：2个
全连接层：1个
输出层：10个类别（数字0~9的概率）。

（1）输入层。输入图像尺寸为32 x 32。

（2）卷积层：卷积运算的主要目的是使原信号特征增强，并且降低噪音。

（3）下采样层：下采样层主要是想降低网络训练参数及模型的过拟合程度。通常有以下两种方式。

最大池化(max pooling)：在选中的区域中找最大的值作为采样后的值。
平均值池化(mean pooling)：把选中区域中的平均值作为采样后的值。

（4）全连接层：计算输入向量和权重向量的点积，再加上一个偏置，随后将其传递给 sigmoid 函数，产生单元 i 的一个状态。

2.AlexNet

　　AlextNet 由5个卷积层、5个池化层、3个全连接层、大约5000万个可调参数组成。

优点：使用了如下方法

防止过拟合：Dropout、数据增强。
非线性激活函数：ReLU。
大数据训练：120万 ImageNet 图像数据。
GPU 实现、LRN规范化层的使用。

此外还有 VGGNet、GoogLeNet、ResNet 等卷积神经网络模型，这里不再一一叙述。

***讲下解决过拟合的方法。

（1）数据增强：增加训练数据是避免过拟合的好方法，并且能提升算法的准确性。当训练数据有限的时候，可以通过一些变换从已有的训练数据集中生成一些新数据。来扩大训练数据量。通常采用的变形方法以下几种：

水平翻转图像（又称反射变化，filp）。
从原始图像随机地平移变换出一些图像。
给图像增加一些随机的光照（又称光照、彩色变换、颜色抖动）。

（2）Dropout。以 Alexnet 为例，Alexnet 是以0.5 的概率将每个隐层神经元的输出设置为0 。以这种方式被抑制的神经元既不参加前向传播，也不参与反向传播。因此，每次输入一个样本，就相当于该神经网络尝试了一个新结构，但是所有这些结果之间共享权重。因为神经元不能依赖于其他神经元而存在，所以这种技术降低了神经元复杂的互适应关系。因此，网络需要被迫学习更为健壮的特征，这些特征在结合其他神经元的一些不同随机子集时很有用。Dropout 使收敛所需的迭代次数大致增加了一倍。

一维信号卷积与图像卷积的区别相关推荐

卷积神经网络 —— 图像卷积
卷积神经网络是最具代表性的深度学习算法之一,目前已经被大范围的应用与计算机视觉等领域,并且取得了众多突破性的进展,在学习卷积神经网络之前,我们需要学习图像卷积运算. 图像卷积运算的作用图像卷积运算是 ...
卷积神经网络图像卷积池化尺寸计算器
卷积神经网络图像尺寸计算器 (CNN_ImageSize_Calculator) 最近在研究图片超分辨率的问题,发现大量计算图像尺寸的问题.上网查找后发现网上大部分的神经网络可视化软件,像 Tenso ...
python卷积神经网络图像,卷积神经网络python实现
怎样用python构建一个卷积神经网络模型上周末利用python简单实现了一个卷积神经网络,只包含一个卷积层和一个maxpooling层,pooling层后面的多层神经网络采用了softmax形式的 ...
卷积神经网络中的卷积操作与信号系统中的卷积区别
本科期间信号系统中学习到了卷积概念, 卷积是两个变量在某范围内相乘后求和的结果.如果卷积的变量是序列x(n)和h(n),则卷积的结果其中星号*表示卷积.当时序n=0时,序列h(-i)是h(i)的时序 ...
卷积神经网络处理一维信号（故障诊断）
卷积神经网络处理一维信号(故障诊断) (注:从小白角度出发,刚接触卷积神经网络的小伙伴,很多人和我一样就是想知道这段代码怎么把信号输入进去,怎么看输出结果,怎么把输出结果与测试集的数据进行对比,从而知 ...
图像卷积和滤波的区别
图像卷积和滤波的区别 http://blog.csdn.net/zouxy09/article/details/49080029 clear,close all, clc%% readimage im ...
深度学习《图像卷积》
骚话一下: 今天是2020年10月1号,是祖国的71岁生日,也是传统节日中秋节,而我由于工作的安排身在海外不得回家,怀念祖国的乡土,倍加思念远方的亲人. 由于疫情,在这里哪里也去不了,只能好好学习,用 ...
python卷积神经网络图像,python卷积神经网络代码
神经网络算法原理一共有四种算法及原理,如下所示:1.自适应谐振理论(ART)网络自适应谐振理论(ART)网络具有不同的方案.一个ART-1网络含有两层一个输入层和一个输出层. 这两层完全互连,该连接 ...
理解图像卷积操作的意义
数字信号处理中卷积卷积一词最开始出现在信号与线性系统中,信号与线性系统中讨论的就是信号经过一个线性系统以后发生的变化.由于现实情况中常常是一个信号前一时刻的输出影响着这一时刻的输出,所在一般利用系统 ...

一维信号卷积与图像卷积的区别

一维信号卷积与图像卷积的区别相关推荐

最新文章

热门文章