TF-卷积函数 tf.nn.conv2d 介绍
tf.nn.conv2d是TensorFlow里面实现卷积的函数,参考文档对它的介绍并不是很详细,实际上这是搭建卷积神经网络比较核心的一个方法,非常重要
tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)
除去name参数用以指定该操作的name,与方法有关的一共五个参数:
第一个参数input:指需要做卷积的输入图像,它要求是一个Tensor,具有[batch, in_height, in_width, in_channels]这样的shape,具体含义是
[训练时一个batch的图片数量, 图片高度, 图片宽度, 图像通道数],注意这是一个4维的Tensor,要求类型为float32和float64其中之一
[filter_height, filter_width, in_channels, out_channels]第二个参数filter:相当于CNN中的卷积核,
它要求是一个Tensor,具有这样的shape
,具体含义是
],要求类型与参数input相同,有一个地方需要注意,第三维[卷积核的高度,
卷积核的宽度,图像通道数,卷积核个数
,就是参数input的第四维in_channels
第三个参数strides:卷积时在图像每一维的步长,这是一个一维的向量,长度4
第四个参数padding:string类型的量,只能是"SAME","VALID"其中之一,这个值决定了不同的卷积方式(后面会介绍)
第五个参数:use_cudnn_on_gpu:bool类型,是否使用cudnn加速,默认为true
结果返回一个Tensor,这个输出,就是我们常说的feature map,shape仍然是
[batch, height, width, channels]这种形式。
那么TensorFlow的卷积具体是怎样实现的呢,用一些例子去解释它:
1.考虑一种最简单的情况,现在有一张3×3单通道的图像(对应的shape:[1,3,3,1]),用一个1×1的卷积核(
对应的shape:[1,1,1,1]
)去做卷积,最后会得到一张3×3的feature map
)去做卷积,仍然是一张3×32.增加图片的通道数,使用
一张3×3五通道的图像
(对应的shape:[1,3,3,5]),
用一个1×1的卷积核(
对应的shape:[1,1,1,1]
的feature map,这就相当于每一个像素点,卷积核都与该像素点的每一个通道做卷积。
input = tf.Variable(tf.random_normal([1,3,3,5])) filter = tf.Variable(tf.random_normal([1,1,5,1]))op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='VALID')
3.把卷积核扩大,现在用3×3的卷积核做卷积,最后的输出是一个值,相当于情况2的feature map所有像素点的值求和
input = tf.Variable(tf.random_normal([1,3,3,5])) filter = tf.Variable(tf.random_normal([3,3,5,1]))op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='VALID')
4.使用更大的图片将情况2的图片扩大到5×5,仍然是3×3的卷积核,令步长为1,输出3×3的feature map
input = tf.Variable(tf.random_normal([1,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,1]))op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='VALID')
注意我们可以把这种情况看成情况2和情况3的中间状态,卷积核以步长1滑动遍历全图,以下x表示的位置,表示卷积核停留的位置,每停留一个,输出feature map的一个像素
.....
.xxx. .xxx. .xxx. .....
5.上面我们一直令参数padding的值为‘VALID’,当其为‘SAME’时,表示卷积核可以停留在图像边缘,如下,输出5×5的feature map
input = tf.Variable(tf.random_normal([1,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,1]))op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='SAME')
xxxxx xxxxx xxxxx xxxxx xxxxx
6.如果卷积核有多个
input = tf.Variable(tf.random_normal([1,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,7]))op = tf.nn.conv2d(input, filter, strides=[1, 1, 1, 1], padding='SAME')
此时输出7张5×5的feature map
7.步长不为1的情况,文档里说了对于图片,因为只有两维,通常strides取[1,stride,stride,1]
input = tf.Variable(tf.random_normal([1,5,5,5]))filter = tf.Variable(tf.random_normal([3,3,5,7]))op = tf.nn.conv2d(input, filter, strides=[1, 2, 2, 1], padding='SAME')
此时,输出7张3×3的feature map
x.x.x
..... x.x.x ..... x.x.x
8.如果batch值不为1,同时输入10张图
input = tf.Variable(tf.random_normal([10,5,5,5])) filter = tf.Variable(tf.random_normal([3,3,5,7]))op = tf.nn.conv2d(input, filter, strides=[1, 2, 2, 1], padding='SAME')
每张图,都有7张3×3的feature map,输出的shape就是[10,3,3,7]
最后,把程序总结一下:
import tensorflow as tf # tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, name=None)# 除去name参数用以指定该操作的name,与方法有关的一共五个参数:## 第一个参数input:指需要做卷积的输入图像,它要求是一个Tensor,具有[batch, in_height, in_width, in_channels]这样的shape,具体含义是[训练时一个batch的图片数量, 图片高度, 图片宽度, 图像通道数],注意这是一个4维的Tensor,要求类型为float32和float64其中之一## 第二个参数filter:相当于CNN中的卷积核,它要求是一个Tensor,具有[filter_height, filter_width, in_channels, out_channels]这样的shape,具体含义是[卷积核的高度,卷积核的宽度,图像通道数,卷积核个数],要求类型与参数input相同,有一个地方需要注意,第三维in_channels,就是参数input的第四维## 第三个参数strides:卷积时在图像每一维的步长,这是一个一维的向量,长度4## 第四个参数padding:string类型的量,只能是"SAME","VALID"其中之一,这个值决定了不同的卷积方式(后面会介绍)## 第五个参数:use_cudnn_on_gpu:bool类型,是否使用cudnn加速,默认为true## 结果返回一个Tensor,这个输出,就是我们常说的feature map oplist=[]# [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([1, 3, 3, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([1 ,1 , 5 ,1])) op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,1,1,1], use_cudnn_on_gpu=False, padding='VALID')oplist.append([op2, "case 2"]) # [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([1, 3, 3, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([3 ,3 , 5 ,1])) op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,1,1,1], use_cudnn_on_gpu=False, padding='VALID')oplist.append([op2, "case 3"]) # [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([1, 5, 5, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([3 ,3 , 5 ,1])) op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,1,1,1], use_cudnn_on_gpu=False, padding='VALID')oplist.append([op2, "case 4"]) # [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([1, 5, 5, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([3 ,3 , 5 ,1]))op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,1,1,1], use_cudnn_on_gpu=False, padding='SAME')oplist.append([op2, "case 5"]) # [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([1, 5, 5, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([3 ,3 , 5 ,7]))op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,1,1,1], use_cudnn_on_gpu=False, padding='SAME')oplist.append([op2, "case 6"]) # [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([1, 5, 5, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([3 ,3 , 5 ,7]))op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,2,2,1], use_cudnn_on_gpu=False, padding='SAME')oplist.append([op2, "case 7"]) # [batch, in_height, in_width, in_channels]input_arg = tf.Variable(tf.ones([4, 5, 5, 5]))# [filter_height, filter_width, in_channels, out_channels]filter_arg = tf.Variable(tf.ones([3 ,3 , 5 ,7]))op2 = tf.nn.conv2d(input_arg, filter_arg, strides=[1,2,2,1], use_cudnn_on_gpu=False, padding='SAME')oplist.append([op2, "case 8"]) with tf.Session() as a_sess: a_sess.run(tf.global_variables_initializer()) for aop in oplist: print("----------{}---------".format(aop[1])) print(a_sess.run(aop[0])) print('---------------------\n\n')
结果是这样的:
----------case 2---------
[[[[ 5.]
[ 5.]
[ 5.]]
[[ 5.]
[ 5.]
[ 5.]]
[[ 5.]
[ 5.]
[ 5.]]]]
---------------------
----------case 3---------
[[[[ 45.]]]]
---------------------
----------case 4---------
[[[[ 45.]
[ 45.]
[ 45.]]
[[ 45.]
[ 45.]
[ 45.]]
[[ 45.]
[ 45.]
[ 45.]]]]
---------------------
----------case 5---------
[[[[ 20.]
[ 30.]
[ 30.]
[ 30.]
[ 20.]]
[[ 30.]
[ 45.]
[ 45.]
[ 45.]
[ 30.]]
[[ 30.]
[ 45.]
[ 45.]
[ 45.]
[ 30.]]
[[ 30.]
[ 45.]
[ 45.]
[ 45.]
[ 30.]]
[[ 20.]
[ 30.]
[ 30.]
[ 30.]
[ 20.]]]]
---------------------
----------case 6---------
[[[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]]]
---------------------
----------case 7---------
[[[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]]]
---------------------
----------case 8---------
[[[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]]
[[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]]
[[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]]
[[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]
[[ 30. 30. 30. 30. 30. 30. 30.]
[ 45. 45. 45. 45. 45. 45. 45.]
[ 30. 30. 30. 30. 30. 30. 30.]]
[[ 20. 20. 20. 20. 20. 20. 20.]
[ 30. 30. 30. 30. 30. 30. 30.]
[ 20. 20. 20. 20. 20. 20. 20.]]]]
---------------------
TF-卷积函数 tf.nn.conv2d 介绍相关推荐
- conv2d 公式_TF-卷积函数 tf.nn.conv2d 介绍
转自 http://www.cnblogs.com/welhzh/p/6607581.html 下面是这位博主自己的翻译加上测试心得 tf.nn.conv2d是TensorFlow里面实现卷积的函数, ...
- torch.nn.Conv2d介绍
文章目录 卷积的计算流程 常用参数介绍 输入输出的尺寸 代码 卷积的计算流程 N 是 batch_size C 是 channel,就是输入的维度,我们也可以认为是层数 H 是一层 map 的高 W ...
- [TensorFlow 学习笔记-04]卷积函数之tf.nn.conv2d
[版权说明] TensorFlow 学习笔记参考: 李嘉璇 著 TensorFlow技术解析与实战 黄文坚 唐源 著 TensorFlow实战郑泽宇 顾思宇 著 TensorFlow实战Google ...
- tf.nn.conv2d理解(带通道的卷积图片输出案例)
三篇参考: 1.https://blog.csdn.net/goodshot/article/details/79655915 TF-卷积函数 tf.nn.conv2d 介绍 2.https://bl ...
- tf.nn.conv2d() / tf.nn.depthwise_conv2d() 和 Batchsize效益
1. 卷积函数tf.nn.conv2d() tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=True, data_form ...
- tf.reduce_max()函数的用法详解
tf.reduce_max()函数 tf.reduce_max(input_tensor,axis=None,name=None,keepdims=False #是否保持矩形原狀 ) 参数解释: in ...
- [十三]深度学习Pytorch-卷积层(1D/2D/3D卷积、卷积nn.Conv2d、转置卷积nn.ConvTranspose)
0. 往期内容 [一]深度学习Pytorch-张量定义与张量创建 [二]深度学习Pytorch-张量的操作:拼接.切分.索引和变换 [三]深度学习Pytorch-张量数学运算 [四]深度学习Pytor ...
- 4.1 Tensorflow:卷积函数
卷积 卷积神经网络的结构 其中,input为输入,conv为卷积层,由卷积核构成,pool为池层,由池化函数构成最后是全连接层与输出层,其负责对卷积层提取的特征进行处理以获得我们需要的结果 ###卷积 ...
- nn.Conv2d详解
nn.Conv2d 是 PyTorch 中的一个卷积层,用于实现二维卷积操作.其主要参数有: in_channels:表示输入图像的通道数,也就是输入特征图的深度. out_channels:表示输出 ...
最新文章
- SAP WM Picking Area的使用
- 基于Python的Web自动化(Selenium)之读取文件
- day21.模块和包
- C# Aspose.Word 操作word文档(利用模板)
- RUNOOB python练习题 35 python print各色字体及背景
- 八、一篇文章快速搞懂MySQL 常见的数据类型(整型、小数、字符型、日期型详解)
- Fix Backup Database is terminating abnormally When performing a Farm Backup
- ACM之java速成
- Arch Linux下 让MPlayer用上CoreAVC1.7.0.0解码器
- 2020杭州学区房(WJP)
- “共码未来”——2022Google开发者大会纪行
- 【OS】Linux环境下配置固定IP地址--静态IP地址(不能上外网问题)
- 电源防反接电路设计(重要)
- 金蝶K3采购暂估案例教程4商业模式单到冲回
- 职教云助手手机版_职教云app下载安装_职教云最新版本下载网址
- 语音相关的数据集-5个数据集
- 寻找真正的入口(OEP)--广义ESP定律
- 手机python软件怎么下载词云_从零开始教你用 Python 做词云
- 软驱光碟安装linux系统,无光驱和软驱安装debian的方法
- 李弘毅机器学习笔记:第三章—Error的来源
热门文章
- Java异常类复习总结
- Tomcat网络IO NIO模型参数设定
- 为什么企业开发者要关心Silverlight
- 推荐一款Python编辑器,集Pycharm和Sublime优点于一身的王者
- 容器编排技术 -- Pod 安全策略
- 跨平台SSH客户端/Linux VNC客户端/Windows RDP客户端/FTP客户端 推荐 Royal TSX
- 如何在Debian 8上安装Percona XtraDB Cluster for MySQL
- java异常处理简介_【自学java】异常处理简介
- C#LeetCode刷题-深度优先搜索
- web开发程序员有几种_每个程序员都应该知道的10种流行的Web开发工具