TensorFlow strides 参数讨论

更详细地讨论见 stackoverflow：Tensorflow Strides Argument

卷积神经网络（CNN）在 TensorFlow 实现时涉及的 tf.nn.con2d（二维卷积）、tf.nn.max_pool（最大池化）、tf.nn.avg_pool（平均池化）等操作都有关于 strides（步长）的指定，因为无论是卷积操作还是各种类型的池化操作，都是某种形式的滑动窗口（sliding window）处理，这就要求指定从当前窗口移动下一个窗口位置的移动步长。

TensorFlow 文档关于 strides的说明如下：

strides: A list of ints that has length >= 4. The stride of the sliding window for each dimension of the input tensor.
首先要求 strides 为长度不小于 4 的整数构成的 list，strides参数表示的是滑窗在输入张量各个维度上的移动步长。

而且一般要求 strides的参数，strides[0] = strides[3] = 1

具体什么含义呢？

一般而言，对于输入张量（input tensor）有四维信息：[batch, height, width, channels]（分别表示 batch_size, 也即样本的数目，单个样本的行数和列数，样本的频道数，rgb图像就是三维的，灰度图像则是一维），对于一个二维卷积操作而言，其主要作用在 height, width上。

strides参数确定了滑动窗口在各个维度上移动的步数。一种常用的经典设置就是要求，strides[0]=strides[3]=1。

strides[0] = 1，也即在 batch 维度上的移动为 1，也就是不跳过任何一个样本，否则当初也不该把它们作为输入（input）
strides[3] = 1，也即在 channels 维度上的移动为 1，也就是不跳过任何一个颜色通道；

TensorFlow strides 参数讨论相关推荐

[TensorFlow深度学习入门]实战七·简便方法实现TensorFlow模型参数保存与加载（ckpt方式）
[TensorFlow深度学习入门]实战七·简便方法实现TensorFlow模型参数保存与加载(ckpt方式) 个人网站–> http://www.yansongsong.cn TensorFl ...
tensorflow conv2d()参数解析
定义: tf.nn.conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None, data_format=None, name=None ...
TensorFlow训练参数存为npy格式并调用——线性回归
模型训练并保存 # -*- coding: utf-8 -*- """ Created on Sun Mar 15 10:27:32 2020@author: weixi ...
tensorflow use_bias参数
tf.keras.layers.Conv2D(filters, kernel_size, strides=(1,1), padding='valid', kernel_initializer='glo ...
TensorFlow之一—参数初始化
文章目录一.初始化为常量(一维数组,多维数组) `tf.constant_initializer(value)` `tf.zeros_initializer()` 和 `tf.ones_initi ...
tensorflow超参数优化,Tensorflow的超参数调整
I am searching for a hyperparameter tune package for code written directly in Tensorflow (not Keras ...
tensorflow超参数优化_机器学习模型的超参数优化
引言模型优化是机器学习算法实现中最困难的挑战之一.机器学习和深度学习理论的所有分支都致力于模型的优化. 机器学习中的超参数优化旨在寻找使得机器学习算法在验证数据集上表现性能最佳的超参数.超参数与一般 ...
keras + tensorflow —— 训练参数数目的计算
1. RNN 模型 Embedding Embedding(input_dim, output_dim,input_length) input_dim 表示字典的大小: outpu_dim 则表示嵌入 ...
tensorflow超参数优化_超参数优化
什么是超参数所谓超参数,就是机器学习模型里面的框架参数,比如聚类方法里面类的个数,或者话题模型里面话题的个数等等,都称为超参数.它们跟训练过程中学习的参数(权重)是不一样的,通常是手工设定,不断试错 ...

TensorFlow strides 参数讨论

TensorFlow strides 参数讨论相关推荐

最新文章

热门文章