pytorch神经网络之卷积层与全连接层参数的设置

当使用pytorch写网络结构的时候，本人发现在卷积层与第一个全连接层的全连接层的input_features不知道该写多少？一开始本人的做法是对着pytorch官网的公式推，但是总是算错。

后来发现，写完卷积层后可以根据模拟神经网络的前向传播得出这个。

全连接层的input_features是多少。首先来看一下这个简单的网络。这个卷积的Sequential本人就不再啰嗦了，现在看nn.Linear(？？？, 4096)这个全连接层的第一个参数该为多少呢？请看下文详解。

class AlexNet(nn.Module):
def __init__(self):
super(AlexNet, self).__init__()

self.conv = nn.Sequential(
nn.Conv2d(3, 96, kernel_size=11, stride=4),
nn.ReLU(inplace=True),
nn.MaxPool2d(kernel_size=3, stride=2),

nn.Conv2d(96, 256, kernel_size=5, padding=2),
nn.ReLU(inplace=True),
nn.MaxPool2d(kernel_size=3, stride=2),

nn.Conv2d(256, 384, kernel_size=3, padding=1),
nn.ReLU(inplace=True),
nn.Conv2d(384, 384, kernel_size=3, padding=1),
nn.ReLU(inplace=True),
nn.Conv2d(384, 256, kernel_size=3, padding=1),
nn.ReLU(inplace=True),
nn.MaxPool2d(kernel_size=3, stride=2)
)

self.fc = nn.Sequential(
nn.Linear(？？？, 4096)
......
......
)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
首先，我们先把forward写一下：

def forward(self, x):
x = self.conv(x)
print x.size()
1
2
3
就写到这里就可以了。其次，我们初始化一下网络，随机一个输入：

import torch
from Alexnet.AlexNet import *
from torch.autograd import Variable

if __name__ == '__main__':
net = AlexNet()

data_input = Variable(torch.randn([1, 3, 96, 96])) # 这里假设输入图片是96x96
print data_input.size()
net(data_input)
1
2
3
4
5
6
7
8
9
10
结果如下：

(1L, 3L, 96L, 96L)
(1L, 256L, 1L, 1L)
1
2
显而易见，咱们这个全连接层的input_features为256。
---------------------
作者：嘿芝麻
来源：CSDN
原文：https://blog.csdn.net/zw__chen/article/details/82839061
版权声明：本文为博主原创文章，转载请附上博文链接！

pytorch神经网络之卷积层与全连接层参数的设置相关推荐

卷积神经网络---卷积层、激励层、池化层以及全连接层
文章目录概述卷积神经网络局部连接+权值共享** 输入层卷积层激励层池化层全连接层参考资料概述这两天在看论文,涉及到卷积神经网络的知识,之前一直对这块迷迷糊糊.看到了一篇博文写的很好 ...
Pytorch中卷积层转向全连接层时，全连接层输入维度的确定
Pytorch中卷积层转向全连接层时,全连接层输入维度的确定一.代码法: 改变的AlexNet网络结构: AlexNet 二.公式法: 一.代码法: 改变的AlexNet网络结构: 输入维度为 ( ...
卷积层和全连接层的区别_卷积神经网络中全连接层作用理解总结
前言一般来说,卷积神经网络会有三种类型的隐藏层--卷积层.池化层.全连接层.卷积层和池化层比较好理解,主要很多教程也会解释. • 卷积层(Convolutional layer)主要是用一个采样器 ...
卷积神经网络中卷积层、池化层、全连接层的作用
1. 卷积层的作用卷积层的作用是提取输入图片中的信息,这些信息被称为图像特征,这些特征是由图像中的每个像素通过组合或者独立的方式所体现,比如图片的纹理特征,颜色特征. 比如下面这张图片,蓝色框框住的 ...
对卷积神经网络中卷积层、激活层、池化层、全连接层的理解
文章目录卷积神经网络输入层卷积层激励层池化层全连接层卷积神经网络举一个卷积神经网络识别汽车的例子如下: 其中数据输入的是一张图片(输入层),CONV表示卷积层,RELU表示激励层,PO ...
“重参数宇宙”再添新成员：RepMLP，清华大学旷视科技提出将重参数卷积嵌入到全连接层
编辑:Happy 首发:AIWalker paper: https://arxiv.org/abs/2105.01883 code: https://github.com/DingXiaoH/RepM ...
深度学习卷积层与全连接层权重参数个数的计算
1.卷积网络实例分析构建卷积网络如下: from tensorflow.python.keras import datasets, models, layers class CNN(object): ...
padding和卷积的区别_NiN：使用11卷积层替代全连接层
微信公号:ilulaoshi, 原文发表在我的个人网站:https://lulaoshi.info/machine-learning/convolutional/nin.html LeNet.Alex ...
『Transformer』为什么1*1卷积可以替代全连接层？
为什么1*1卷积可以替代全连接层? 起源解决参考起源事情起源于同学的一个疑惑,他在阅读Transformer论文时,看到作者在前馈神经网络部分写有这么一句话: Another way of d ...

pytorch神经网络之卷积层与全连接层参数的设置

pytorch神经网络之卷积层与全连接层参数的设置相关推荐

最新文章

热门文章