神经网络--------（2）对conv以及fc的理解

还是那句话，个人笔记，对错看看就好

1、fc全连接层

最早神经网络是多层感知机的方式（相邻层都为全连接）。

故与感知机中的的一般fc层相同，fc层的组成一般为：

a.input*weight + bais

b.激活函数

故其实还是放射变换+非线性变换，对样本空间进行变形+位移+扭曲

2、conv层

为什么引入卷积层：

a.‘’残忍的生物学家‘’研究生物感知野，用卷积来模拟局部感知野

b.相当于能够提取特征

c.比fc减少很多参数（权值共享）

神经网络--------（2）对conv以及fc的理解相关推荐

合并bn层到conv或FC层原理介绍及代码实现
原合并bn层到conv或FC层原理介绍及代码实现 2017年11月09日 17:38:27 crazy-ye 阅读数:5932更多 <div class="tags-box spac ...
神经网络中的激活函数与损失函数深入理解推导softmax交叉熵
神经网络中的激活函数与损失函数&深入理解softmax交叉熵前面在深度学习入门笔记1和深度学习入门笔记2中已经介绍了激活函数和损失函数,这里做一些补充,主要是介绍softmax交叉熵损失函数 ...
卷积神经网络VGG16权重数量的计算和理解(转载)
VGG16网络结构是: _________________________________________________________________ Layer (type) ...
Dilated conv扩张卷积的理解（一看就会）
Q1:Dilated conv的作用? A1:在同层计算不增加参数量的同时扩大感受野,感受野的理解见:https://blog.csdn.net/weixin_36835368/article/det ...
vgg16卷积层的计算量_卷积神经网络VGG16参数数量的计算和理解
先说一下我对神经网络的理解:神经网络就是用巨量的简单的非线性函数组合起来拟合复杂的未知函数.比如,人类识别不同的物体.识别不同动物.不同植物是个复杂的未知函数.虽然未知,但没事,我们的神经网络可以用巨 ...
神经网络训练集和验证集的原理理解
今天在学习<python深度学习>的时候,看到了这么一段话: 评估模型的重点是将数据划分为三个集合:训练集.验证集和测试集.在训练数据上训练模型,在验证数据上评估模型.一旦找到了最佳参数, ...
AI神经网络-CNN基本结构分析（ Conv层、Pooling层、FCN层/softmax层）
<link href="https://csdnimg.cn/public/favicon.ico" rel="SHORTCUT ICON"> &l ...
深入理解BP神经网络的细节
神经网络之BP算法文章目录神经网络之BP算法前言一.BP算法的流程二.搭建神经网络总结前言 BP神经网络是Back Propagation的简写,它是最简单的前馈神经网络之一通常用于 ...
在理解通用近似定理之前，你可能都不会理解神经网络
©作者 | 陈萍.蛋酱来源 | 机器之心通用近似定理很好地解释了为什么神经网络能工作以及为什么它们经常不起作用. 此前,图灵奖得主.深度学习先驱 Yann LeCun 的一条推文引来众多网友的讨论 ...

神经网络--------（2）对conv以及fc的理解

神经网络--------（2）对conv以及fc的理解相关推荐

最新文章

热门文章