ResNet ：（ residual 、residual bottleneck）

2024-06-09 04:39:57

2.ResNet结构

它使用了一种连接方式叫做“shortcut connection”，顾名思义，shortcut就是“抄近道”的意思，看下图我们就能大致理解：

这是文章里面的图，我们可以看到一个“弯弯的弧线“这个就是所谓的”shortcut connection“，也是文中提到identity mapping，这张图也诠释了ResNet的真谛，当然大家可以放心，真正在使用的ResNet模块并不是这么单一，文章中就提出了两种方式：

图2 两种ResNet设计
这两种结构分别针对ResNet34（左图）和ResNet50/101/152（右图），一般称整个结构为一个”building block“。其中右图又称为”bottleneck design”，目的一目了然，就是为了降低参数的数目，第一个1x1的卷积把256维channel降到64维，然后在最后通过1x1卷积恢复，整体上用的参数数目：1x1x256x64 + 3x3x64x64 + 1x1x64x256 = 69632，而不使用bottleneck的话就是两个3x3x256的卷积，参数数目: 3x3x256x256x2 = 1179648，差了16.94倍。

对于常规ResNet，可以用于34层或者更少的网络中，对于Bottleneck Design的ResNet通常用于更深的如101这样的网络中，目的是减少计算和参数量（实用目的）。

bottleneck结构单元如下：

3.ResNet50和ResNet101

这里把ResNet50和ResNet101特别提出，主要因为它们的出镜率很高，所以需要做特别的说明。给出了它们具体的结构：

ResNet ：（ residual 、residual bottleneck）相关推荐

R语言关联规则挖掘数据集预览、分析、筛选：项目数的分布形态（分位数、密度图）、itemFrequency函数统计每一项目在所有事务中出现的次数、最常发生的项目、数据筛选（交易的集合项目大于1）
R语言关联规则挖掘数据集预览.分析.筛选:项目数的分布形态(分位数.密度图).itemFrequency函数统计每一项目在所有事务中出现的次数.最常发生的项目.数据筛选(交易的集合项目大于1) 目录
转载：常用正则表达式大全！（例如：匹配中文、匹配html）
常用正则表达式大全!(例如:匹配中文.匹配html) 匹配中文字符的正则表达式: [u4e00-u9fa5] 评注:匹配中文还真是个头疼的事,有了这个表达式就好办了匹配双字节字符(包括汉字在内):[ ...
CSS 魔法系列：纯 CSS 绘制基本图形（圆、椭圆等）
我们的网页因为 CSS 而呈现千变万化的风格.这一看似简单的样式语言在使用中非常灵活,只要你发挥创意就能实现很多比人想象不到的效果.特别是随着 CSS3 的广泛使用,更多新奇的 CSS 作品涌现出来. ...
论 js中：（class、id）出乎意料的优先级？- 案例篇
文章目录论 js中:(class.id)出乎意料的优先级?- 案例篇看图说明 · 案例场景: 重要代码 · 解析 · `提示`: `class / id` 在`js`中抓取的`优先级`:`[代码点 ...
FFmpeg源代码简单分析：内存的分配和释放（av_malloc()、av_free()等）
===================================================== FFmpeg的库函数源代码分析文章列表: [架构图] FFmpeg源代码结构图 - 解码 F ...
java基础巩固-宇宙第一AiYWM：为了维持生计，四大基础之OS_Part_2整起~IO们那些事【包括五种IO模型：（BIO、NIO、IO多路复用、信号驱动、AIO）；零拷贝、事件处理及并发等模型】
PART0.前情提要: 通常用户进程的一个完整的IO分为两个阶段(IO有内存IO.网络IO和磁盘IO三种,通常我们说的IO指的是后两者!):[操作系统和驱动程序运行在内核空间,应用程序运行在用户空间, ...
word题注格式（从每章开始，如：图1-1、图2-1）
1 问题背景很多论文格式要求一级标题采用"第一章"."第二章"这种形式,同时还要求公式编号按章节编(图.表同理) eg:第一章的公式是1.1, 1.2,-,第 ...
跨国面板数据（1960-2020）七：银行、外汇、货币、利率、通货膨胀、债务（excel、stata版）
跨国面板数据(1960-2020)七:银行.外汇.货币.利率.通货膨胀.债务(excel.stata版) 数据来源:世界银行数据范围:1996-2020年,全球264个国家作者收集整理所得!!! ...
原创：谈谈12306铁路客运售票系统的架构问题（四、最终篇）
原创:谈谈12306铁路客运售票系统的架构问题(四.最终篇) 作者:刘常军(2014-01-20) 经过前面三篇文章的铺垫和说明,如今终于可以具体分析要如何对12306.cn的架构进行优化了. 在这里 ...
省级面板数据（2000-2019）十八：物质资本（原始数据、测算数据）（stata版本）
省级面板数据(2000-2019)十八:物质资本(原始数据.测算数据)(stata版本) 数据来源:中国统计年鉴+EPS数据平台+各省统计年鉴作者收集整理所得!!! 下载链接:https://bbs ...

最新文章

热门文章