SRCNN(DONGC, CHEN C L, HE K, ET AL. LEARNING A DEEP CONVOLUTIONAL NETWORK FOR IMAGESUPER-RESOLUTION[J].ECCV2014)

•方法:对于一个低分辨率图像,先使用双三次(bicubic)插值将其放大到目标大小,再通过三层卷积网络做非线性映射,得到的结果作为高分辨率图像输出

•三层卷积的结构可解释成:图像块提取和特征表示;特征非线性映射;最终的重建。

•SRCNN的基本框架

  1. 第一层对输入图像执行特征提取并将每个补丁表示为高维特征向量。
  2. 第二层然后非线性地将这些特征向量映射到另一组特征向量,这些特征向量在概念上是HR图像片的表示。
  3. 最后一层重新组合这些表示并重建最终的HR图像

•方法:对于一个低分辨率图像,先使用双三次(bicubic)插值将其放大到目标大小,再通过三层卷积网络做非线性映射,得到的结果作为高分辨率图像输出

•网络结构:

  1. LR 特征提取,对LR进行特征提取,并将其特征表征为一些特征图;“卷积层(c*f1*f1卷积核)+RELU”
  2. 特征的非线性映射:将第一阶段提取的特征映射至HR所需的特征图;“卷积层(n1*1*1卷积核)+RELU”
  3. HR重建:将第二阶段映射后的特征恢复为HR图像;“卷积层(n2*f3*f3)三个卷积层使用的卷积核的大小分为为9x9, 1x1和5x5,前两个的输出特征个数分别为64和32.
  4. 三个卷积层使用的卷积核的大小分为为9x9,,1x1和5x5,前两个的输出特征个数分别为64和32。
•数据集:

用Timofte数据集(包含91幅图像)和ImageNet大数据集进行训练。

•损失函数:

使用均方误差(Mean Squared Error, MSE)作为损失函数,有利于获得较高的PSNR。

•优点:

网络结构十分简单,仅仅用了三个卷积层。框架在选择参数时很灵活,可以采用四层或更多层,更大的过滤器尺寸来进一步提高性能。

•缺点:

SRCNN针对单个尺度因子进行训练,如果需要新的规模,则必须对新模型进行培训。特征提取只用了一层卷积层,存在着感受野比较小的问题,提取出来的特征是非常局部的特征,细节无法恢复出来。

•改进点:

  1. 它依赖于小图像区域的上下文;
  2. 训练收敛太慢;
  3. 网络只对于某一个比例有效。作者认为网络越深效果越好的这个定律不适用于SR领域。为了解决该问题,VSDR的作者将残差的思想引入了网络架构中,VGG不再需要学习如何恢复一张高清的HR图像,而是学习HR与LR图像拉伸之后的残差;

FSRCNN(DONG C, CHEN C L, TANG X. ACCELERATING THE SUPER-RESOLUTION CONVOLUTIONAL NEURAL NETWORK, ECCV2016)

•对SRCNN的改进:
  1. 在最后使用了一个反卷积层放大尺寸,因此可以直接将原始的低分辨率图像输入到网络中,(和ESPCN思路一致)而不是像之前SRCNN那样需要先通过BICUBIC方法放大尺寸。
  2. 改变特征维数,使用更小的卷积核和使用更多的映射层。
  3. 将SRCNN中的NON-LINEAR MAPPING分为SHRINKING、MAPPING、EXPANDING三个阶段。
  4. 可以共享其中的映射层,如果需要训练不同上采样倍率的模型,只需要改变最后的反卷积层。
  5. 由于FSRCNN不需要在网络外部进行放大图片尺寸的操作,同时通过添加收缩层和扩张层,将一个大层用一些小层来代替,因此FSRCNN与SRCNN相比有较大的速度提升。FSRCNN在训练时也可以只FINE-TUNING最后的反卷积层,因此训练速度也更快。

FSRCNN网络结构

  1. 特征提取:直接是对低分辨率图像进行操作,卷积核5×5。
  2. 收缩:降维,减少网络的参数,降低计算复杂度。卷积核1×1。
  3. 非线性映射:用两个串联的3×3的卷积核可以替代一个5×5的卷积核。感受野比SRCNN大。两个串联的小卷积核需要的参数3×3×2=18比一个大卷积核5×5=25的参数要小。FSRCNN网络中通过M个核大小为3×3的卷积层进行串联。
  4. 扩张:收缩的逆过程。作者发现低维度的特征带来的重建效果不是太好,因此应用1×1的卷积核进行扩维。
  5. 反卷积层:上采样操作,放大图像尺寸。如果步长为N,那么尺寸放大N倍。



SRCNN与FSRCNN相关推荐

  1. srcnn fsrcnn espcn rdn超分网络的结构

    1.Srcnn Code: 数据集制作方法:以x2为例 训练数据:一张原始图作为高分辨率图像(h, w),先下采样到(h/2, w/2),然后再cubic上采样到(h, w)得到低分辨率图像, 该网络 ...

  2. 深度学习在超分辨率重建上的应用SRCNN,FSRCNN,VDSR,DRCN,SRGAN

    超分辨率技术(Super-Resolution)是指从观测到的低分辨率图像重建出相应的高分辨率图像, 目前应用较多的应用场景是图像及视频分辨率提高,比如可以提高以往影视作品或图像的分辨率,提高视觉感官 ...

  3. (FSRCNN)_Accelerating the Super-Resolution Convolutional Neural Network——超分辨率(三)

    Accelerating the Super-Resolution Convolutional Neural Network 论文链接: Accelerating the Super-Resoluti ...

  4. 心中无码,自然高清 | 联合去马赛克与超分辨率研究论文Pytorch复现

    作者 | 知凡,个人公众号:林木蔚然读书会(ID:EspressoOcean),知乎ID:Uno Whoiam 本文授权转载自知乎 本文结构 简单扫盲 什么是去马赛克 什么是超分辨率 <Deep ...

  5. 华人一作登ICCV 2021,实时超分新SOTA!AutoML显神威:1%参数量,超清视频70倍加速...

      视学算法报道   作者:詹政 编辑:好困 小咸鱼 [新智元导读]东北大学王言治团队将网络结构搜索与剪枝搜索相结合,提出了全新的自动搜索框架.该AutoML框架得到的稀疏模型能够在移动设备上实时且高 ...

  6. 本周有哪些值得读的 AI 论文?我们替你挑选了 18 篇

    在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考. 在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果. 点击本文底部的「阅读原文」即刻加入社区 ...

  7. 【图像超分辨率】SR for RS via Local–Global Combined Network

    Super-Resolution for Remote Sensing Images via Local–Global Combined Network 摘要 I. 引言 II. 方法 A. 用于超分 ...

  8. 【图像超分辨率】Multi-scale Residual Network for Image Super-Resolution

    Multi-scale Residual Network for Image Super-Resolution 摘要 1 介绍 本文对应的解决方案 本文的贡献 2 相关工作 2.1 单图像的超分辨率( ...

  9. 【SR汇总】基于深度学习方法

    1.SRCNN.FSRCNN (Learning a Deep Convolutional Network for Image Super-Resolution, ECCV2014) (Acceler ...

最新文章

  1. docred数据集情况笔记
  2. 【勘误】第4章字符串的实现
  3. 什么是Linux的原生GUI API?
  4. RSA算法和RSA数字签名算法的实现
  5. 2.3.2 操作系统之实现临界区进程互斥的软件实现方法
  6. 景切换的时候加上遮罩
  7. Spring集成Junit步骤和代码实现
  8. 关于GPS 车辆定位导航中的投影变换
  9. matlab中多边形滤波器,几种常见空间滤波器MATLAB实现
  10. 【架构】研究谷歌和亚马逊的微服务案例,我们能学习到的经验
  11. C语身教程第十章:文件(8)
  12. error:bucket is protected
  13. Windows Phone 8.1中AppBarToggleButton的绑定问题
  14. 扫普通二维码打开小程序,可进入体验版
  15. jdk15的安装与配置
  16. 【多图长文】古希腊式、巴洛克式、哥特式.....图说西方建筑简史
  17. java FreeMarker模板路径问题
  18. Win10 系统 C 盘飘红,6 招瞬间腾出十几 GB 空间
  19. mongo执行逻辑表达式_Mongo学习记录
  20. USB无法debug调试:because an app is obscuring a permission request settings cab't verify your resonse

热门文章

  1. pxe装机dhcp获取不到_Windows – PXE启动无法通过DHCP获取IP地址,但DHCP在操作系统启动时有效...
  2. 嵌入式Linux——WIFI网卡
  3. mall4j开源商城
  4. PHP验证身份证格式
  5. 天气预报--桌面插件功能
  6. Matlab Simulink 柔性直流输电系统 四端网络 四端换流器控制 无功补偿控制
  7. 字节跳动秋招提前批客户端面试(已oc)
  8. Unity3D 2021.1.2F1 发布了。赋国际版本下载地址。
  9. 【知识图谱】知识图谱构建技术一览
  10. arping指令即其参数对应的功能