https://www.toutiao.com/a6694045305064653324/

【新智元导读】DeepMind提出一种全新的“深度压缩感知”框架，将压缩感知与深度学习相结合，显著提高了信号恢复的性能和速度，并提出一种改进GAN的新方法。

压缩感知(CS)是一种优雅的框架，用于从压缩信号中恢复稀疏信号。

例如，CS可以利用自然图像的结构，仅从少量的随机测量中恢复图像。

CS具有灵活性和数据效率高的优点，但由于其稀疏性和昂贵的重建过程，CS的应用受到限制。

那么，将CS与深度学习的思想相结合，是否能得到更优雅的框架呢？

近日，DeepMind的Yan Wu，Mihaela Rosca，Timothy Lillicrap等研究人员在ICML 2019发表论文Deep Compressed Sensing，基于前人将CS和神经网络生成器结合起来的方法，提出一个全新的框架。

深度压缩感知(DCS)框架通过联合训练生成器和通过元学习优化重建过程，显著提高了信号恢复的性能和速度。作者探索了针对不同目标的测量训练，并给予最小化测量误差推导出一系列模型。

作者表示：“我们证明了，生成对抗网络(GANs)可以被视为这个模型家族中的一个特例。借鉴CS的思想，我们开发了一种使用来自鉴别器的梯度信息来改进GAN的新方法。”

压缩感知，一种优雅的框架

压缩感知是什么呢？

有人这样评价道：

压缩感知是信号处理领域进入 21 世纪以来取得的最耀眼的成果之一，并在磁共振成像、图像处理等领域取得了有效应用。压缩感知理论在其复杂的数学表述背后蕴含着非常精妙的思想。基于一个有想象力的思路，辅以严格的数学证明，压缩感知实现了神奇的效果，突破了信号处理领域的金科玉律 —— 奈奎斯特采样定律。即，在信号采样的过程中，用很少的采样点，实现了和全采样一样的效果。[1]

编码和解码是通信中的核心问题。压缩感知(CS)提供了将编码和解码分离为独立的测量和重建过程的框架。与常用的自动编码模型(具有端到端训练的编码器和解码器对)不同，CS通过在线优化从低维测量重建信号。

该模型架构具有高度的灵活性和采样效率：高维信号可以从少量随机测量数据中重建，几乎不需要或根本不需要任何训练。

CS已经成功地应用于测量噪声大、成本高的场景，如MRI。它的采样效率使得诸如“单像素相机”的开发成为可能，可以从单个光传感器重全分辨率的图像。

然而，尤其是在现代深度学习方法蓬勃发展的大规模数据处理中，CS的广泛应用受到了它的稀疏信号假设和重建优化过程缓慢的阻碍。

最近，Bora et al. (2017)将CS与单独训练的神经网络生成器相结合。虽然这些预训练的神经网络没有针对CS进行优化，但它们表现出的重建性能优于现有的方法，如Lasso (Tibshirani, 1996)。

在本文中，我们提出一种深度压缩感知框架(deep compressed sensing，DCS)，在此框架中，神经网络可以从头开始训练，用于测量和在线重建。

我们证明，深度压缩感知框架可以自然地生成一系列模型，包括GANs，可以通过训练具有不同目标的测量函数推导得出。

这项工作的贡献如下：

  • 我们展示了如何在CS框架下训练深度神经网络。
  • 结果表明，与以往的模型相比，元学习重建方法具有更高的精度和快几个数量级的速度。
  • 我们开发了一种新的基于潜在优化的GAN训练算法，提高了GAN的性能。
  • 我们将这个新框架扩展到训练半监督GAN，并表明潜在优化会产生具有语义意义的潜在空间。

深度压缩感知：结合深度神经网络

我们首先展示了将元学习与Bora et al. (2017)的模型相结合的好处。然后将测量矩阵推广到参数化的测量函数，包括深度神经网络。

之前的工作依赖于 random projection作为测量函数，而我们的方法通过将RIP作为训练目标来学习测量函数。然后，我们通过在测量上添加RIP之外的其他特性，得到了两个新的模型，包括一个带有鉴别器引导的潜在优化的GAN模型，这导致了更稳定的训练动态和更好的结果。

压缩感知与元学习

我们假设CSGM(Bora et al. 2017)的运行时效率和性能可以通过使用元学习训练潜在的优化过程、通过梯度下降步骤的反向传播来提高。

CS模型的潜在优化过程可能需要数百个或数千个梯度下降步骤。通过使用元学习来优化这个优化过程，我们的目标是用更少的更新来实现类似的结果。

为此，我们训练模型参数，以及潜在的优化程序，以尽量减低预期的测量误差:

我们的算法如下：

算法1：元学习压缩感知

具有学习测量函数的深度压缩感知

在算法1中，我们使用RIP属性来训练生成器。我们可以使用相同的方法，并加强RIP属性来学习测量函数F本身，而不是使用random projection。

下面的算法2总结了这个扩展算法。我们称之为深度压缩感知(DCS) ，以强调测量和重建可以是深度神经网络。

算法2：深度压缩感知

实验和结果

表2和表3总结了我们的模型以及Bora等人的基准模型的结果。

表2：使用不同测量函数的MNIST测试数据的重建损失。除了第一行之外，所有行都来自我们的模型。“±”表示测试样本间的标准差。(L)表示习得的测量函数，越低越好。

表3：使用不同测量函数的CelebA测试数据的重建损失。除了第一行之外，所有行都来自我们的模型。“±”表示测试样本间的标准差。(L)表示习得的测量函数，越低越好。

可以看到，DCS的性能明显优于基准。此外，虽然基线模型使用了数千个梯度下降步骤，并且多次重启，但是我们只使用了3个步骤，没有重启，大幅提高了效率。

有趣的是，对于固定的函数F，随机线性投影的表现优于神经网络。这个实证结果符合压缩感知文献中描述的随机投影的最优性，以及更通用的Johnson-Lindenstrauss定理。

更多结果如下：

表4：与 Spectral Normalised GANs的比较。

图2：利用随机线性投影(上)、训练线性投影(中)和训练神经网络(下)的10个测量的重建。

图3：使用0(左)、3(中)和5(右)个梯度下降步骤进行潜在优化的CS-GAN样本。采用0步骤的CS-GAN相当于原始GAN。

图4：在CIFAR训练期间的Inception Score(越高越好)和FID分数(越低越好)。

论文地址：

https://arxiv.org/pdf/1905.06723.pdf

参考：

[1]形象易懂讲解算法 II—— 压缩感知

https://zhuanlan.zhihu.com/p/22445302

DeepMind论文：深度压缩感知，新框架提升GAN性能相关推荐

  1. DeepMind论文：深度压缩感知，新框架提升GAN性能（附链接）

    来源:新智元 本文共2200字,建议阅读9分钟. 本文介绍一种将压缩感知和GAN联系起来的创新框架. [ 导读 ] DeepMind提出一种全新的"深度压缩感知"框架,将压缩感知与 ...

  2. 关于压缩感知的第一篇论文解析压缩感知研究新思路

    9月5日,我在<<计算机应用研究>>上发表一篇文章,这篇论文目前还在审核!后续情况将继续报道.这里就压缩感知谈谈自己的想法.我们知道压缩感知是一种在香农采样频率下能够实现对信号 ...

  3. 深度学习：深度压缩感知-从ISTA到LISTA及其pytorch实现方法

    摘要:传统的压缩感知方法在重构时的速度通常比较慢.通过将深度学习和压缩感知结合,可以大大提高重构速度.Learned Iterative Shrinkage and Thresholding Algo ...

  4. Google和微软分别提出分布式深度学习训练新框架：GPipe PipeDream

    [进群了解最新免费公开课.技术沙龙信息] 作者 | Jesus Rodriguez 译者 | 陆离 编辑 | Jane 出品 | AI科技大本营(ID:rgznai100) [导读]微软和谷歌一直在致 ...

  5. 让人脸识别算法失灵，还能抵抗微信微博照片压缩！武大Adobe提出抗压缩对抗新框架，成功率最高超90%...

    鱼羊 编辑整理 凹非寺 量子位 报道 | 公众号 QbitAI 上回书说到,现在,对抗攻击的理念已经被应用到隐私保护领域: 通过给照片添加肉眼看不出来的对抗性噪声,来蒙蔽人脸识别AI,达到保护隐私的效 ...

  6. 优化Hexo性能，使用hexo-neat插件压缩页面，大幅度提升页面性能和响应速度

    写在前面的话 如果你还没有搭建Hexo博客成功的话,可以看看我写的这篇博客<手把手教你使用GitHub + Hexo搭建属于自己的个人博客>. 如果你搭建成功的话,可以看看关于这两篇博客& ...

  7. 《压缩感知理论及其研究进展》读书笔记

    说实话,今天阅读了这篇论文之后,即赞叹又疑惑,想了好久才写这篇读书笔记的,而这想了好久是在想要不要回避这篇论文,最后还是决定,提出自己的疑惑与不适,去面对吧. 可能是由于关于压感的论文大家写的很多了, ...

  8. 压缩感知测量矩阵构造方法研究

    前言 这是我本科毕设的题目,现在毕业过了一个多月才想起来把毕设做的整理一下,写这个博客不为别的,只为纪念一下本科最后的时光吧.记得刚拿到这个题目时,满脑子都是黑人问号,压缩感知到底是个什么东东?也正是 ...

  9. 压缩感知的阶段性总结

    压缩感知的阶段性总结 由于传统的信号处理框架,对信号的采样必须满足奈奎斯特速率,随着数据量的增大,这种框架下的信号处理会极大的加大ADC的压力,同时大量的数据冗余会使数据存储代价增大. 为了弥补奈奎斯 ...

最新文章

  1. 在读博士的第八年，她破解了量子计算领域最基本的问题之一
  2. Apache 配置 Basic 认证
  3. 应用程序控制策略——AppLocker
  4. mongoose Topology was destroyed 处理
  5. x210烧写流程(inand)
  6. processing创意图形代码_2020年外贸B2C店铺的黑色星期五创意营销想法（下）
  7. python方法定义..._解析Python类中的方法定义
  8. C#中的正则表达式（1）
  9. markdown UML图
  10. [转载] 山楂树之恋——01-03
  11. 关于vmware虚拟机硬件里没有软盘驱动器，而操作系统里还有的解决方法
  12. 阿里电话面试(算法工程师)
  13. 应广单片机长按开关机_单键实现单片机开关机
  14. 随机出现“No result defined for action ....Action and result input”解决
  15. 鉴相器 matlab,MATLAB锁相环仿真程序求解
  16. Altium AD20整板放置GND过孔、批量放置GND过孔/缝合孔
  17. express框架实现文件上传、下载及推送（使用Websocket）
  18. Scrapy--CrawlSpider
  19. VMware安装Ubuntu虚拟机如何连接网络
  20. H3CTE认证的说明

热门文章

  1. 《人工智能北京共识》发布， 智源研究院成立伦理与安全研究中心
  2. 为何计算机科学领域的女性不多？
  3. 2011图灵新春特献
  4. Unet论文解读代码解读
  5. PHP使用imagick扩展来合并图像
  6. 我在信息学奥赛上，用Bug直接改了验算数据，拿了满分算作弊嘛？
  7. 清华姚班“斩获”AAAI 2020最佳学生论文：首届弟子贝小辉携手本科在读李子豪，攻坚算法博弈研究...
  8. 深度学习中的正则化技术(附Python代码)
  9. 剑指offer：二维数组中的查找python实现
  10. 一起走进计算机视觉的世界