基本情况

ICML 2014的文章, arXiv:1310.1531 [cs.CV].主要通过实验证明transfer learning的可行性.

Abstract

本文评估从大型固定的一组对象识别任务中以完全监督的方式训练的深卷积网络的激活提取的特征是否可以重新利用到新的通用任务.在很多情况下,由于没有足够的标注或者未标注的数据来常规地训练一个深度结构用于新的任务(这会导致过拟合),因此本文尝试把提取的特征应用的其他任务,并可视化了聚类结果(这一部分不太明白),比较了不同网络层次提取结果的性能,得到了炒作state-of-the-art的结果.
另外,发布了开源深度学习工具”Decaf”.

Deep Convolution Activation Features

本文先依照AlexNet文章的方法训练了一个CNN model,然后从网络中提取了多种特征,评估这下这些特征在通用视觉任务中的效率.
这里有两个问题需要解决:
(1) 从CNN提取出的特征能够泛化到其他数据集吗?
(2) 这些特征关于深度表现如何?
下文针对这两个问题,定量和定性、通过可视化语义聚类和针对baselines实验比较的方法进行解决.
本文提到了迁移学习的哲学意义:训练好的模型可以看做一个人从之前的视觉经验中得到的先验知识,这能够帮助人更高效学习新的任务.
在文章接下来的部分,通过使用t-SNE算法,把高维特征空间映射到二维特征空间,并基于语义分类用有色点的形式在坐标系中画出来,实现可视化.通过这种定性,并通过实验结果,定量分析了Decaf5、Decaf6、Decaf7提取出的特征和常规方法在不同任务中的比较.

Discussion

本文证实了,通过在一个打的标注物体数据集上辅助训练一个深度卷积架构,可以学习得到足够的表示能力和泛化能力的特征,通过简单的线性分类器就能实现很好的语义视觉判别任务,并且能够超过那些基于手工标注的复杂的multi-kernel学习技术得到的state-of-the-art.

相关资料

  • Decaf是caffe的前身,现在已经不在维护

[DeCAF]DeCAF: A Deep Convolutional Activation Featurefor Generic Visual Recognition相关推荐

  1. DeCAF: A Deep Convolutional Activation Featurefor Generic Visual Recognition阅读报告(2)

    4.实验 本文采用的深度卷积神经网络的原型是(Krizhevsky et al 2012).利用这个网络训练得到多种特征,然后在多个视觉任务上进行测试.本节讨论的"向前路径"计算法 ...

  2. DeCAF: A Deep Convolutional Activation Featurefor Generic Visual Recognition阅读

    DeCAF : CAFFE前身,但是在这篇文章中这不是重点,重点是在一个大型数据集合上进行训练的模型能否在其他数据集合上成功应用,因为有些领域数据集合时很少的,那么在这上面训练不现实,所以如果模型能够 ...

  3. DeCAF: A Deep Convolutional Activation Featurefor Generic Visual Recognition阅读报告(1)

    1.问题描述 利用深度神经网络进行特征的提取和分类取得了很好的效果.在很多视觉会议的竞赛上,CNN(卷积神经网络)的方法效果都不错.一些"基准"的数据集例如:Caltech-101 ...

  4. 论文笔记 Very Deep Convolutional Networks for Large-Scale Visual Recognition - ICLR 2014

    VGG Very Deep Convolutional Networks for Large-Scale Visual Recognition Karen Simonyan and Andrew Zi ...

  5. 【深度学习论文笔记】DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition

     时间:2014/7/29 10:00 论文题目:DeCAF: A Deep Convolutional Activation Featurefor Generic Visual Recognit ...

  6. DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition

    2018.4.22星期日 [1]Donahue J, Jia Y, Vinyals O, et al. DeCAF: A Deep ConvolutionalActivation Feature fo ...

  7. DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition 一般视觉识别的深度卷积刺激特征

    DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition 一般视觉识别的深度卷积刺激特征 Abstra ...

  8. VGGNet论文翻译-Very Deep Convolutional Networks for Large-Scale Image Recognition

    Very Deep Convolutional Networks for Large-Scale Image Recognition Karen Simonyan[‡] & Andrew Zi ...

  9. Very Deep Convolutional Networks for Large-Scale Image Recognition—中英文对照

    文章作者:Tyan 博客:noahsnail.com  |  CSDN  |  简书 翻译论文汇总:https://github.com/SnailTyan/deep-learning-papers- ...

最新文章

  1. 使用 electron-updater 自动更新应用
  2. 赠票 | 深度强化学习的理论、算法与应用专题探索班
  3. android bootloader阶段GPIO的控制
  4. 兴林村脱贫谋定向往宜居村庄-农业大健康·万祥军:美丽蝶变
  5. 华为RH2288V3服务器部署指南
  6. ubuntu常见问题解决方法
  7. sql查询索引语句_sql优化总结--基于sql语句优化和索引优化
  8. ElastciSearch简单总结(笔记)
  9. html画布图片不显示_如何在HTML5画布上显示图像
  10. php oracle数据库连接池,数据库管理Oracle 连接池信息的修改
  11. 4个关于中台最常见的误区,用最通俗的话给你一次解释清楚
  12. Centos 启用网卡出现 no link present. Check cable
  13. mysql引擎 实际应用_MySQL数据库中的三个引擎
  14. python next permutation_C++ STL next_permutation的实现原理
  15. ubuntu下txt文件中文显示乱码的方法【转载】
  16. archlinux wifi 开机自动连接
  17. 生活已经离不开网络,家用路由器与工业路由器有哪些区别,必备知识看完就明白
  18. CUDA:使用CUFFT来合成和 实时渲染海洋表面实例
  19. PASCAL VOC DATASET
  20. 高等教育心理学:教师职业心理(完) 不是特别重要

热门文章

  1. Bert:一切过往,皆为序章
  2. 树莓派与2.4G Zigbee无线串口收发模块的那些事儿
  3. 【资源分享】先知社区文章合集
  4. 黑苹果雷神911 efi分享
  5. 情人节告白PPT,你准备给ta惊喜了吗?
  6. Python/python求圆的周长和半径
  7. Netty系列之Netty编解码框架分析
  8. 计算机专业英语基础知识,第一章 计算机专业英语基础知识
  9. 2021-7-18(恶补mysql)学习笔记
  10. Boson模拟配置RIP、OSPF协议的路由