谷歌开发新模型EfficientNets,缩放CNN的精度与效率超越现有模型文章来源:企鹅号 - 醉熏梦玉米助力数字生态,云产品优惠大促腾讯云促销,1核1G 99元/1年,2核4G 1200元/3年立即抢购编译 | 老张卷积神经网络(CNN)通常以固定的资源成本开发,然后进行缩放,以便在获得更多资源时得到更好的精度。传统的模型缩放方法是任意增加CNN的深度或宽度,或者使用较大的输入图像分辨率进行训练和评估。虽然这些方法确实提高了精度,但它们通常需要繁琐的手动调优,而且常常会产生次优性能。如果我们能找到一种更有原则的方法来缩放CNN,以获得更好的精度和效率,那将会怎样呢?与任意缩放网络尺寸的传统方法(例如宽度,深度和分辨率)不同,该方法使用固定的缩放系数集合均匀地缩放每个维度。借助这种新颖的缩放方法和AutoML的最新进展,我们开发了模型,名为EfficientNets,它超越了最先进的精度,效率提高了10倍。复合模型缩放:更好地缩放CNN为了了解缩放网络的效果,我们系统地研究了缩放模型不同维度的影响。虽然缩放各个维度可以提高模型性能,但我们观察到,平衡网络宽度,深度和图像分辨率的所有维度与可用资源相比,可以最好地提高整体性能。复合缩放方法的第一步是执行网格搜索,在固定资源约束下找到基线网络的不同缩放维度之间的关系(例如,多2 倍FLOPS),这确定了上述每个维度的适当比例系数。然后,我们应用这些系数将基线网络缩放到所需的目标模型大小或计算预算。不同缩放方法比较与传统的缩放方法相比,这种复合缩放方法可以不断提高现有模型的缩放精度和效率,如MobileNet(+ 1.4%imagenet精度)和ResNet(+ 0.7%)。EfficientNet架构模型缩放的有效性也在很大程度上依赖于基线网络。因此,为了进一步提高性能,我们还通过使用AutoML MNAS框架执行神经架构搜索来开发新的基线网络,该框架优化了准确性和效率(FLOPS)。最终的架构使用移动倒置瓶颈卷积(MBConv),类似于MobileNetV2和MnasNet,但由于FLOP预算增加,所以体积略大一些。然后,我们缩放基线网络以获得一系列模型,称为EfficientNets。基线网络efficient – b0的架构简单明了,易于扩展和推广EfficientNet性能将EfficientNets与ImageNet上的其他现有CNN进行比较。通常,EfficientNet模型实现了比现有CNN更高的精度和效率,将参数大小和FLOPS降低了一个数量级。模型大小与精度的比较尽管EfficientNets在ImageNet上表现良好,但它们也应该迁移到其他数据集。为了评估这一点,我们在八个广泛使用的转移学习数据集上测试了EfficientNets。EfficientNets在8个数据集中的5个中实现了最先进的精度,例如CIFAR-100(91.7%)和Flowers(98.8%),参数减少了一个数量级(参数减少了21倍),这表明我们的EfficientNets也很好地转移。通过显著提高模型效率,EfficientNets可能成为未来计算机视觉任务的新的基础。因此,我们开源了所有EfficientNet模型,并希望这些模型可以使机器学习社区受益。论文:arxiv.org/abs/1905.11946开源:github.com/tensorflow/tpu/tree/master/models/official/efficientnet

ggggggggggg相关推荐

  1. [转] fedora linux下安装vmware tools的最好方法

    作者:醉龙凌云 时间:2007.5.13 首发:中国虚拟化先锋网 说明:转载请注明所有信息 功夫不负有心人啊,经过长久的摸索,终于为fedora系统安装vmware tools找到了一条最佳途径. 曾 ...

  2. C语言实现物品竞拍管理系统

    也许有人以后后看到这篇文章,同样为实现物品竞拍管理系统而头痛.但是,我要告诉你如果一开始不会做的话,那是正常的,毕竟我一开始也是如此.但是,更是这样,更是应该自己独立思考,毕竟一个程序员就是需要独立思 ...

  3. line-height 和 height 区别

    line-height是每一行文字的高(行高),如果文章换行则整个盒子高度会增大(行数*行高) height是一个固定值,就是这个盒子的高度.文章换行并不会改变盒子的高度. 注意点: 如果一个元素的h ...

  4. FPGA入门到实战-学习笔记

    ref:腾讯教育 FPGA入门到实战-录播课-上海V3学院 https://ke.qq.com/course/66019 老师:尤恺元 第1课 掌握Verilog HDL的高级编码知识 授课日期: 老 ...

  5. python编译器包括的简单过程_python基础第二课

    一  认识模块 1.1  sys #!/usr/bin/env python3 #Author: Sam Gao importsysprint(sys.path) #打印PYTHONPATH环境变量# ...

  6. python字符串(二)

    一.字符串具有不可改变的特性 >>> str1 = 'your' >>> str1 = str1 + 'name' >>> str1 'yourn ...

  7. 微信小程序云开发读取数据库集合,显示到前端页面

    开发一个小程序时,需要使用云开发的数据库,然--这是一个很"悲惨"故事. 不知什么原因Page里的生命周期函数onload()等函数一直无效,感觉是因为用了Component的原因 ...

  8. python是一门纯解释型语言的区别_python基础总结(一)

    一.  第一个HelloWorld 1. 在linux 执行 (python2.7)[root@linux-node1 ~]# vim test.py #!/usr/bin/env python    ...

  9. SpringBoot中替换logo日志(修改banner)

    banner SpringBoot项目下在resources目录下新建个banner.txt就行,这个文件里放的就是图案字符. 工具网站 文字转字符图网站: patorjk.com - 文字转字符图 ...

最新文章

  1. retinaface自定义增强
  2. 190. Reverse Bits
  3. 深度学习核心技术精讲100篇(五)-通过CTR预估对比深度学习模型(deepfm)梯度提升模型(catboost)
  4. MS SQL查询库、表、列数据结构信息汇总
  5. 2020“家”经济时代开启——中国到家服务行业研究报告
  6. KVM 通过virsh console连入虚拟机
  7. 类型约束的本质:泛型是不完备类型,只有合乎要求的构造才能正确使用和访问。...
  8. 最为完整的gdb调试
  9. 遗传算法是一种进化算法_一种算法的少量更改可以减少种族主义的借贷
  10. 计算机网络管理员考试试题,计算机网络管理员考试试题和答案
  11. 标题:《东邪西毒》台词全本(国语版) (转)
  12. 数字图像处理与Python实现-颜色空间转换-RGB颜色空间与YIQ颜色空间转换
  13. air应用接入移动mm弱联网平台
  14. 电脑引导,电脑常见开机引导错误的解决方法
  15. 拓嘉辰丰:影响拼多多直通车推广效果的因素有哪些?
  16. Xubuntu22.04装有道词典:报错has unexpected type “float“(一百四十一)
  17. 建网站常用HTML代码
  18. 南宁职业技术学院计算机专业宿舍,南宁职业技术学院星级文明宿舍评比办法(试行)...
  19. 写给想成为前端工程师的同学们―前端工程师是做什么的?
  20. [JAVA]从零开始的“桌面宠物”之路(一):动画效果

热门文章

  1. 三国杀Excel版–让你见证Excel的神奇
  2. JIRA中的史诗、故事、版本与冲刺
  3. 利用二次导数对函数凹凸性的证明
  4. python 坐标轴单位标注_matlab坐标轴如何带单位标注?
  5. web项目bug总结
  6. 手机装linux无root权限,linux无root权限安装screen(示例代码)
  7. 最简单深度学习Python实现(二分类问题)
  8. linux---VI
  9. Axure高级功能(变量、动态面板[轮播图]、中继器)
  10. VMware:在部分链上无法执行所调用的函数,请打开父虚拟磁