休假栗 问耕 假装发自 凹非寺
量子位 出品 | 公众号 QbitAI

PyTorch 1.0来了~

在今天的F8(Facebook开发者大会)上,深度学习框架PyTorch 1.0 rc1版如期发布。然而在海外的论坛上,另一个开源库的关注度不遑多让。

它就是fastai 1.0

简单来说,fastai只要一个API,就包含了所有常见的深度学习应用。堪称实用版的“要你命3000”。而且许多性能指标,已经超越了Keras。

比如,5行代码完成Keras用31行才能解决的事情。同时,误差表现也更好。难怪在Hacker News上,fastai的关注度比PyTorch 1.0还高……

而且fastai基于PyTorch 1.0框架,也被Facebook官方重点宣传。这两个全新的框架同时下载配合使用,疗效更佳。

这个悠长假期,你不试试么?

fastai 1.0

fastai的出品方是fast.ai,机构规模不大,但因为提供大量免费机器学习课程,而名声在外。还有,fast.ai也是美国军方的合作伙伴,研究如何加速人工智能技术的发展。

只要一个API

据创始人Jeremy Howard介绍,fastai只要一个API,就包含了几乎所有常见的深度学习应用。

用从前的库,都需要给不同的应用调取相应的API,fastai是第一个用单个API就能支持各类应用的库。

这样一来,用户就不需要记得五花八门的API调用方法了。用fastai搭建过视觉模型之后,可以用同一个的API再去搭建自然语言处理模型了。

在1.0发布之前,fastai最初的版本在9月上线,一波早期用户已经先行探索过这个年幼的库,并有多位大佬表示好用:

这是Kaggle资深玩家Miguel Pérez Michaus,用fastai做的风格迁移成果。

作为一个“没有正式计算机背景”的程序猿,他毫不吝惜自己对fastai灵活性的赞美:连我都能用。

GitHub的机器学习科学家Hamel Husain也用这个库,做了一个GitHub语义代码的搜索工具,还是半路从TensorFlow Hub换成fastai的。现在,搜索工具已经上线了:

https://experiments.github.com/semantic-code-search

还有,OpenAI小姐姐Christine Payne,最近做的一个项目叫Clara,是用神经网络生成音乐的AI。小姐姐说,如果没有fastai的话,速度就得不到保障了。

听一下Clara的作品,很美:

更多音乐:

http://christinemcleavey.com/clara-a-neural-net-music-generator/

5行代码就够了

Howard说,团队做过的研究,都嵌在这个框架里了。所以,大家可以充分享受这些成果。

他用猫狗识别的来举栗,那是迁移学习的经典案例,也是fast.ai的课程里最受欢迎的章节之一。

在新的库诞生之前,这样的问题大多是在TensorFlow上面用Keras解决的。如今,Keras依然是fast.ai团队仰慕的对象。

所以,团队也想在猫狗大战里感受一下,自家的框架和Keras对比起来,竞争力究竟如何。

1data = data_from_imagefolder(Path('data/dogscats'),2    ds_tfms=get_transforms(), tfms=imagenet_norm, size=224)3learn = ConvLearner(data, tvm.resnet34, metrics=accuracy)4learn.fit_one_cycle(6)5learn.unfreeze()6learn.fit_one_cycle(4, slice(1e-5,3e-4))

这5行代码,就是在fastai框架里做ResNet50的two-stage微调,需要的全部操作了。

而同样的任务,Keras要用31行才能完成。

除了代码行数,fastai在两个阶段的误差也比Keras更小

虽然成绩表十分骄人,Howard依然三番五次地表示,Keras始终是大神,整个团队都是Keras的粉丝。

先去用用看?

现在,fastai框架已经在GitHub上线了。下载请至:

https://github.com/fastai/fastai

也可以在谷歌云平台上用啊。先打开这个页面:

https://cloud.google.com/deep-learning-vm/docs/images

然后,给你的示例安装配置,再把fastai部署在PyTorch 1.0上。有了。

如果要在GPU驱动的Jupyter Notebook上运行fastai,也没问题:

https://salamander.ai/

除此之外,还有一个好消息。不久就会支持AWS了,可以期待一下。

PyTorch 1.0

接下来,说说也是最新发布的PyTorch 1.0。

去年1月,PyTorch首次发布,目前下载已经超过100万次。今年五月,Facebook副总裁贾扬清和CTO Mike Schroepfer透露,PyTorch 1.0即将推出。当时,Caffe2代码还并入了PyTorch。

PyTorch 1.0 rc1版传送门:

https://github.com/pytorch/pytorch/releases

Facebook在官方博客中,还对PyTorch 1.0 rc1版进行了详细的介绍。

新框架有了一个全新的混合模式前端,支持tracing和scripting模型,从eager模式进入graph模式,从而弥合研发与生产部署之间的差距;一个经过改进的torch.distributed库,能让Python和C++环境中的训练更快。

以及这个版本正式融合了PyTorch框架的灵活性与Caffe2的生产力。贾扬清此前给的总结就是:Caffe2 + PyTorch = PyTorch 1.0。

三大新功能

torch.jit

JIT是一组编译工具,用于弥合PyTorch研究和生产之前的差距。其中包含一种名为Torch Script的语言(仍然使用Python编写),还有两种方法可以使现有的代码与JIT兼容。

Torch Script代码可以积极优化,并且在序列化之后可以在新的C++ API中使用,这就完全不依赖Python了。

c10d库

torch.distributed软件包以及torch.nn.parallel.DistributedDataParallel模块,由新的c10d库提供支持。主要亮点包括:

  • c10d是性能来驱动的,并且对所有后端完全异步操作

  • 分布式数据并行性能显著改进

  • 在Gloomy后端增加send和recv支持

C++前端API

这个前端API被明确标记为还不稳定(Unstable)。官方预计将在未来一两个月稳定下来,同时不排除发生其中某些部分发生重大变化。

这个C++前端是一个纯C++接口后端是PyTorch,与此前的Python前后端体系结构一样。这个API只在实现高性能、低延迟和裸机C++应用程序的研究。

以下是两种语言前端的简单比较。

其他

生态系统

Google云、亚马逊AWS、微软Azure Machine Learning等国外的流行云服务,现在与PyTorch更加兼容。

Arm、Nvidia、高通、英特尔、IBM等厂商的,也增加了对PyTorch 1.0的支持。确保PyTorch可以在数据中心、边缘硬件等不同领域得到应用。

根据官方消息,目前Google和Facebook正在合作,为PyTorch用户构建TPU。Google云的Deep Learning VM服务,也将提供PyTorch 1.0映像。

教育培训

Facebook透露正与Udacity合作,为开发者提供免费的深度学习入门课程,这些课程都基于PyTorch。此外,Facebook还将赞助300名开发者,完成Udacity的中级课程,这些课程也已经改为基于PyTorch 1.0。

当然,fast.ai的新课程和深度学习库,也是PyTorch在教育领域的合作成果。

加入社群

量子位AI社群28群开始招募啦,欢迎对AI感兴趣的同学,在量子位公众号(QbitAI)对话界面回复关键字“交流群”,获取入群方式;

此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。

进专业群请在量子位公众号(QbitAI)对话界面回复关键字“专业群”,获取入群方式。(专业群审核较严,敬请谅解)

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

5行代码秀碾压,比Keras还好用的fastai来了,尝鲜PyTorch 1.0必备伴侣相关推荐

  1. python数学公式编辑工具_1行代码搞定Latex公式编写,这个4.6M的Python小插件,堪称论文必备神器...

    原标题:1行代码搞定Latex公式编写,这个4.6M的Python小插件,堪称论文必备神器 来源:量子位 关注前沿科技 萧箫 发自 凹非寺 量子位 报道 | 公众号 QbitAI 萧箫 发自 凹非寺 ...

  2. android 9.0华为荣耀,华为9款旗舰尝鲜Android 9.0 还不快去升

    原标题:华为9款旗舰尝鲜Android 9.0 还不快去升 [手机中国新闻]在我们的印象中,华为和一加在系统底层的更新上一直领先于其他手机品牌,这反映出两者对系统体验的重视程度.今天,荣耀官方发布微博 ...

  3. 1行代码搞定Latex公式编写,这个4.6M的Python小插件,堪称论文必备神器

    萧箫 发自 凹非寺 量子位 报道 | 公众号 QbitAI 写论文时,手敲成堆的计算公式,被虐到头秃? 做讲课PPT时,几十页的计算推理公式,恨不得直接手写拍照? 现在,解放双手的时刻来了,只需要掌握 ...

  4. tex中让公式和文字在一行_1行代码搞定LaTeX公式编写,这个4.6M的Python小插件,堪称论文必备神器...

    点击上方"深度学习工坊",选择加"星标" 重磅干货,第一时间送达 萧箫 发自 凹非寺 本文转载自:量子位(QbitAI) 写论文时,手敲成堆的计算公式,被虐到头 ...

  5. 利用python,20行代码即可实现照片墙,还可以生成爱心形状哟

    照片,可以勾起无限零零碎碎的回忆,或美好,或悲伤. 将零零散散的回忆连接在一起,便是一段难以忘怀的往事. 今天就带给大家一种把多张照片集合成一张"照片墙"的方法,包学包会,注释非常 ...

  6. 探一探,非常实用的GIF图圆角控件(3行代码)

    前言 现代人的崩溃是一种默不吭声的崩溃,看起来很正常,会说笑,会打闹,会社交,表面平静,实际上心里的糟心事已经积累到一定程度了.不会摔门砸东西,不会流眼泪或歇斯心底,但可能某一秒突然就积累到极致,也不 ...

  7. 牛津大学最新 | LUMix:Mixup改进版,几行代码轻松涨点!

    点击下方卡片,关注"自动驾驶之心"公众号 ADAS巨卷干货,即可获取 点击进入→自动驾驶之心[目标检测]技术交流群 后台回复[LUMix]获取论文!!! 摘要 当使用噪声样本和正则 ...

  8. lstm代码_只需5行代码!LSTM时间序列建模以及预测

    最近我在github上看到一个项目,项目内容是将深度学习方法(LSTM.RNN.GRU)进行时间序列建模的过程进行了封装,使得调用者调用者只需5行代码能完成时间序列建模以及预测的全过程. 项目本身是使 ...

  9. 什么是千行代码缺陷率?

    什么是千行代码缺陷率? 1 定义 2 目的 3 CMMI定义 4 指标的缺点 5 改进 5.1 圈复杂度 5.2 平均缺陷修复时间 6 其他推荐指标 1 定义 先来看下[千行代码缺陷率]是怎么回事? ...

最新文章

  1. html设备监控系统模板,蓝色的远程监控设备系统后台管理界面模板
  2. 游戏脚本和MonoBehaviour生命周期
  3. python定义方法self会被当作变量_为什么Python必须在方法定义和调用中显式使用“self”?...
  4. 利用QCommonStyle绘制自定义的窗体部件
  5. 单实例activemq 数据测试
  6. bash 中的行处理命令 awk
  7. Day3 01 枚举
  8. 如何用git将本地文件放到github上
  9. 动手学深度学习Pytorch Task08
  10. cass等距离等分线段的命令键_南方cass快捷命令
  11. 数据结构中的时间复杂度的计算
  12. 搞研究的没有好下场 哈哈哈(精华在最后)
  13. 力扣(LeetCode)244. 最短单词距离 II(2022.09.01)
  14. webpack中各个模块归纳总结图
  15. 我的理想 计算机 作文,我的理想作文(精选15篇)
  16. android 顶部弹窗,android显示通知,并在任何应用程序顶部弹出
  17. 微信小程序 校园食堂订餐点餐配送系统项目app毕业设计
  18. 让发展中国家展示清洁能源领导力
  19. 任务活动实现逻辑(领取任务,完成任务)
  20. 关于PDF文件无法打印的问题的解决办法

热门文章

  1. 阿里游戏之心不死?| 畅言
  2. @程序员,你的技术过气了吗?
  3. 计算机辅助正畸学模型分析,计算机辅助口腔正畸算法研究
  4. Zookeeper的Leader选举-选举过程介绍比较清晰
  5. android web canvas,HTML5 - Canvas无法在Android WebView的第一次加载时渲染
  6. 连接oracle数据库代码,oracle数据库的连接代码
  7. 神泣单机服务器维护,神泣9.0网游单机版网单一键服务端 魔王归来
  8. 恒温控制系统单片机仿真c语言,基于51单片机的恒温控制系统
  9. useReducer使用和原理
  10. 微型计算机的逻辑元素,微机原理及应用 宋廷强 微型计算机原理及应用.ppt