自古兵家作战就讲究一个「度」。

公元 200年,官渡之战后。死敌袁绍的残兵败卒远逃塞北,劳师远征还是穷寇莫追,曹操陷入纠结。鬼才谋士郭嘉建言道:“用兵贵在神速!远征千里之外,辎重多、行军慢,敌人定会有所察觉。不如留下笨重的物资,轻车简从昼夜兼程,攻敌不备定可一战功成。”

曹操采纳了建议,亲率数千精兵突袭,旋即取得了胜利。

兵贵神速,绝非妄言。

曹操轻车简从昼夜兼程是极致效率的体现,同样的,在现代的科技领域,需要紧急交付应用的时刻,将开发完成的模型快速部署、快速应用,其背后体现的工程效率有时也事关成败。

近日,旷视天元 MegEngine 将面向计算机视觉应用的 MegFlow 流式计算框架开源,奉上一套可快速完成 AI 应用部署的视觉解析服务方案。

通过使用 MegFlow,AI 算法开发者可以快速完成 AI 模型的落地应用。

我们就拿一个电瓶车检测的例子,小中见大吧。

今年 5月10日,成都成华区一小区电梯内电瓶车起火,导致包括一名女婴在内的多人烧伤。这样的悲剧事件绝不是孤例,管理人员本可以及时察觉并制止电动车进入楼梯间等楼内公共区域停放或充电。

MegFlow提供的“开箱即用”应用就包括电瓶车检测:基于 MegFlow 提供的图像和视频解析服务,最快 15 分钟即可完成客制化电瓶车检测功能,并完成快速部署。这是一种为物业管理者提供的智能化管理工具。当摄像头检测到电瓶车进入楼内公共区域,系统会第一时间发出警告,提醒管理人员快速制止,有效排除起火安全隐患。所谓“生命安全大于天,能快一点是一点”。

1 MegFlow ——三步部署神器

“炼丹本是枯燥事,奈何部署再难人。” 经历过AI应用上线的开发者肯定深有体会,要让一个模型从丹炉走出来到落地应用所涉及的东西又多又杂,技术储备不足或人手不够的团队很难在短时间内搞定所有事情。旷视最近开源的 MegFlow是针对这一痛点开出的一剂良药。

旷视的工程师在总结了内部多年的 AI 应用工程落地经验之后,搭建了一条从“炼丹”到落地的高速公路,这就是 MegFlow 流式计算框架。

MegFlow 将资源、消息、任务等概念进行清晰一致的抽象化,做到将冗长的算法交付流程简化为模型训练、业务集成、交付验收三步完成。

2MegFlow三大特点助力提升工程效率

MegFlow 针对 AI 算法工程落地中的频发问题,诸如性能调优、安全性、模型加密等,都能提供行之有效的解决方案,并有效提升了工程效率。

MegFlow 拥有安全可靠、简单易用、语义支持丰富等特性。在这三大特性的保证之下,MegFlow 可以轻松助力 AI 应用快速落地。

简单易用

MegFlow 支持 Python 插件,且仅需要开发者编写同步的 Python 程序,即可实现可以被 MegFlow 异步调度的 Python 插件。同时 MegFlow 提供了一套基于 Web UI 的可视化调试工具,可有效提升模型部署的工作效率。

语义支持丰富

在表达能力上,MegFlow 支持静态图、动态图和共享图,辅以 demux、reorder、transform 等函数式语义的通用插件,为搭建多样化的 AI 服务提供了丰富的语义支持。

安全可靠

一般而言,工程效率的提高往往意味着安全性能可能会随之相应下降,但是MegFlow对于安全性的把控做得非常好,完全安全可靠。在技术选型上, MegFlow 的研发团队认真负责地调研了多种技术方案,最终选择了安全且零额外开销的 Rust 异步生态,从基础上保证了 MegFlow 的安全性与性能。

3旷视开源进行时

2020年3月,旷视开源了内部使用多年的深度学习框架旷视天元,并以天元为核心,逐步丰富完善其开源生态,覆盖图像分类、图像检测、图像分割、关键点、自然语言处理、生成对抗网络等各类模型和工程项目。不久前,旷视开源了YOLOX 系列高性能目标检测算法,一度登上GitHub trending榜。

除了工作效率之外,旷视在解决成本效率上也很给力。今年4月,开源深度学习框架 MegEngine引入动态图显存优化(DTR)技术并进行进一步的工程优化,提供了一种通过额外计算减少显存占用的途径,只需两行代码,可以在相同显存情况下,让用户训练 3 倍大的模型。在使用 DTR 功能后,11G显存的2080Ti 可以训练出原本32G显存的V100才能训练的模型,可以节省很多 Money!

4总结

天下武功,唯快不破。

追求高效率、省时省力是当今科技公司必修的一门课。

AI 在不断发展的过程中,解决长尾场景的能力越来越强大,可以预见的是像 MegFlow 这类高效的 AI 落地方案,可以更加便捷地解决这些问题。

务实的旷视做扎实的技术,在提供靠谱的技术解决方案、降本增效的路上一发不可收拾。

AI模型落地难?试试这个15分钟搞定的开源工具相关推荐

  1. 15分钟搞定Linux三剑客 grep sed awk

    剑客grep 来者何人 grep是linux上的字符串搜索匹配命令.这个名字来自于linux编辑器vim的一个命令g/re/p,表示全局匹配某个正则表达式并打印出来,这也体现了grep自身的功能. 基 ...

  2. 验证码 html 自动验证码,15分钟搞定自动识别网站验证码

    概述 很多开发者都讨厌网站的验证码,特别是写网络爬虫的程序员,而网站之所以设置验证码,是为了防止机器人访问网站,造成不必要的损失.现在好了,随着机器学习技术的发展,机器识别验证码的问题比较好解决了. ...

  3. 风控必备的评分卡模型,TempoAI 10分钟搞定

    8月20日,央行发布了<2020年第二季度支付体系运行总体情况>,数据显示,截至第二季度末,信用卡逾期半年未偿信贷总额838.84亿元,占信用卡应偿信贷余额的1.17%.与一季度相比,信用 ...

  4. 《看聊天记录都学不会C语言?太菜了吧》(15)你学了一节课的函数我5分钟搞定了,还很熟

    好消息2020年4月13日晚7.30我在CSDN开播,等你来聊天 预约连接:https://live.csdn.net/room/A757291228/MJWK0Gem 本系列文章将会以通俗易懂的对话 ...

  5. JS组件系列——又一款MVVM组件:Vue(一:30分钟搞定前端增删改查)

    前言:关于Vue框架,好几个月之前就听说过,了解一项新技术之后,总是处于观望状态,一直在犹豫要不要系统学习下.正好最近有点空,就去官网了解了下,看上去还不错的一个组件,就抽空研究了下.最近园子里vue ...

  6. python使用教程pandas-十分钟搞定pandas(入门教程)

    本文是对pandas官方网站上<10Minutes to pandas>的一个简单的翻译,原文在这里.这篇文章是对pandas的一个简单的介绍,详细的介绍请参考:Cookbook .习惯上 ...

  7. 逗号后面统一加空格_十分钟搞定字幕,教你做加字幕的“快手菜”

    平台上许多同学有疑问:做视频是否有加字幕的必要呢? 其实除了外语需要翻译.语速过快加字幕方便理解.普通话不标准等情况之外,还是建议有余力的同学可以加上字幕,提升用户的观看体验. 那么问题来了,存在以下 ...

  8. torch summary_留学论文如何5分钟搞定写作Summary,速看!

    留学论文|如何5分钟搞定写作Summary,速看! 写给正在留学的你: 这里是最全最贴心的[留学三文鱼],600万留学生自己的交流平台,留学申请+留学论文+面试tips+实习推荐通通都在这里!留学身边 ...

  9. 视频教程-10分钟搞定 php+H5手机网页微信支付 在线视频教程(含源代码)-微信开发

    10分钟搞定 php+H5手机网页微信支付 在线视频教程(含源代码) 04年进入计算机行业.拥有6年net和php项目开发经验,8年java项目开发经验. 现前端全栈工程师,主攻产品设计,微信开发等. ...

最新文章

  1. 第四课:算法效率的度量和存储空间需求
  2. 学习笔记-Redis设计与实现-跳跃表
  3. java进销存一个人要做多久,如何取得当前年的时间! 找java进销存系统
  4. linux存储--从内核文件系统看文件读写过程(四)
  5. C#中操作XML (节点添加,修改,删除完整版)
  6. ceph编译_Ceph编译:L版本及其之后的版本
  7. 从GC的SuppressFinalize方法带你深刻认识Finalize底层运行机制
  8. 比较文本差异的工具_Linux 开发的五大必备工具 | Linux 中国
  9. centos7开机启动自定义脚本_在Centos 7系统中开启启动自定义脚本的方法
  10. matlab 仿真短路故障设置,基于MatlabSimulink的电力系统故障仿真与
  11. Unity 打包IOS平台错误
  12. 【思前享后】区块链的起源
  13. mysql比较多列最大值_SQL多列查询最大值
  14. 大学计算机作业互评评语简短,大学生互评评语简短
  15. 征信报告 加密文档_PDF文档如何加密?看完这个方法你就知道了
  16. # SOM-算法原理
  17. 前端和后端的英文_前端、后端、全栈是什么意思?薪资怎么样?
  18. 视频剪辑,轻松将多个视频顺时针旋转90度
  19. arcgis10.2破解版教程(中文版)
  20. vue移动端拖拽悬浮按钮

热门文章

  1. Directx11教程(42) 纹理映射(12)-简单的bump mapping
  2. Java Volatile keyword
  3. 关于.net实现网站模板机制(非标签替换)
  4. php adodb使用,常用的php ADODB使用方法集锦
  5. Linux学习(四)---用户管理
  6. tensorflow checkpoint文件
  7. JAVA事物API JTA
  8. 机器学习算法独热编码及机器学习英语网站
  9. 智源成立面向可持续发展的人工智能智库并发布公益研究计划
  10. 解析全球人工智能核心脉络——北京智源大会2周倒计时