日调用量超600亿次,HMS Core HiAI Foundation助力AI应用高效开发
随着新技术的不断演进,人工智能已经广泛地应用到教育、金融、物流、零售、交通、医疗等各个领域。而在AI高速发展的当下,高效开发变得更为重要,如何将创意想法与AI技术深度融合,迅速转化为可落地的AI应用,是开发者在激烈竞争中制胜的关键。
为了助力开发者快速上线AI业务,为消费者提供创新AI体验,HMS Core HiAI Foundation将HiAI 生态中的底层硬件能力开放,为开发者提供了300多个具备业界优质模型兼容性的AI算子,让开发者更简单快捷地应用华为AI能力,快速构建智能AI应用。
此外,HUAWEI HiAI Foundation还推出端云协同、多IP深度协同、自主调优工具包、Model Zoo等多种解决方案和能力,为众多业务场景打造更高性能更低功耗的计算环境,助力开发者快速开发和部署AI应用。
五大性能优势,助力开发者高效灵活开发
• 端云协同:针对新业务场景算子以及已有典型业务场景算子,提供性能优化、快速升级平台能力的解决方案
当前,AI业务和算法模型都在持续快速演进,AI计算平台适配新业务和新算法快速升级成为难题。端云协同具备快速升级端侧计算库的能力 ,助力开发者快速支持新模型、上线新业务,让消费者快速获得端侧AI带来的体验提升。
• Model Zoo:辅助开发者优化模型结构,更好地利用NPU加速优势
开发者在业务开发过程中,为了更大程度利用底层算力,需要针对底层硬件结构做一些模型调整,这个过程可能会出现效率低,资源利用不足的情况。HiAI Foundation打造Model Zoo,将NPU友好的模型结构、Backbone、算子放进去,供开发者自行挑选,辅助其优化模型结构,更好地发挥麒麟芯片NPU的加速优势。
• 模型量化工具包:让开发者的App更快、更小
正常情况下,开发者训练的模型是32bit,这样的模型计算精度固然高,但对手机功耗和内存的要求也比较高。HiAI Foundation为开发者提供模型量化工具包,在满足计算精度的前提下,可以把原始模型直接量化为更小、更轻便且更适合NPU结构的低比特模型,无需开发者做二次调整,从而节省手机空间,降低计算资源的消耗。
HiAI Foundation模型量化工具包
• 网络结构搜索工具包:让网络设计更简单、更有效
网络结构搜索工具包支持多种类型的网络结构搜索任务,包含分类,检测和分割。通过精度,性能目标牵引,协同硬件信息通过最优化搜索算法获得最优的网络结构,得到最佳的性能提升。网络结构搜索工具包支持多种主流训练框架使能,包含:caffe,tensorflow,pytorch。同时针对多种主流硬件平台具有算力和时延建模的能力。
HiAI Foundation网络结构搜索工具包
• 多IP深度协同:各计算单元共用DDR内存,提升性能降低功耗
HiAI Foundation在硬件裸算力开放的同时,还具备硬件底层多IP深度协同的优势。多IP深度协同的好处在于,CPU、NPU、ISP、GPU等各计算IP可以共用DDR内存,最大程度减少IP之间拷贝数据流转的开销,既可提升性能又能降低功耗。
从平台架构来看,HMS Core HiAI Foundation衔接智慧业务和底层硬件能力,上层支持MNN、TNN、华为MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架对接,利用推理加速平台(Foundation DDK)和异构计算平台(Foundation HCL)将AI任务调入NPU/CPU/GPU/DSP等IP中进行计算,赋能手机、平板、智慧屏、车机、手表等终端设备,将更多好玩酷炫的AI应用带到消费者面前。
HiAI Foundation 开放架构
日调用量突破600亿,引领端侧AI行业标准构筑
如今,AI技术在端侧的应用越来越广泛,语音识别、图像识别、图像分割、图像超分、人脸识别、文字识别等已经成为全民通用的技术,消费者期待更好玩的AI应用出现,希望获得更优质的AI应用体验。HiAI Foundation为AI应用开发提供了基础保障,让开发者能够突破性能瓶颈,提高开发效率,节省计算资源,更好地投入到AI玩法的研究与落地中,满足消费者对智慧生活的美好期待。
据统计, HiAI Foundation自2018年开放以来,以高性能、低功耗、高易用性收获越来越多的开发者青睐,短短几年间日调用量从100万+增长到600亿+(数据来自参与体验改进计划的用户)。爱奇艺、美颜相机、抖音、剪映、快手、优酷等头部应用已先后接入HiAI Foundation,利用端侧AI强大的计算能力,为用户打造智能新体验。
HiAI Foundation日调用量突破600亿+
为了助力端侧AI行业繁荣发展,HiAI Foundation在优化平台性能的同时,已加入AI标准化组织AITISA(人工智能产业技术创新战略联盟),并参与端侧AI标准草案撰写,共同构筑AI行业标准,目前该草案已进入标准定稿审核阶段。
更多HiAI Foundation相关信息,请关注5月24日HUAWEI Developer Day(简称HDD)-HiAI Foundation主题演讲,你也可以登录华为开发者联盟官网>HMS Core>HiAI Foundation查看。
了解更多详情>>
访问华为开发者联盟官网
获取开发指导文档
华为移动服务开源仓库地址:GitHub、Gitee
关注我们,第一时间了解 HMS Core 最新技术资讯~
日调用量超600亿次,HMS Core HiAI Foundation助力AI应用高效开发相关推荐
- API 日调用量超 100 亿次!腾讯云首次披露云原生产品数据
头图 | 视觉中国 当下,云原生成为云计算下一个重点方向,国际上如亚马逊.微软.谷歌等顶级云厂商,国内 BAT 等也均已展开布局,字节跳动近期全资收购容器平台才云科技,也展示出对云原生的兴趣. 在国内 ...
- 日调用量超三十万亿,腾讯开源百万级服务发现和治理中心北极星
目前很多企业在微服务实施和演化过程中,都会面临技术栈的多样性问题.整个微服务领域逐渐沉淀出了无数个相关组件,大家在选择上更加困难,也为企业的基础设施建设不断带来挑战.腾讯也曾面临这样的痛点,因此从 2 ...
- 日均调用量超13亿次,阿里达摩院研发全球首个实时翻译直播-1
近几年来,直播电商到处开花,但绝大多数都是国内的中文直播.如果想买外国电商主播推荐的商品,语言不通怎么办? 这一难题已被阿里巴巴(下称 "阿里")攻克,阿里速卖通是面向全球海外消费 ...
- 日均调用量超13亿次,阿里达摩院研发全球首个实时翻译直播
近几年来,直播电商到处开花,但绝大多数都是国内的中文直播.如果想买外国电商主播推荐的商品,语言不通怎么办? 这一难题已被阿里巴巴(下称 "阿里")攻克,阿里速卖通是面向全球海外消费 ...
- 脉脉因“App 整改下架”事件致歉;阿里云全年营收超 600 亿;腾讯防大量群消息骚扰专利获授权|极客头条...
「极客头条」-- 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧. 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews ...
- 互联网日报 | 华为鸿蒙OS 2.0正式发布;微信小程序日活用户超4亿;百胜中国回港上市首日破发...
今日看点 ✦ 微信小程序最新数据:日活用户超4亿,相关从业者达536万 ✦ 华为鸿蒙OS 2.0正式发布,明年华为手机全面支持 ✦ 百胜中国回港二次上市首日破发,总市值超1600亿港元 ✦ 华住集团通 ...
- 汽车之家股权曝光:平安持股44.8% 一年市值蒸发超600亿港元
雷递网 雷建平 5月3日报道 汽车之家日前公布20-F文件,文件显示,截至2022年3月31日,中国平安通过Yun Chen持股为44.8%,Kayne Anderson持股为8.9%. 截至2022 ...
- 极客日报第124期:脉脉因“App 整改下架”事件致歉;阿里云全年营收超 600 亿;腾讯防大量群消息骚扰专利获授权
一分钟速览新闻点! 腾讯防大量群消息骚扰专利获授权 脉脉因"App 整改下架"事件致歉:将进行排查整改 快手灰度测试同城团购功能,入局本地生活服务赛道 字节跳动在重庆成立今日头条公 ...
- HMS Core Discovery直播预告 | AI画质增强 ,开启超清视界
[直播入口] B站华为开发者联盟:http://live.bilibili.com/22551651 4K.8K视频屡见不鲜,HD.FHD分辨率成小屏标配,当网络卡顿.视频自动切换到较低画质时,用户最 ...
最新文章
- Amazon AWS云计算服务平台概述
- group_concat默认长度限制
- PHP-Windows下搭建PHP-MSF环境【原创】
- Eclipse启动tomcat项目乱码而终端启动tomcat正常的解决办法
- IE和火狐CSS透明层兼容写法
- 9-4NOIP模拟赛总结
- 网络空间安全复习归纳
- tomcat内存溢出:PermGen space解决方法
- [Excel]Excel函数和用法(10)——数组公式的使用方法与隔列求和
- Java 11 发布线路图:有哪些值得期待的新特性?
- 我的世界电脑正版服务器地址大全,《我的世界》服务器地址大全 各个服务器一览分享...
- Excel全自动项目管理甘特图
- 基于Joplin和WebDAV搭建私有云笔记
- [导入]教你如何和女孩接吻缠绵
- scipy butter 滤波器实现
- vue 实现百度下拉提示搜索功能
- 移动端区分安卓系统和ios系统
- h5 java实现微信分享_WebApp实现微信分享功能
- 在以TCP为连接方式的服务器中,为什么在服务端设计当中需要考虑心跳?
- ASIX AX88179 USB3.0 to gigabit ethernet adapter 适配器获取不到ip地址