【华为云技术分享】LiteAI四大绝招，解锁物联网智能设备AI开发难关

【摘要】 IoT设备中嵌入AI能力实现产品的智能升级，已经是AIoT行业发展的重要通道，那怎样才能实现AIoT = AI + IoT呢？如何将AI模型塞到小小的IoT设备里，让它可以轻松运行起来呢？成为了AI开发者遇到的棘手难题。

你知道我们生活中常见的物联网智能设备融合AI技术后，会给我们带来什么样的智能交互体验？在我们指尖触碰的那一刹那背后隐藏的代码世界又是怎么样的呢？

今天就来和大家说说IoT智能设备轻松实现AI的奥秘!

AIoT，智能化升级的最佳通道

AIoT，对我们来说已经不是一个陌生的词汇了，随着深度学习的蓬勃发展和5G万物互联时代的到来，越来越多的人将AI与IoT结合到一起，而 AIoT已经成为传统行业智能化升级的最佳通道，是物联网发展的必然趋势。

AI和IoT相互交融产生的魔力，让许多智能产品及智能应用成为无穷想象的“潜力股”。比如智能音箱中的语音唤醒，家庭监控里的人脸识别，可穿戴设备上的AI计步等等，已经验证物联网产品融入人工智能，升级成了智能设备后的“威力”。

但，物联网AI 开发者的“痛”，你遇到过么？

很多AI开发者开发者在训练得到AI模型之后，必须得在设备上实现模型的推理才能获得相应的AI能力，但目前AI模型不能直接在设备上运行起来。这就意味着，开发者还得有一套对应的推理框架才能真正实现AI与IoT设备的结合。

另外，目前深度学习虽然可以在很多领域超越传统算法，不过真正用到实际产品中却要面临计算量大，内存占用高，算法延时长的问题，而IoT设备又往往有算力低、内存小及实时性要求高的特点。因此针对IoT资源受限的问题，AI模型的压缩及性能优化是AI模型在部署过程中必须解决的难点。

IoT设备中嵌入AI能力实现产品的智能升级，已经是AIoT行业发展的重要通道，那怎样才能实现AIoT = AI + IoT呢？如何将AI模型塞到小小的IoT设备里，让它可以轻松运行起来呢？成为了AI开发者遇到的棘手难题。

LiteAI四大"杀手锏"，解锁物联网设备AI 开发难关

l LiteOS轻量级AI推理框架LiteAI，从模型转换、优化及执行三个方面向开发者呈现如何在IoT设备上实现AI模型的推理全流程，并结合智能设备AI开发的案例，展示AI部署全过程。

l 针对IoT设备内存空间小的问题，LiteAI应用了模型量化技术，将模型参数从32比特浮点量化到8比特定点，实现75%模型压缩；实现更合理的内存管理算法，最大化内存复用率，绝大部分场景下达到内存使用下限值；提供模型压缩及聚类算法供开发者选择，进一步减少内存占用。

l LiteAI采用算子融合、SIMD指令加速、循环分支细化及Cache分块等技术手段，优化AI网络算子性能，加速模型推理，充分发挥ARM CPU算力。

l LiteAI推理引擎纯C语言实现，无第三方依赖，极为适合IoT产品部署；采用代码化模型执行函数设计，仅编译链接有用算子，完全剔除其他所有无用算子，基本无冗余代码，实现代码段空间占用最小化。

观看直播，听听专家怎么说IoT智能设备里的AI奥秘

点击这里，了解更多精彩内容

【华为云技术分享】LiteAI四大绝招，解锁物联网智能设备AI开发难关相关推荐

【华为云技术分享】【我的物联网成长记16】玩转设备固件升级
[摘要] 固件升级又称为FOTA(Firmware Over The Air),是指用户可以通过OTA的方式对支持LWM2M协议的设备进行固件升级. 固件升级流程固件(Firmware)一般是指设备 ...
【华为云技术分享】解密如何使用昇腾AI计算解决方案构建业务引擎
摘要:昇腾AI计算解决方案以极致算力,端边云融合.全栈创新,开放生态的硬核实力.用户可以使用标准的Matrix接口实现业务引擎,对外释放昇腾AI加速能力. 从卷积神经网络中的矩阵乘法(GEMM)说起 ...
【华为云技术分享】【我的物联网成长记20】物联网智慧路灯应用代码解析（下）
本文是物联网智慧路灯应用代码解析(上)的下篇.上篇我们介绍智慧路灯应用注册设备和获取上报数据的实现原理,本文我们继续介绍智慧路灯应用其他功能的实现. 智慧路灯应用注册设备成功后,界面上会显示下半部分的 ...
【华为云技术分享】玩转华为物联网IoTDA服务系列六-恒温空调
摘要:本文主要讲述空调接入到物联网平台后,通过恒温空调控制系统,不论空调是否开机,都可以调整空调默认温度,待空调上电开机后,自动按默认温度调节. 场景简介通过恒温控制系统,不论空调是否开机,都可以调 ...
【华为云技术分享】三大前端技术(React,Vue,Angular)探密（下）
[华为云技术分享]三大前端技术(React,Vue,Angular)探密(上) [Angular] Angular(通常被称为 "Angular 2+"或 "Angula ...
【华为云技术分享】“技术-经济范式”视角下的开源软件演进剖析-part 1
前言以互联网为代表的信息技术的迅猛发展对整个经济体系产生了巨大的影响.信息技术的发展一方面使知识的积累和传播更加迅速,知识爆炸性的增长:另一方面,使信息的获取变得越来越容易,信息交流的强度逐渐增加, ...
【华为云技术分享】“技术-经济范式”视角下的开源软件演进剖析-part 3
4. 微观层面 4.1 个体动机在开源软件发展之初, 商业组织的投入很少甚至没有, 完全是靠Richard Stallman 或者 linus Torvalds 这样的个人在努力推动开源软件艰难前行 ...
30亿参数，华为云发布全球最大预训练模型，开启工业化AI开发新模式
本文分享自华为云社区<HDC.Cloud 2021 | 华为云发布全球最大预训练模型,开启工业化AI开发新模式>,原文作者:技术火炬手 . 4月25日,华为云发布盘古系列超大规模预训练模型 ...
【华为云技术分享】直播回顾丨激发数据裂变新动能，HDC.Cloud云数据库前沿技术解读
3月24日14:00-17:00,HDC.Cloud开发者沙龙系列云数据库专场直播线上开启,此次华为云数据库通过三场直播从NoSQL数据库新技术.数据库迁移.行业解决方案等方面对云端数据库进行深度解读 ...

【华为云技术分享】LiteAI四大绝招，解锁物联网智能设备AI开发难关

【华为云技术分享】LiteAI四大绝招，解锁物联网智能设备AI开发难关相关推荐

最新文章

热门文章