根据Gartner的报告，今天91%的数据是在中心化的数据存储中心做计算。但是，截止到2022年，全世界74%的数据将在端侧进行分析和计算。

有一种误解是边缘计算会取代云计算，相反，边缘+云计算的结合会是未来的主趋势，边缘计算甚至会进一步带动云计算的发展。把规模的数据计算一定是在云端处理，而与直接数据产生者相关的部分计算会被分配到端。接下来就具体分析下端侧计算的一些优势：

1.数据隐私性

个性化推荐等业务越来越被普遍应用到广大APP中，其本质是对用户行为数据的收集，并在云端进行统一分析。这种AI服务在给人们带来便利的同时，也带来了数据安全问题，很多国家开始出台法令限制用户数据的收集。边缘计算的引入可以允许用户数据不上传，只在用户自己的手机端侧进行分析。这样既能保证数据隐私性，又能同样满足个性化推荐等业务需求。

2.时效性

目前大部分AI服务需要采集数据到云端的数据存储中心进行统一建模，然后将模型部署成Restful服务供终端调用。这种模式因为数据传输的带宽限制以及网络通信的时延限制，往往会影响服务的时效性。如果数据分析建模等服务发生在端侧，就避免了大量的数据传输和网络时延等问题。

3.负载平衡

传统的AI service完全依赖于云端服务，因为每个终端侧的请求有波峰、波谷的差别，在请求波峰阶段可能会受限于云端服务侧性能，这个时候就需要做一些负载平衡，端侧服务就可以很好地解决这个问题。当云端服务能力不足的时候，端侧可以做一些弥补。一些极端情况，比如突然断网，云端服务完全失效，这时候因为端侧的模型服务还在，也可以暂时解决一部分AI模型inference的问题。

Edge AI的一些问题：

1. 计算力问题

众所周知，分布式计算（俗称云计算）主要解决的就是计算力问题，而将计算任务下发到端侧，可能会受限于端侧的内存、磁盘大小的问题，导致只有小规模的模型产出。

2.端设备多样性问题

端侧设备各式各样，比如手机、手表、音箱、汽车。里面使用的操作系统也极为丰富，可能有Anroid、Linux、IOS。在框架层可能是TF或者PyTorch。底层计算芯片也有各种版本，比如英伟达就为不同的终端定制了不同类型的芯片设备，比如为汽车定制的NVDIA Drive Orin。

如何在这么多设备的变量因素之下，找到一条普适性的模型训练模式，是比较有挑战的。

AI新浪潮：截止2022年，全球74%的计算将来自端侧相关推荐

中国AI专利申请量占全球74%，腾讯、百度、OPPO前五
4月10日至12日,被誉为"中国智能科学技术最高奖"的吴文俊人工智能科学技术奖十周年颁奖盛典暨2020中国人工智能产业年会在北京和苏州同期举办.期间,中国人工智能学会吴文俊人工智能 ...
5G时代下端侧AI势必大火！阿里技术专家在线解读
嘉宾|吕承飞(吕行) 出品|InfoQ&阿里巴巴新零售淘系技术部嘉宾简介:吕承飞(花名:吕行),阿里巴巴资深无线开发专家.2013 年加入淘宝,经历手机淘宝超级 App 技术演化完整过程,主 ...
嵌入式如何与AI相结合，什么是端侧AI~
大家好,周末愉快,最近和朱老师聊,作为嵌入式工程师,为什么需要关注一下端侧AI呢,和大家分享一些感悟. 什么叫端测AI?这个问题搞清楚之前,大家必须要去了解我们整个计算机行业的一个系统架构,它的发展方 ...
2022科大讯飞全球1024开发者节科技共创，AI创新正当时
数字经济已成为重组全球要素资源.重塑全球经济结构.改变全球竞争格局的关键力量.作为数字时代的核心引擎,人工智能正持续推动数万亿数字经济产业转型升级. 引领时代浪潮,科大讯飞全球1024开发者节,以AI ...
AI新基建如何构建？浪潮给出了一个答案
作者 | Just 出品 | AI科技大本营(ID:rgznai100) 伴随生产力升级,社会基础设施也正在发生变化.而智慧时代的新型基础设施,要能够对外提供各种算力服务.数据服务和AI服务.浪潮认为 ...
登顶AI服务器全球第一后，浪潮发布AI系统浪潮元脑
雷刚假装发自上海量子位报道 | 公众号 QbitAI AI汹涌,时代转关. 这已一次次被证明. 而且天道轮回,疆界重构,也见怪不怪. 但当浪潮开放AI系统,推出浪潮元脑,还是不得不令人感慨时 ...
新升级，新格局｜2022（第三届）全球数字经济产业大会9月盛大来袭！
围绕"十四五"规划发展目标,构建以数据为关键要素的数字经济,贯彻创新.协调.绿色.开放.共享的新发展理念,进一步推进数字产业化.产业数字化,引导数字经济和实体经济深度融合,坚定支持 ...
AI：2020年6月23日北京智源大会演讲分享之AI创业专题论坛——10:00-10:30张亚勤教授《智能产业新浪潮》
AI:2020年6月23日北京智源大会演讲分享之AI创业专题论坛--10:00-10:30张亚勤教授<智能产业新浪潮> 导读:首先感谢北京智源大会进行主题演讲的各领域顶级教授,博主受益匪浅 ...
中集集团全球港航AI高科技独角兽中集飞瞳港口航运新枢纽人工智能技术走向成熟全球前三大船公司及港口码头应用落地港口智能化码头智能化
中国是世界第一贸易大国,港口航运是我国经济高质量快速发展的重要载体,随着我国经济迅猛发展,综合国力日益增强国际地位不断提升.中集集团全球港航AI高科技独角兽中集飞瞳CIMCAI,港口航运新枢纽人工智能 ...

AI新浪潮：截止2022年，全球74%的计算将来自端侧