来源:海豚数据科学实验室

有一天,小李的领导说:“我们要做AI平台!”。

虽然平台产品也不是新概念了,随着AI技术的成熟,AI平台产品也越来越多,但光凭做平台一句话,小李还是犯了难——大大小小的“平台”很多,究竟我们要做什么样的AI平台呢?磨刀不误砍柴功,小李决定先研究下市面上已有的AI平台找找灵感。

►►►

一、AI平台产品分类

AI平台大致可以分为AI开发平台和AI支撑平台(名字是小李瞎起的)两类。

1. AI开发平台

AI开发平台面向的是模型开发者,围绕AI模型/算法的生命周期(数据收集、标注、模型结构设计、模型训练、模型部署等阶段)提供工具。开发平台产品需要对算法开发流程、算法种类丰富度都有较好的积累,因此大部分平台类产品是由内功比较深厚的大厂推出的。

(百度BML功能架构)

1)用户

都叫开发平台啦,用户想必应该是开发人员,使用AI开发平台的研发人员对人工智能的了解程度不尽相同,他们可能是业务应用的开发人员(只需要调用某个模型API),也可能是AI工程师(需要对模型调参数,甚至重新设计网络结构),但归根到底AI开发平台是面向开发人员的B端产品。

2)场景

在需要AI能力支撑的时候,用户可以使用AI开发平台提供的不同层级的工具/功能(嵌入级、API级、数据训练级、模型定制级、算法开发级),实现所需的AI能力。

3)解决问题

AI赋能其他产品。AI平台作为一个产品,想解决的核心问题是如何便捷的让其他应用或产品获得智能化的能力。看到很多强调AI平台是为了让AI算法开发更简单的说法,但归根到底,如果不是其他产品需要AI模型或者AI能力,自然也不需要算法开发,更就没有必要有所谓AI开发平台存在了。

2. AI支撑平台

AI支撑平台大多是面向运营人员/业务人员,为某个AI应用提供能够使之work的配置、管理等“支撑”功能。智能对话平台就是一种非常典型的AI支撑平台,因为智能对话应用并非只依赖某个模型就能实现,所以需要根据业务场景进行技能管理、对话设置等工作,智能对话平台就是这些配置功能的载体。

1)用户

主要是业务人员或者运营人员,也就是需要对某个应用的具体规则、具体内容进行设置的工作人员。

2)场景

在使用某个智能应用时,用户需要根据实际业务场景对应用中的某些功能进行配置,才能使应用按照需求运行起来。

3)解决问题

使智能应用按照用户的期望运行起来。那为什么这些应用需要配置呢?为什么不能固化呢?因为应用的使用场景千差万别,比如在银行的智能客服和商场的智能客服,虽然底层的技术途径一致,但具体客服面对的问题、使用的话术完全不一样。

从产品角度看,为了使产品的通用性更强,我们往往会设计一个通用的应用框架,然后把高频且重要的功能做成可配置项以适应更多用户的需求。也不是说把功能固化下来不行,但那样的话产品就变成了定制化的项目,成本非常高且无法复用。

(AI开发&支撑平台对比)

►►►

二、AI开发平台

1. 按AI模型生命周期拆解

知乎看到的一个比较好的平台产品定义:“平台产品提供共用性强的工具,连接多端多角色之间的活动或交易”。AI开发平台产品也一样,是围绕着围绕AI模型/算法的生命周期提供工具,连接不同层次开发者对AI模型设计、训练、使用等活动。

AI模型的生命周期,大概是这样的:

AI开发平台即然是服务于AI模型生命周期的工具,自然也离不开以上这些模块。所谓平台,可以只针对某一个环节,比如数据收集+标注环节,或者模型部署环节,也可以针对整个生命周期,这就解释了为什么同是AI平台,有大有小。

如果我们从AI模型生命周期角度拆分,那么就有:

1)数据标注平台

面向数据接入、清洗、标注等和训练数据有关的工作。数据接入、清洗的工作其实和大数据的关联性比较强,有些标注平台甚至是大数据系统的组件。

对于AI标注/数据平台来说,一个思路是类似百度的EasyData,针对模型训练数据提供一部分预处理功能(如缩放、翻转图像提高模型鲁棒性,或者对图像进行滤波、降噪等增强操作)和智能标注功能(先利用已经训练好的模型自动标注一把,然后再由人工校准或微调),正是这些功能支撑起了数据标注平台。

另外一个不错的思路是更侧重“标注”这个动作本身,类似basicFinder,做数据需求方和数据标注商的撮合生意并提供标注工具。

2)模型设计平台

这个一般不会作为单独的产品,个人猜测原因主要是模型结构设计门槛高、需求小。从我自己的经验来看,使用开源框架开发和使用平台提供的工具效率差别不大。

模型设计的功能大多是作为开发平台一个模块,通过可视化拖拉拽、notebook等方式进行模型结构设计。

3)模型训练平台

提供模型训练的算力、环境,这个是AI平台中比较常见的产品,由于模型训练对硬件资源的高消耗,通常会租用云计算资源来完成模型训练,所以很多模型训练平台是与云平台捆绑的,完成包括负载均衡、并行训练等工作。

4)模型部署平台

提供把模型从训练环境部署到推理环境(云端、边缘端等)的工具。这个功能相对简单,较少单独作为一个产品,一般是也是作为开发平台的一个功能模块。

一个例外是边缘/嵌入式环境部署平台(如百度EasyEdge),由于硬件适配比较繁琐,所以目前看到百度是做成一个相对独立的产品的。

5)模型推理平台

提供各式各样的模型接口,供用户直接调用,一般还提供包括模型调用管理、接口管理等功能,这种推理平台主要是以模型作为核心竞争力的。另一种推理平台则以算力作为竞争力,类似云平台,用户将模型部署在平台上可获得弹性扩缩容等能力。

2. 按业务需求拆解

参考蚂蚁AI平台的一篇分享,AI平台按照不同层级的业务需求可以分为5级:功能嵌入、API调用、数据训练、模型定制、算法开发。

功能嵌入:通过iframe等实现成本最低的手段,将某个功能模块嵌入到自己的系统中。

API调用:直接调用平台提供的成熟API,比如调用身份证、驾驶证之类的OCR识别API。

数据训练:平台的模型符合需求,但需要提供自己的训练数据来解决具体场景需求。

模型定制:平台的现成模型不太符合要求,所以要对算法参数进行配置,然后训练出符合自己需求的新模型。

算法开发:最高级的情况,就是业务方懂算法、要开发新算法。平台则提供“算法开发、数据管理、模型训练、模型测试和发布”等一系列深层次的能力,来提升算法研发的效率。

把5级业务需求和生命周期对比来看,业务的按需分层和模型生命周期的各个阶段基本是呈对应关系的。需求越高级,追溯到的生命周期越靠前。

功能嵌入和API调用级需求只涉及模型推理,数据训练级需求涉及数据标注、训练、部署以及推理过程,模型定制和算法开发级需求就涉及全流程的功能了。

3. 一些典型产品

上图给出了一些AI开发平台产品的AI模型生命周期覆盖情况,可以看到大部分产品其实都是提供全生命周期的功能的。当然不是说以上的分析没有意义,按生命周期或者按需求层次拆解还是可以帮助我们捋清产品架构的。

个人觉得其中百度的功能架构是最舒服、逻辑性最好的。百度的AI开发平台包括BML和EasyDL两个,BML是全流程的开发平台,覆盖了AI模型全生命周期;EasyDL定位是零门槛开发,所以只支持到数据训练级别的开发。

这样的拆分其实就是依据前边所说的业务需求等级进行的,拆分之后目标用户要清晰很多。BML中相对独立的数据相关功能和边缘部署相关功能又都拆成组件/小平台,可以供用户单独调用,从而提高灵活性。

腾讯TI系列平台中,TI-ONE定位是“一站式机器学习服务平台”,但暂时没有看到关于数据标注方面的功能,数据处理只提供相对简单的数据接入和数据预处理功能。预置模型相对来说也比较少,大部分是机器学习方面的模型,深度学习模型较少。

TI系列的其他两个平台TI-Matrix和Ti-EMS分别是“AI应用服务平台”和“无服务推理平台”,个人感觉都更偏向云服务一些,主要是服务调度、扩缩容等能力。

华为ModelArts也提供从数据标注到模型推理全流程的开发工具,其中“自动学习”的功能模块基本对标百度EasyDL,提供重训练级别的模型生成,但暂时没有按照需求层级进行产品拆分。

►►►

三、AI支撑平台

AI支撑平台比起AI开发平台,更类似业务平台,比如内容审核、智能对话等。围绕的是一个核心算法,通过配置提升这个算法/能力的通用性。

下图举个内容审核平台作为栗子~横向是发布图片的业务流程,纵向是审核平台的功能,可见审核平台是和业务紧密结合的。

审核平台的核心其实就是分类问题(把输入的图片分为合规、不合规),外部输入是图片,输出是图片是否合规、违规类型、准确率等信息,而审核策略的制定、验证则是为了支撑图像分类算法在内容审核这个场景下work,说到底“支撑”就是配置、设置。

►►►

四、一点思考

1. 为什么需要AI平台?

从用户的角度看:用户需要的是以尽可能低的成本(时间及费用)获取所需的AI能力。AI平台提供的开发工具、预置模型都可以减小用户获取AI能力的投入。

从AI平台公司的角度看:AI平台提供的是一套标准化的工具/流程,80%的需求可以由标准化的产品来满足,而非每个需求都单独定制解决方案。通过AI平台这样的标准化产品来提升ROI,从而实现盈利。

不论是从用户角度,还是从提供AI平台的公司角度,其实AI平台的存在都是为了提升投入产出比。

但个人感觉,目前AI平台公司对AI平台的需求是要大于用户的,这就造成了产品多用户少的囧境。用户对AI平台的不认可,一方面可能是对AI能力带来的收益的不确定;另一方面可能是对AI平台提高ROI的不确定(有可能使用了AI平台但还是无法节约人力投入)。所以如何让用户发现AI能力的价值,进而发现AI平台的价值还是个值得思考的问题。

2. 如何做到AI平台的差异化?

市面上那么多AI平台,如何做到让用户选择你的产品呢?差异化。

怎么做到差异化呢?不同用户对AI能力或应用的需求侧重各不相同,但是无外乎数据、算力、模型三要素。

1)数据入手的差异化

当前很多行业还是存在缺乏数据积累的事实的,所以数据对于这部分公司来说就是最大的痛点。从数据角度入手的AI平台,最直接的是可以主打提供行业数据。如果数据不可获取,可以退一步和大数据平台结合提供数据采集、清洗、标注(自动、人工)等功能,解决用户数据方面的痛点。

前边提到的basicFinder,就是由标注平台逐步发展出来的AI平台。

2)算力入手的差异化

不论是训练阶段还是推理阶段,AI模型对算力都是强依赖的,因此从算力入手的AI平台也是发展最早的一种,一般都和云平台紧密结合,最后的收益落脚点都是云资源。

随着AI芯片发展,以嵌入式设备为载体的边端智能也越来越多,所以算力入手也可以指嵌入式算力。华为算是以算力为核心的代表公司。

3)模型入手的差异化

虽然大多AI算法都有开源的版本,但开源模型往往是通用模型,没有针对特定场景优化,没有一般没法直接应用。比如图像识别在医学领域和在自动驾驶领域可能用同样的算法,但需要喂不同的数据,进行不同的参数优化,最后得到适用于不同场景的模型。比如face++就对人脸识别相关的各类模型都做了优化。

一个热门方向AI+行业,就是在数据和模型角度都针对本行业进行差异化的设计。比如针对医药领域的医渡云,针对税务领域的慧算账等等。

3. 如果要做AI平台,怎么入手?

个人感觉现在做AI平台是件很难的事情了,本身这类产品就已经有点供大于求了,做差异化也需要结合已有的积累(无论是数据、算力还是模型),所以从头做一个成功的AI平台真的非常困难,留给AI平台的机会可能只有+行业了。

大胆开麦:短期之内做AI支撑平台的难度远小于AI开发平台,而成功率应该是要高于AI开发平台的。与其做一个大而全却没有明确目标用户的AI开发平台,不如围绕一个点做一个真正有人用的AI支撑平台。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

一文说清AI智能平台相关推荐

  1. 推荐几个AI智能平台

    个人站长或中小企业 网站中难免会需要一些提供便捷的三方服务,来提升网站安全或优化用户体验:例如 图片鉴黄.身份证识别.车牌识别.文字识别等等-- top1 推荐指数

  2. 听障人士的“有声桥梁”:百度智能云曦灵-AI手语平台发布

    在刚刚落幕的冰雪赛事中,百度智能云曦灵为央视新闻打造的AI手语主播正式上岗,她以流畅.专业的手语服务实时传递冰雪运动的激情.然而在日常生活中,听障人士想要方便地获取信息仍面临着众多困难,无障碍窗口稀缺 ...

  3. 聚焦“芯”产业,搭建“芯”桥梁——清微智能出席AIIA2020年度AI芯片交流会

    2020年7月30日,以"聚焦'芯'产业,搭建'芯'桥梁"为主题的"2020年度AI芯片交流会"在北京市海淀区永丰产业基地设计园举办.会议由中国人工智能产业发展 ...

  4. AI识别+视频技术赋能企业安全生产,助力构建安全预警智能平台

    安全生产是确保企业提高经济效益和促进生产稳定.快速发展的重要前提.2020年10月,工业和信息化部.应急管理部联合印发<"工业互联网+安全生产"行动计划(2021-2023年 ...

  5. 福布斯发布2019最值得关注IoT公司榜单,全球化AI+IoT平台涂鸦智能上榜

    近日,<福布斯>杂志(Forbes)评选了2019年最值得关注的25家IoT创业公司.该榜单基于Crunchbase(覆盖创业公司及投资机构的企业服务数据库)的数据,统计范围包括26792 ...

  6. AI智能安防视频融合云平台EasyCVR分屏播放不能正常使用是什么原因?

    EasyCVR视频融合云服务支持H.265编码视频Web直播,以及RTSP.RTMP.FLV.HLS视频流输出,可实现远程PC端(Windows.Mac.Linux).手机端(Android.iOS) ...

  7. AI智能视频分析平台EasyCVR视频直播弹框关闭后再次打开视频未能从起始时间播放的问题优化

    众所周知,视频融合共享AI智能分析平台EasyCVR可以根据不同客户端平台进行全平台直播,支持H.265编码视频Web直播,可以分发RTMP.RTSP.HLS.HTTP-FLV等视频流. 近期,TSI ...

  8. 阿里云视觉智能平台高校学生专访|臧家河:疫情在家,我的视觉AI实践之旅

      因新冠肺炎疫情,学校延期开学.为了让广大学生在家时间不浪费,提高相关计算机技能.阿里云多方产品联合开发者社区,推出了高校"在家实践"计划,其中阿里云视觉智能开放平台(visio ...

  9. 完成 B1 轮融资后,掌上糖医下一步要做 AI 智能诊疗平台

    10 月 10 日,掌上糖医宣布已于 2016 年年初完成 B1 轮融资,投资总额超过 1 亿元,投资方包括基石资本.IDG.经纬创投和平安创投.这是掌上糖医对外公布的第 3 轮融资.掌上糖医表示,其 ...

最新文章

  1. USACO Section 1.5 Checker Challenge
  2. 第二单元linux系统
  3. 表格检测开源网络推荐
  4. python打飞机源代码-如何用 Python 打飞机 ?
  5. Spring的@Resource注解报java.lang.NoSuchMethodError
  6. 描述符演练-02-逻辑疏理-类的装饰器
  7. 黑客高手是这样上网的!Vimer是如何用快捷键浏览网页的?
  8. ​2020启示:拼多多篇— —退潮后,你才发现人家是游泳健将
  9. 【POJ3630】Phone List(字典树)
  10. chrome下载速度慢,提高下载速度
  11. 华硕x450jn拆机_自己动手丨 轻松搞定华硕X450JN笔记本 内存扩展
  12. centos7 Qt5.9.1 ucal_close_53错误解决
  13. M - Help Hanzo (大数区间素数筛)
  14. 23.2.7 点亮三个灯
  15. 自定义控件其实很简单5/12
  16. NYOJ371-机器人II
  17. hdu 2094 “产生冠军“
  18. 复制文件到远程桌面显示未知错误
  19. ppt打印一页6张铺满不留白_你真的会做ppt?这些习惯和操作你有吗?
  20. 简单的Bat文件延迟启动特定程序

热门文章

  1. tensorflow object detection API 使用记录2
  2. ​Python数据可视化工具怎么选?深度评测5款实用工具
  3. 独家 | 简单三步实现Python脚本超参数调优(附代码)
  4. 收藏 | 10本免费的机器学习和数据科学书籍(附链接)
  5. 独家 | 从基础到实现:集成学习综合教程(附Python代码)
  6. 带你入门Python数据挖掘与机器学习(附代码、实例)
  7. 剑指offer:字符流中第一个不重复的字符
  8. 剑指offer:树的子结构
  9. LeetCode:925. Long Pressed Name
  10. 来!一起捋一捋机器学习分类算法