小冰公司CEO李笛:强大的AI工具不应该给企业,应该给劳动者 | MEET2021
编辑部 整理自 MEET 2021
量子位 报道 | 公众号 QbitAI
如今,喊一声“Siri”,定个闹钟查个天气,已经成为大家生活中司空见惯的操作。
随着AI技术的发展与落地时刻的到来,人类与AI之间不可避免地发生越来越多、千丝万缕的联系。
那么,站在这样一个时间节点,展望AI的未来,作为技术人员、AI从业者,仅仅思考技术本身的问题就足够了吗?
在MEET 2021智能未来大会现场,小冰公司CEO李笛说:认清边界,边界之后人工智能技术才能发挥更大的价值。
对于人工智能而言,未来十年最大的价值其实是信任。
信任的建立,不仅有赖于技术的边界,还有生态的边界:
强大的AI工具不应该给企业,而应该给企业里的劳动者。
为了完整体现李笛有关人工智能边界与价值的思考,在不改变原意的基础上,量子位对他的演讲内容进行了编辑整理。希望也能给你带来新的启发。
关于MEET 智能未来大会:MEET大会是由量子位主办的智能科技领域顶级商业峰会,致力于探讨前沿科技技术的落地与行业应用。本次大会现场有李开复等20余位行业顶级大咖分享,500余名行业观众参与,超过150万网友在线收看直播。包括新华社、搜狐科技、澎湃新闻、封面新闻等数十家主流媒体在内纷纷报道,线上总曝光量累计超过2000万。
要点
人工智能的原则、边界,跟未来10年AI的发展密切相关,实际上都是基于非常务实的考量。
技术的边界可以归结成三件事:预想的困局、场景的克制、保护人与AI双方的机制。
强大的AI工具不应该给企业,而应该给企业里的劳动者。
对于人工智能而言,未来十年最大的价值其实是信任。
以下为李笛演讲分享实录:
今天在这里,我们不想过多地谈小冰,而是希望把我们所掌握的来自全球的大量数据,小冰框架里各种算法所进行的大量实践,以及我们在其中体会到的一些事情,跟大家分享。
人工智能在内容产业方面的进展,其实会比想象中更快一些。
比如12月18日,在日本院线上映的《假面骑士零一·REAL×TIME》里,就有我们的两个AI角色参演。
不仅如此,当每一个电影院里的观众,沉浸在银幕上善恶对决的故事里时,他们自己身边也会发生同样的剧情:AI角色的推特账号会被片中的邪恶势力劫持……这是因为我们所控制的AI不仅在电影里,也在他们的手机里。
但这都是很小的事情。
今天我想跟大家沟通的,是AI伦理。
现在我们在讨论人工智能未来价值的时候,其实更多在讨论的是边界。我们不谈政治正确,但这些原则、边界,跟未来10年AI的发展密切相关,实际上都是基于非常务实的考量。
我今天的分享,一言以蔽之,是当人工智能不可避免地进入到人类社会的每一个角落,和人类发生各种各样、千丝万缕、无处不在的关联的时候,我们应该如何营造人工智能与人之间良性、有效的关系。
还是从小冰说起。
小冰目前已经形成一个非常完整的技术框架,这个技术框架在今天占据了全世界范围内人和AI之间交互总流量的60%。
虽然我们展示出来的,是一个喜欢唱歌、喜欢跳舞,多才多艺却又不怎么干正事的少女小冰,但实际上,它能做到的远远不止于此。
比如,中国90%的机构投资人和个人投资人,他们每天所看到的金融摘要信息,包括企业、证监会的金融风控信息,其实都是由这个18岁的萌妹子提供的。所以我们比90%的机构、个人投资人,都提前20秒知道这些金融信息。
这样的能力,给我们带来了很多的思考。
AI可以做很多很多的事情,可以交流,可以交互,可以执行有意义、有任务特点的工作,还可以进行创作。但无论AI做什么,都需要讨论边界的问题。
技术应用的边界
这些边界,首先来自于技术本身。每一个重要的技术突破本身都存在很多运用上的问题。从我们自己这么多年的体会来看,可以把技术运用的边界归结为三件事:
第一件事,预判技术在运用过程中可能会遇到的困境,尝试用系统化的结构,去提升规避掉这些困局。
第二件事,是对场景的克制。人工智能要发展,需要在选择落地场景上保持克制。
第三件事,是尝试保护双方的机制。把人工智能想像成一个面向未来的系统,它会跟亿万人类发生各式各样实时、高并发的交互,所以在系统设计上一个非常重要的边界,就是对双方进行保护。
预想的困局
在小冰团队里面,我们一直坚决禁止为普通个人训练声音。为什么?就是因为我们预想到了一个困局。
先来听一下之前小冰的一个声音:
在人和AI进行交互的时候,过去我们的预训练模型倾向于把内容变得很清楚,很多的训练数据或者说训练方向,是集中在让AI像播音员一样,字正腔圆地把文本内容准确输送到你耳朵里去。
但是从小冰开始,我们尝试了很多新的方式。我们希望人和AI交互的过程中,人是放松的。这样我们的系统也会得到很多放松的数据。
不过即使是刚才这个声音,我们用一个新的指标——ACD(Average Comfort Duration,平均舒适时长)去评价它,人听这个声音,最多可以听2.6分钟到7.8分钟,再长就会受不了。
就是说如果这个声音训练出来,用它去进行一个有声读物的创作,产品上不应该超过7.8分钟。
在一年半以前,我们进行了第二种技术的突破,使得ACD能够达到21分钟。
这是国内某个省广播电台的“主持人”的声音,她每周都要主持节目,但其实她一直不是真正的人类。
在中国和日本,大概有40多个电台和电视台,已经应用了这样的虚拟人技术。不过即使是这样的声音,也没有达到我们对AI的要求。
我们再来听小冰框架里的另外一个声音,这个声音能实现31分钟的人类舒适时长。
在这上面我们很重要的一个改进,就是让AI学习到人类不完美的地方,就是大家声音的瑕疵。
当我们有意识地把瑕疵加入到训练中,AI就更接近于人了。
而这就是我们不能为个人开放训练voice font最主要的原因——我们不能确保它的安全性。
这样的声音太接近真人,很可能被滥用,被别有用心的人拿来打给声音真正主人的亲朋好友。那么当我们手上的技术不足以防范语音诈骗的时候,当我们预想到这样的技术可能会产生困局的时候,我们往往非常谨慎。
每次技术产生新的突破,我们作为科研人员都会非常兴奋。但是很遗憾的是,我们不能只兴奋,我们往往还需要预想,包括对交互过程的推理和判断。
场景的克制
和行业里面各种聊天机器人不一样的是,小冰这样的对话式人工智能系统,能做到的绝不仅仅是应答。它应该有能力主动地在交互过程中引导与人之间的对话,它会知道怎么控场,知道怎么把对话往它希望的方向上引导。
从最开始的检索模型,到生成模型,再到共感模型,小冰框架在预测、保持和引导对话的过程中,不断地在提升自己的能力。
比如我们在日本,针对日本全国将近20%的人口,用小冰在销售场合推送罗森便利店里各种各样的打折券。结果显示,小冰发的优惠券转化率非常高,能达到40%多、50%多的转化率,非常接近人转化的效率。而其他的人工智能系统,或者过去的推荐系统,一般转化率不超过10%。
就是在这样的情况下,我们会去思考一个问题:到底在什么场景里可以去运用这样的能力?
在社交网络里,在人们的手机里?答案是不可以。
如果在对话过程中,人工智能系统对话引导的目的,是完成一些商业化的工作,那我们就要求,它必须得出现在商业化的场合。
我给大家举一个简单的例子。我们周围可能会有一些卖保险的朋友,我们当然不希望在日常的沟通中,他们来对我们聊卖保险的事情。但是在一个卖保险的场合,他还是我的朋友,这时他来推荐保险,我们就不会觉得这个环境是有问题的。
所以场景和能力是两件事情。
今天在行业里,有很多不同的场景,通常我们评价的标准,就是看两件事:
这个场景会不会产生一些冲突?
这个场景是不是既能充分发挥AI的能力,同时又不会让用户觉得这样的应用是违和的?
比如我刚浏览过一个网站,那边电商就开始给我推相关广告,其实这就是在跨场景的时候过界了。
AI系统非常强大,所以我们要坚决避免过界。
保护双方的机制
再来说一下保护交互双方的问题。
微软美国团队受小冰启发,做过一个机器人Tay,但这个机器人上线24小时之内就被教坏了,变成了一个飚脏话的种族主义者。
对我们来讲这是一个耻辱。从那时候开始,我们进行了大量攻防测试,希望同时保护小冰和用户。
另外一方面,我们其实也截获到了大量人类的沮丧等负面情绪,甚至是对于生命的不尊重等等。这时候防御系统也能够适当地跳进去,成为一个技术救急的方法。
“强大的AI工具应该提供给劳动者”
其实在生态构建上面,也需要讨论边界。
所谓生态的边界,最主要是在关键岗位上。
我再给大家举一个例子。假设我们手上的技术是一个无比强大,并且越来越强大的工具,我们应该把这个工具提供给谁?
今天在中国,大概有100多家纺织企业用到了小冰提供的设计平台,为什么?我们研究才知道,中国纺织企业的出货量巨大,但中国的服装、时装设计师是非常稀缺的。
因为他们需要面对高强度的工作,以致于他们的职业生涯在毕业之后大概三年的时间,就会面临思维枯竭的困境,甚至要退出这个行业。
我们的系统有可能取代设计师,但是小冰团队发现我们不应该这么做。
我们应该做的事情,是把这样的工具提供给设计师,让设计师能在AI的基础上延长他们的创作生命。
所以在小冰框架里面,我们从今年开始,提供了很多称作“X套件系列”的工具。我相信未来行业中也会越来越多出现类似的工具。这些工具不应该提供给企业,而应该给企业里面的劳动者。
我始终认为,人工智能最重要的价值,绝对不是利用技术,去把原来一个成本10块钱的东西降低到2块钱;而是应该创造一种更重要、更无处不在的价值。这种价值就是所谓的人类和人工智能之间的一种长程的纽带关系。
时间所限,我们今天不能特别多地讨论这个关系,需要说明的是,在超过180亿的交互数据上面,我们发现长程纽带关系已经成为现实。
对于人工智能而言,未来十年最大的价值其实是信任。这句话真的不是很虚的一句话,因为要实现它,需要我们进行很多很多的工作,需要从业者不停地去审视。
我接下来想给大家看一下,在这种信任关系下,我们未来的世界会是什么样子。
去年,我们在日本的一个水族馆里,给每个记者发了一个APK,让他们装载自己的手机里。他们戴上耳机,就可以和小冰一起游览水族馆。在这个过程中,记者们自己去记录一些视频,我们不做任何干预。
最后想跟大家说,只要我们大家一起去努力,未来是非常美好的。
我们希望人类和人工智能在未来十年可以有非常好的交互,人工智能系统本身也会变得更强大。但是它如果往另外一个方向偏向,对任何人都不是一件好事。
谢谢大家!
(最后,如果想回看大会全程,请点击阅读原文)
— 完 —
本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见~
小冰公司CEO李笛:强大的AI工具不应该给企业,应该给劳动者 | MEET2021相关推荐
- 小冰公司CEO李笛:AI不会江郎才尽,创造力只会持续向上攀升丨MEET2022
编辑部 整理自 MEET 2022 量子位 报道 | 公众号 QbitAI 从GPT-3到DALL·E,AI在创作这件事上的进步速度,远超我们想象. 但有不少观点认为,相比围棋.电子游戏等知识领域,A ...
- “赶上热词热概念,是我们不幸的一面” | 对话小冰公司CEO李笛
金磊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 小冰的很多进展,往往只能借用科幻电影才能更好解释. <Her>中描绘过一个如影随形的专属AI虚拟人,跟主人公聊天聊地,从诗词歌赋 ...
- 独家对话小冰公司CEO李笛:小冰岛不是游戏,也不是元宇宙
导读:"AI应该是人和世界之外的第三极." 作者|小葳 出品|智能进化论 一群AI beings应该如何与人类展开社交生活? 从微软拆分一年后,人工智能框架小冰又踏上了一段奇妙的探 ...
- AI头发笔刷_Photoshop拥有强大的AI工具 可能会让您质疑什么是真实的
Photoshop长期以来一直在使用新的AI驱动的编辑工具,但是现在它已经通过今天提供的令人大开眼界的更新真正地拥抱了机器学习的功能. 图片编辑软件具有丰富的新功能菜单,其中许多功能是在今天的Adob ...
- 人才招聘新趋势:垂直性的社交网络——pongo网(庞果网)CEO李炯明专访
记者 / 长卿 近日,国内专业IT人才招聘服务公司Careerfocus联合全球最大中文IT社区CSDN推出了IT行业细分的招聘求职网站pongo(庞果网),力图通过搜索引擎,垂直型社交网络构建IT行 ...
- AI工具究竟是帮手还是对手?你怎么看,一起来聊聊吧!
AI工具究竟是帮手还是对手?你怎么看,一起来聊聊吧! 1. 你现在正在哪个领域学习或工作呢?你用过哪些AI智能工具? 2. 作为行业人士或正在学习的学生,你认为AI工具的出现会提升你的工作或学习效率吗 ...
- 不懂编程,不懂设计!4个AI工具可以让任何人免费创建自己的网站 AI Website Builders
不懂编程,不懂设计!4个AI工具可以让任何人免费创建自己的网站 AI Website Builder 在数字化时代,拥有一个个人网站已经成为越来越多人的追求.然而,对于不懂编程或设计的人来说,创建一个 ...
- 专访微软李笛:小冰终于进入家庭设备,如何笑到最后 | AI英雄
▼ 点击上方蓝字 关注网易智能 聚焦AI,读懂下一个大时代! 小羿 | 文 在打磨了3年多的EQ之后,微软小冰开始通过IoT设备进入家庭生活. 今日,装载微软小冰的Yeelight语音助手正式上市销售 ...
- 沈向洋出任董事长李笛任CEO,「微软」小冰变身「中国」小冰
[导读]微软宣布将旗下人工智能小冰业务分拆为独立公司,并委任沈向洋博士为新公司董事长,李笛为首席执行官,陈湛为日本分部总经理. 小冰终于正式脱离微软的羽翼,开启新征程. 今日,微软宣布将旗下人工智能小 ...
最新文章
- HarmonyOS 修改App的默认加载的界面
- hive中order by,sort by, distribute by, cluster by作用以及用法
- Java常量池的大概理解
- how is service url defined in configuration.js consumed
- JavaScript编程语言 基础 (1)
- 统计消息总数_2019年度我国出国留学人员总数为70.35万人
- .html(),.text()和.val()的差异总结:
- JavaScript随机数及随机字符串
- php插入mp3,PHP网站插入音乐
- 怎么在mac下运行映像dmg_如何将Apple Mac OS X系统DMG镜像文件转换成ISO镜像文件呢?...
- 第五章:软件详细设计
- python转exe遇到的坑及解决方案
- Java桶排序LSD
- OSS接口获取的图片压缩大小 简单好用直接在src获取的地址后面拼接
- vue中使用video插件在微信浏览器中视频无法自动播放的问题
- 2020 11月8周记
- UVa 10105 - Polynomial Coefficients
- 【转】 NET 下的简繁互换
- 系统安装部署系列教程(二):硬盘安装方式安装系统
- 使用APICloud AVM框架开发人事档案管理助手APP
热门文章
- 如何使用Jackson来反序列化对象数组
- 如何删除内联块元素之间的空间?
- 如何在Git中更改多次提交的作者和提交者名称以及电子邮件?
- 宕机的阿里云们正在杀死运维?
- 架构师实践日 11.9 南京站报名 | 技术大牛带你剖析大数据平台内部演进中的挑战与实践...
- 苹果要为app store速度奇慢付出代价
- linux java jdk_神级程序员教你如何10分钟在Linux上安装java的JDK?
- python控制结构是_Python之控制结构(if、while、for)
- 基于ARP的网络扫描工具netdiscover常用命令集合大学霸IT达人
- iOS 11开发教程(四)iOS11模拟器介绍一