科学家以寓言故事做为AI的道德学习

2019独角兽企业重金招聘Python工程师标准>>>

随着人工智能近年急速的发展，科学家不得不正视机器人可带来的危机。早前，网络大厂甚至与牛津大学连手，开始研究人工智能的死穴，为人类在危急关头准备后路。不过一班研究人员却从另一方向思考，探索是否可向人工智能教授道德标准，令他们明白是非对错。但他们同时必须面对一个重大的难题，究竟应如何断定这道德准则，由谁撰写这本「人生使用手册」呢?

人工道德标准

佐治亚理工学院互动计算学研究员马克·瑞得尔（Mark Riedl）和布兰特·哈里逊（Brent Harrison）认为他们设计的「唐吉诃德」系统或能解决这个问题。他们声称，唐吉诃德能籍着教导机器人读故事、从而学习事件的先后次序、并理解如何在人类社会表现正常，学习「价值准则」。「我们挑选的故事，搜集于不同文化，以寓言、小说和其他文学之中适当及不适当的行为为例，教会儿童被社会接受的行为。」瑞得尔解释：「我们相信当机器人理解这些故事后，将会变得更理智及更稳定，同时强化正确选择，让他们在不伤害人类的前提下完成任务。」当人工智能做出社会许可的行为时，唐吉诃德将会给予奖励，以此巩固它们的人性价值观。这项技术，是建基于瑞得尔之前的研究──「天方夜谭系统」上，天方夜谭系统研究人工智能如何利用群众外包（crowdsourcing）来搜集互联网上的故事情节，并排出正确先后次序。

学习过程

在论文中，瑞得尔和哈里逊讲述了如何使用唐吉诃德向人工智能教导人性价值。首先，他们使用天方夜谭来传达何为正常、「正确」的故事情节，然后传递给唐吉诃德，转化为「奖励讯号」，在试验探索中，强化正确行为及惩罚错误行为。比方说，一个机械人的任务是尽快获取紧急药品。这个机械人可以选择取药不付钱离开、友善的跟药剂师交流、或是排队等待。若没有唐吉诃德提供的价值准则和赏罚分明的制度，机械人就会直接拿「霸王药」。若耐心等候，唐吉诃德则会给予奖励，以保证机械人遵守人性价值。研究人员表示，唐吉诃德技术最适合那些用途有限，但需与人类交流完成任务的机器人，声称这是迈向建立人工智能道德思维的第一步。「我们认为人工智能一定要培养某种社会价值观，这样才能尽力避免不被接受的行为。」瑞得尔说：「让机械人阅读和理解我们的故事，也许便是最适宜的『人生使用手册』。」

转载于:https://my.oschina.net/u/4024424/blog/3004561

科学家以寓言故事做为AI的道德学习相关推荐

360金融首席科学家张家兴：只靠AI Lab做不好AI中台 | 独家专访
「AI 技术生态论」人物访谈栏目是 CSDN 发起的百万人学 AI 倡议下的重要组成部分.通过对 AI 生态顶级大咖.创业者.行业 KOL 的访谈,反映其对于行业的思考.未来趋势判断.技术实践,以及 ...
你选择做哪只青蛙：三只小青蛙与牛奶桶的寓言故事
三只小青蛙与牛奶桶的寓言故事有个牧人将刚挤的一桶鲜牛奶放在墙下,墙上有三只小青蛙打闹时不小心全部掉进了奶桶里.就这样三只小青蛙游也游不动,跳也跳不起. 第一只青蛙说:"难怪早上眼皮就在跳, ...
Siri和Alexa背后的女科学家逝世，是她让AI有了女声
萧箫发自凹非寺量子位报道 | 公众号 QbitAI "嘿Siri,你能帮我做点什么?" "--" Siri的"甜美女声",现在已经司 ...
一张照片生成积木的你！5个在校生2个月做的AI项目，李开复看了赞不绝口
郭一璞发自创新工场量子位报道 | 公众号 QbitAI 一个AI创业的idea,做了两个月,就可以商业化啦? 创新工场今年的DeeCamp,就是这种画风,简直办成了创业大赛. 两个月的时间,这 ...
scratch传说之下素材_《故事新编》：在古老传说和寓言故事上丰富情节和赋予意义...
鲁迅是如何写小说的呢? 他在<我怎么做起小说来>一文中这样说:"所写的事迹,大抵有一点见过或听到过的缘由,但决不全用这事实,只是采取一端,加以改造,或生发开去,到足以几乎完全发表 ...
寓言故事：一对父子进城赶集。谈“走自己的路，让别人说去吧”的重要性
有这样一则寓言故事: 古时候,一对父子进城赶集. 父亲骑驴,儿子牵着驴走. 路人指责道:"好狠心的父亲,自己骑驴,却让儿子走路." 父亲听到心里不是滋味,便让给儿子骑驴,自己走路. ...
DevOps 漫谈:从作坊到工厂的寓言故事
2019独角兽企业重金招聘Python工程师标准>>> 转变主要不是基于自动化,相反,这种不可思议的改进来自于调整关于工作系统的策略和控制半成品的策略,确保有一个高效的跨职能团队,让 ...
比较深奥的爱情寓言故事
比较深奥的爱情寓言故事日葵公主是在河东岸边遇见驴的.驴是黑色的,但白嘴白肚白蹄. 驴说他会说话,驴说他是美驴. 公主想过河去,河西的城堡里有等着娶她的王子. 河不算深,但她穿着一身美丽的嫁衣,她怕河 ...
4个寓言故事，看懂非授权频谱监管
4个寓言故事,看懂非授权频谱监管 2017-12-13,国家无线电管理局(简称:无管局)发布一份<微功率短距离无线电设备技术要求(征求意见稿)>,这是国家监管非授权谱频的里程碑事件.我设计 ...

科学家以寓言故事做为AI的道德学习

科学家以寓言故事做为AI的道德学习相关推荐

最新文章

热门文章