Google着手与 Open AI 合作预防人工智能暴走
看到许多科技都出自科幻电影，其实科学家也没有忽视那些来自各方对于 AI 人工智能的担心与警示。现阶段两家主要领导公司 Google DeepMind 及由 Elon Musk 联合创办的 Open AI，已认知到与其要等 AI 发展到威胁人类的程度才做出动作，不如从一开始就避免并解决这样的问题。决定携手合作找到方法来预防机器人带来令人感到意外的各种不好结果。
两间公司在「强化学习（reinforcement learning）」的实作中，发现有时候 AI 会找到在人类眼中是几近作弊的不好方式，来达到最好的成绩。Open AI 以竞艇游戏 CoastRunners 7 为例，人工智能在进行强化学习时发现自己与其快速完成赛事，倒不如一直原地打转还能获得更高的分数。着实让打造这个 AI 的创作者感到十分讶异。
而为了避免这样不符合人意的事情一再发生，两间公司让 AI 在寻求解答的过程时，可以先寻求人类的意见验证结果而非自行解决（这解决真的是各种含义啊...）。决定要利用类似奖励制度来让人工智能更贴近人心，并且更为安全。
虽然听起来真的令人安心很多，但比较麻烦的是为了提供足够「贴心」的意见，人类将需要投注相当心力在担任导师之上。像在一个简单的后空翻模拟程序之中，人类就需要提供约莫 900 次的建议，而在简单的小游戏上则是需要数千次的程序。不过，花费时间总比一个不小心就让 AI 毁灭世界的好啰，但另一方面，也很难讲哪天人类会因为自己想抄捷径而破除这些限制就是了...
本文转载自：http://www.linuxprobe.com/google-openai-prevent.html
免费提供最新Linux技术教程书籍，为开源技术爱好者努力做得更多更好：http://www.linuxprobe.com/
Google着手与 Open AI 合作预防人工智能暴走相关推荐
- 新加坡推出人工智能计划AI.SG 迎战人工智能和数据科学关键难题
新加坡政府为解决新加坡面临的挑战正在转向人工智能(AI)和数据科学,日前引入了新的举措和解决方案以推动这些行业的发展. 新加坡的国家研究基金会(NRF)是总理办公室下属的一个部门,NRF将在五年内投资 ...
- Amazon、Google、 Microsoft和IBM如何将人工智能作为一项服务出售
译者:李凌 概要:Alphabet.Amazon和Microsoft这几家公司都发现,在产品中植入人工智能后能让产品变得更加优秀,他们可以将这种做法转变成一项服务,然后作为一种基于蓬勃发展的云计算业务 ...
- 微软AI实力秀：调侃Google吹牛；免费AI课程上线
问耕 发自 凹非寺 量子位 出品 | 公众号 QbitAI 微软今天在北京秀了一下AI实力. 这家老牌科技公司,现在到底有什么黑科技?在大会现场,展示了微软AI小冰和人类打电话的实力.还有锥形的AI开 ...
- [2021时空AI白皮书]时空人工智能：城市数字化转型的新引擎
时空人工智能:城市数字化转型的新引擎 1.1 概念定义[ws1] 时空人工智能(Spatio-Temporal AI)是人工智能领域的新型创新应用技术,旨在以时空为'索引'对多源异构数据进行时空化治理 ...
- DXC Technology和Google Cloud宣布缔结全球合作关系，共同推动企业大规模创新
此次合作将在Google Cloud Platform上提供企业级云支持解决方案 弗吉尼亚州泰森斯--(美国商业资讯)--DXC Technology (NYSE: DXC)今日宣布与Google C ...
- 10位女性大咖谈AI安全：人工智能需要尽快制定规则
10位女性大咖谈AI安全:人工智能需要尽快制定规则 2014年,特斯拉创始人Elon-Musk发布了一个Twitter--"人工智能可能比核武器更危险",顿时引发行业热议,扎克伯格 ...
- 滴滴成立AI Labs 加大人工智能领域投入
1月26日 AI 科技大本营消息,滴滴出行宣布成立AI Labs(人工智能实验室),以加大人工智能前瞻性基础研究,吸引顶尖科研人才,加快推进全球智能交通前沿技术发展. (滴滴出行在总部宣布成立AI L ...
- AI：《人工智能+制造(智能制造)产业发展的现状、影响、+互联网、未来展望》演讲听课笔记
AI:<人工智能+制造(智能制造)产业发展的现状.影响.+互联网.未来展望>演讲听课笔记 目录 人工智能+制造"产业发展研究报告 1.人工智能+制造的现状 1.1.为什么要研究& ...
- Competition——AI：国内外人工智能比赛平台以及竞赛类型、竞赛题目、举行时间等之详细攻略(最全+ing)
Competition--AI:国内外人工智能比赛平台以及竞赛类型.竞赛题目.举行时间等之详细攻略(最全+ing) tips (1).可以在各大比赛平台指定的讨论区,或者github网站上,找到历届选 ...
最新文章
- 升级EXCHANGE2010到2013（A）
- 设计模式中必须知道的一些原则
- SpringBoot集成Redis实现排行榜
- oracle like 条件拼接
- xp系统没有服务器时间,WinXP系统时间无法同步网络时间连时区也不显示的解决方法...
- winform模拟鼠标点击
- 使用免费ip代理进行投票
- CVPR(IEEE Conference on Computer Vision and Pattern Recognition)
- java设计平台是什么_Java程序设计平台
- 页面之间传输大量数据
- SQL Server 2005 分页SQL
- 除了工作怎么交朋友_“四步复盘法”，为你的工作加持！
- OpenJDK 64-Bit Server VM warning: INFO: os::commit_memory(0x000001faf3e50000
- 中国蟹养殖和捕捞现状分析，淡水养殖产量占比最高「图」
- [英语语法]词法之形容词
- 扬州大学计算机专业考研分数,扬州大学考研分数线
- DOOM之父约翰·卡马克
- 用C++写一个简单小病毒(零基础奶妈级教学，不可能学完还不懂)
- 人工智能作业 八数码启发式搜索与bfs比较
- mongodb的安装与配置