人工智能面临的主要威胁是对最终失去实际控制人工智能能力的恐惧

　　2015 年，博斯特罗姆讨论了一个场景，其中向 AI 机器展示了让人们微笑的任务。我们可能会想象计算机给我们讲笑话，并努力理解使人们变丑的事物类型。
　　然而，一台超级智能机器会毫不费力地找到一种更简单但更险恶的方式来让人微笑，使用电极迫使我们的面部肌肉收缩成永久的微笑。
　　关于人类给 AI 的命令，博斯特罗姆强调需要非常具体，使用格言“小心你想要的”。他将漫不经心地指挥超级智能的行为比作贪婪的迈达斯国王的故事，他无知地希望他所接触的一切都能变成金子。国王如愿以偿，悲剧降临在国王身上，因为他的食物甚至他心爱的女儿都变成了黄金。
　　希腊神话迈达斯国王点石成金，连他的女儿也没逃离那双欲望之手
　　人工智能面临的主要威胁是人类欲望的意外后果以及对最终失去实际控制人工智能能力的恐惧。博斯特罗姆认为，人工智能将达到人类完全无法理解的智能水平。
　　这种类型的人工智能可以预测并防止人类试图摧毁或“拔掉”它。如果这种情报在军事破坏工具、医药、发电厂甚至农业生产中发挥作用，它将对人类拥有巨大的力量。
　　人工智能伦理体系可以防止不可想象的事情
　　在创造很快就会变得比人类更聪明的技术时，我们有巨大的责任确保它对人类也是安全的。鉴于尚未发现后奇点世界，这是一项具有挑战性的任务。所以博斯特罗姆转向他的哲学知识来寻找答案并帮助发展人工智能的伦理。
　　博斯特罗姆建议，创造人工智能来理解人类价值观对于确保我们的安全至关重要。但由于人类情感的复杂性和文化差异性，输入单行代码来教超级智能机器人人类关心什么，几乎是不可能的任务。
　　因此，这个问题的一个潜在解决方案是，通过优先考虑学习人类价值观的计划对人工智能进行编程。随着人工智能学会重视人和他们最珍视的事物，人类可以享受这项技术带来的好处。
　　然而，在它存在之前，我们不会真正了解，它将如何改变我们所知道或理解世界的所有方式。

人工智能面临的主要威胁是对最终失去实际控制人工智能能力的恐惧相关推荐

企业应用人工智能面临的挑战
简介:近十年里,围绕人工智能的讨论掀起了轩然大波,不仅是大型企业,还有中小型企业,都给予了更多的关注. 近十年里,围绕人工智能的讨论掀起了轩然大波,不仅是大型企业,还有中小型企业,都给予了更多的关注. ...
云服务器面临的问题_无服务器安全面临的多方面威胁以及我们应如何应对
云服务器面临的问题 by Yan Cui 崔燕无服务器安全面临的多方面威胁以及我们应如何应对 (The many-faced threats to Serverless security, and ...
工业控制系统所面临的安全威胁
年新增漏洞严重程度分析因本文收集处理的公开漏洞基本上都被 CVE 所收录, 所以本文在分析这些漏洞的严重性时,将主要根据 CVE 的 CVSS 评估值①来判断,并划分为高.中.低三种情况. 根据图 ...
关键信息基础设施面临的安全威胁
声明本文是学习360 全球关键信息基础设施网络安全分析报告. 而整理的学习笔记,分享出来希望更多人受益,如果存在侵权请及时联系我们第二章关键信息基础设施面临的安全威胁本章将主要参照国际上划分关 ...
当下数据中心业务面临哪些重大威胁？
行业专家在展望数据中心发展趋势时,通常会关注未来采用的技术.提高数据中心效率的方法,以及如何为业务计划制定更好的设计方案. 但是,他们可能很少讨论数据中心几乎每天面对的威胁.调研机构AFCOM最新发布 ...
下面不是计算机网络面临的主要威胁是,网络安全复习题2
计算机网络安全复习题2 一.单项选择题 1.下面不是计算机网络面临的主要威胁的是( B ) A.恶意程序威胁 B.计算机软件面临威胁 C.计算机网络实体面临威胁 D.计算机网络系统面临威胁 2.密码学 ...
信息系统面临的安全威胁
信息系统面临的安全威胁来自于物理环境.通信链路.网络系统.操作系统.应用系统以及管理等多个方面. 物理安全威胁是指对系统所用设备的威胁,如自然灾害.电源故障.数据库故障和设备被盗等造成数据丢失或信 ...
金融行业应用区块链技术面临的安全威胁与防范
近年来,区块链技术被广泛关注.很多金融企业已经开始探究将区块链技术应用在跨国转账.证券交易.智能资产等领域.将区块链技术应用到金融行业,应该认清其特殊的安全需求,以准确把握其安全风险并设计完备的应对方 ...
TAPA认证咨询，TAPA的安全标准着重解决高科技产业供应链中普遍面临的安全威胁
TAPA是科技资产保护协会Transported Assets Protection Association的英文简称.它是由各类电子和半导体制造商.高科技产业.货物运输业.和专业咨询公司的代表成立了 ...

人工智能面临的主要威胁是对最终失去实际控制人工智能能力的恐惧

人工智能面临的主要威胁是对最终失去实际控制人工智能能力的恐惧相关推荐

最新文章

热门文章