反对将AI用于“自主武器”公开信：Stephen Hawking、Elon Musk，以及多位人工智能专家署名...

《编者按》：本文是人工智能科学家和科技界名人反对将AI用于“自主武器”的公开信，在Hacker News上已经讨论得相当热烈。发起者包括：斯蒂芬·霍金（Stephen Hawking）、特斯拉CEO Elon Musk，以及一批当今最著名的AI和机器人领域专家。全文信如下：

自主武器（Autonomous Weapons）不需要人力介入便可自主攻击目标物，例如：武装四轴飞行器能根据预定规则搜索并伤害人类。自主武器并不包括寻航导弹、或是能让人类对攻击目标拥有所有决策权的远程飞行器。

近些年，人工智能技术的发展已令部署这类系统变得极尽可能，假如没有法律制约，未来几年（不是几十年内），自主武器会极具威胁：这是继火药和核武之后的第三次武器革命。

关于自主武器的争论已经颇多，例如通过机器取代军人可以减少伤亡，但这也降低了战争的门坎。对人类而言，核心的问题是，在今日，我们是否要让全球加入人工智能的武力竞赛，还是该防止它的发生。如果任何主要的军事武力都借由人工智能持续发展与进行，全球武力竞赛将是必然发生，结局亦相当明显：自主武器将成为明日的AK步枪。

因为人工智能不像核武需要庞大成本，它几乎零成本，更不需担心原料难以获取，不仅廉价，而且处处可以复制。这些武器出现在黑市甚至恐怖份子的手中，只是时间的问题。自主武器很可能用于暗杀、颠覆政权、镇压、种族屠杀，我们相信将AI用于武力竞赛绝不利于人类。

如同大部分的生物学家与化学家对于生物武器不抱兴趣，大部分的人工智能研究者，也对将人工智能用于武器不感兴趣，而且更不希望因为其他人这样做而玷污了人工智能的领域。甚至可能造成大众舆论对人工智能的强烈反对，而扼杀了它未来能带来的社会贡献。其实，化学家和生物学家大体上支持国际共识，已成功地禁止了化学和生物武器，如同大多数物理学家对禁止太空核武和激光致盲武器条款的支持。

总而言之，我们相信人工智在很多方面能对人类利益有极大的潜力，而这个领域的目标应该就是要如此。展开军事上的人工智能竞赛是个糟糕的想法，应该要在法律上禁止自主武器超越人类意志的控制。

署名：Stephen Hawking、Elon Musk、Steve Wozniak、Stuart Russell、Peter Norvig、Yann LeCun等。

点击原文

照片为斯蒂芬·霍金（Stephen Hawking），其他连署人还包括：苹果电脑共同创办人沃兹尼亚克（Steve Wozniak），以及学界知名教授Stuart Russell、Yann LeCun。

反对将AI用于“自主武器”公开信：Stephen Hawking、Elon Musk，以及多位人工智能专家署名...相关推荐

中国人工智能AI框架自主研发
中国人工智能AI框架自主研发中国AI界争相构建AI开源框架的背后,技术和业务层面的考量因素当然重要,但也不应忽视国家层面的政策支持.对于AI基础设施的建设,中国政府在<新一代人工智能发展规划& ...
(转)当AI变成宣传武器：继续深扒大数据公司Cambrige Analytica
当AI变成宣传武器:继续深扒大数据公司Cambrige Analytica 原创 2017-02-27 造就造就导语:2016年美国大选已然结束,但武器化的AI宣传机器只是刚刚兴起,它代表的是一个 ...
杀人无人机：AI控制的武器杀人有多容易？这个视频会告诉你
来源:ATYUN AI平台 Stop Autonomous Weapons(停止自主武器)组织近日在youtubee上发布了一个短片,强调了自主武器的危险性.短片旨在通过民众说服各国停止研发自主武器, ...
又被 AI 抢饭碗？2457 亿参数规模，全球最大中文人工智能巨量模型 “源1.0”正式开源...
作者 | 伍杏玲出品 | AI科技大本营(ID:rgznai100) 输入: 昔我往矣,杨柳依依. 今我来思,雨雪霏霏. 行道迟迟,载渴载饥. 我心伤悲,莫知我哀! (以战争为题写一首诗) 回复: ...
AI Vision全球开发者项目合作计划产品发布会顺利举办，物联网人工智能机器视觉行业代表参会
4月18日上午9点,维视智造联手英特尔在西安丽思卡尔顿酒店举办了"2021 AI Vision 全球开发者项目合作计划人工智能产品发布会".会议邀请了物联网.人工智能.机器视觉等行 ...
象棋的ai的视线_隐藏在视线中的“未来”技术：人工智能
象棋的ai的视线 by James Hsu 由徐H 隐藏在视线中的"未来"技术:人工智能 ("Future" Tech That's Hiding in Pla ...
在AI领域每月投资一次，全面解析腾讯的人工智能奇招
https://www.toutiao.com/a6677093107378422280/ 近些年来,人工智能成为最热门的概念,从李世石大战阿尔法狗开始,人工智能在各个领域开始崭露头角. 又正逢Fin ...
AI：2020年WAIC世界人工智能大会2020年7月9日9:30-12:00开幕式《李彦宏、Elon Musk、马云等大佬演讲》
AI:2020年WAIC世界人工智能大会2020年7月9日9:30-12:00开幕式<李彦宏.Elon Musk.马云等大佬演讲> 导读:大会开幕式由政府领导.顶尖科学家和知名企业家等演讲 ...
人工智能专家细数AI安全隐患
在AlphaGo打败了世界围棋冠军之后,越来越多的机器人成为了我们的同事.人们不禁会想,AI的超强大脑最终会不会战胜人类?在面对机器人中的"坏人"时,谁才会成为网络安全的终极守护者 ...

反对将AI用于“自主武器”公开信：Stephen Hawking、Elon Musk，以及多位人工智能专家署名...

反对将AI用于“自主武器”公开信：Stephen Hawking、Elon Musk，以及多位人工智能专家署名...相关推荐

最新文章

热门文章