决不允许AI杀人武器研发!马斯克领衔2400名科学家签署联名宣言
允中 发自 凹非寺
量子位 报道 | 公众号 QbitAI
从产能“地狱”归来的马斯克,刚刚领衔2000多名AI专家签署了一份特殊协议。
这份协议核心目的有且只有一个:承诺永不发展致命的AI武器系统。
在瑞典斯德哥尔摩举行的IJCAL 2018上,由MIT著名物理学家Max Tegmark发起,其任职主席的生命未来研究所(Future of Life Institute,FLI)起草,该协议一经发出就应者如云。
包含企业领域的马斯克、DeepMind联合创始人哈萨比斯、穆斯塔法,Shane Legg;Skype创始人Jaan Tallinn;全球顶尖AI学者Yoshua Bengio、Stuart Russell、Jürgen Schmidhuber等2400全球AI科学家,都郑重签下了大名。
就国籍和企业归属而言,他们分属90个国家、160多家AI企业或机构。
这也是全球首个AI武器系统开发的民间反对组织,不出意外,也将是影响力最大的一个。
《致命性自主武器宣言》
这份协议全称《致命性自主武器宣言》(lethal autonomous weapons pledge),核心内容就是宣誓不参与致命性自主武器系统(LAWS)的开发、研制工作,而且LAWS的研发及使用应当被严格禁止。
宣言称:人类个体生死的决定权,决不能交给机器。这一方面是出于道德层面的考虑,“掌控他人生死”这件让人产生负罪感的事,绝不能由没有感情的机器做出。
而且致命的AI武器,不受人类干涉、自主选择攻击目标,可归责性与难度都前所未有,它们将成为暴力活动中的强大工具,尤其是与监控、数据系统相结合时。
宣言还强调:致命性自主武器的特征不同于核武器、化学武器及生物武器,研发团队可以单方开启军备竞赛,而国际社会缺乏实行管制的技术手段。谴责并避免这场军备竞赛,是维护全球安全的优先考虑事项。
所以今日签署之协议,也是呼吁各国政府及首脑为了地球的未来,共同商议抵制LAWS的国际规范、法律。
“我们这些未参与LAWS的人,需要以更高标准要求自己:我们绝不参与或支持LAWS的发展、生产、贸易与使用。我们呼吁科技企业、组织及其领袖、决策者与其他民众,共同履行该承诺。”
军方加速、学界反对、企业夹心
AI致命的话题,早已不新鲜。
在AI的所有应用场景中,这是最具争议的一个,而且由于不同组织怀抱不同利益诉求,状态非常尴尬。
在军方,自主武器从2013年开始就开始在美国、英国、以色列和韩国等军方实验室中诞生。
区别于其他武器,致命性自主武器,能够在无人控制情况下,自主完成寻找目标、定位、击杀敌人这一整套工作,而AI系统和技术应用,是这些武器最强大的“驱动力”。
一旦将这些武器派上战场,它们就能自主辨别敌人并给出致命一击,没有情感,没有更多判断,人类的生死权,在机器眼里就是二元的“敌人=死亡”。
然而硬币另一面,这些武器也不是没有可能落入反派之手,或者被恶意指定攻击目标,结果也就不堪设想。
于是从AI致命武器出现开始,舆论反对的声音就未曾停歇。
在科学界,斯蒂芬-霍金、马斯克等知名人士早在2015年就联合千余名AI学者、科学家等向联合国提交过联名公开信,警示AI致命武器潜在风险,以及正在发生的军备竞赛,呼吁颁布相关禁令。
目前为止也有了一些初步结果。在2016年联合国《常规武器公约》审议大会上,AI致命武器首次被纳入讨论范围。
其后今年4月举行的最近一次会议上,包括中国在内的26国发表联合声明,支持对AI致命武器颁布禁令。
这一禁令已有先例:此前,出于人道、伦理原因及潜在的危害性,联合国已经对生物武器、化学武器及太空武器颁布禁令。
但是,正式的AI致命武器国际公约,现在仍未达成共识。
而且还将不少企业拖入军方和科研拉锯战的夹心层中。
今年4月,先是韩国国防公司Hanwha Systems和韩国科学技术院联合建立国防和AI融合研究中心,遭遇全球50多名AI知名学者联名抵制。
其后谷歌AI参与美国国防部的MAVEN军事计划曝光,一时让这家“人类希望”公司内外交困,几乎被骂成“筛子”,3000多名员工联名抗议,不少员工选择离职。
最后在遭受猛烈抨击之后,谷歌推出了新准则,作为公司研发AI技术的道德指导。
准则中称,不会将人工智能设计或应用于武器、监视或“其目的违反了广为接受的国际法和人权准则”的技术。
然而谷歌并非个例。微软、亚马逊等巨头与政府相关的AI合作也相继被曝光,在运用人脸识别进行身份监控等问题上,舆论、股东和员工抗议始终没有停止。
还可以肯定的是,随着AI技术的进一步成熟和各领域应用,权力所求、利欲熏心,争议必然还会始终存在。
AI杀人武器模拟
最后,放一段最近很火的视频。
艺术家Alexander Reben最近放出了一段视频,也许这可以看成是行为艺术吧。
在这段30秒的视频里,Reben没有动手,但是语音发出了一个命令:“OK Google,开枪”。
不到一秒的转瞬之间,Google Assistant人工智能助手,扣动了一部手枪的扳机,击倒了一颗红苹果。随即,蜂鸣器发出刺耳的嗡嗡声。
嗡嗡声持久不绝。
到底是谁开了枪?
在这个案例中,Reben告诉AI开枪。Engadget在报道中说,如果AI足够智能以预测我们的需求,或许有一天AI会主动除掉那些让我们不开心的人。
Reben说,讨论这样一个装置,比是否存在这样一个装置更重要。
作者系网易新闻·网易号“各有态度”签约作者
— 完 —
活动报名
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
决不允许AI杀人武器研发!马斯克领衔2400名科学家签署联名宣言相关推荐
- 不造AI杀人武器当然好,但牛津学者觉得马斯克们忽略了重点
圆栗子 发自 凹非寺 量子位 出品 | 公众号 QbitAI 上个星期,马斯克 (Elon Musk) 刚刚带领一众AI专家,签订了一份承诺书. 内容是,永不开发自主杀人武器 (Lethal Aut ...
- 中国人工智能AI框架自主研发
中国人工智能AI框架自主研发 中国AI界争相构建AI开源框架的背后,技术和业务层面的考量因素当然重要,但也不应忽视国家层面的政策支持.对于AI基础设施的建设,中国政府在<新一代人工智能发展规划& ...
- 10万元奖金助力AI加速药物研发!小分子预测大赛来啦
人类与新型冠状病毒所引发的疫情(COVID-19)已战斗多日,针对病症是否有相应的特效药物也成为了公众关心的重点.同时,我们知道,药物研发过程是极为浩大,严谨的科学研究,例如目前正处于临床验证阶段的瑞 ...
- AI助力新药研发 腾讯发布「云深智药」平台
在上海举办世界人工智能大会前夕,腾讯公布了进入药物研发领域的两项最新进展.在应用侧,腾讯发布首个AI驱动的药物发现平台「云深智药(iDrug)」,整合腾讯 AI Lab和腾讯云在前沿算法.优化数据库以 ...
- 用AI变革新药研发,终极目标是延缓衰老,这家创业公司迎来“里程碑”
编者按:新药研发的过程是一个耗资大.周期长以及风险高的行业,传统的药物研发据统计,平均研究每一个新药从靶点发现到药物上市需要大约10年的时间和需要大约20亿美元的研究经费. 如今,人工智能正在改变这一 ...
- 品钛研究院专访品钛执行副总裁李惠科:AI商用的研发与落地
采访整理| 品钛研究院 舒典 随着人工智能(AI)技术在各行各业应用,人们开始习惯于智能新闻推送.文本识别.刷脸支付.移动信贷等各类功能,越来越多场景也趋于智能化.科技公司在云计算.大数据等人工智能技 ...
- AI一分钟 | “钢铁侠”马斯克冒冷汗直面跳票尴尬;Apollo2.0确定下个月初出征美国,李彦宏发力全球梦
一分钟AI 马斯克Twitter例行明体察民情,尴尬地请大家继续等待Autopilot 2.0,和升级的Linux OS系统. Apollo2.0将揭开面纱!百度组建Apollo自动驾驶"国 ...
- 斩获23项冠军,日均调用破万亿!百度交出年度AI成绩单:语音语言领衔技术突破,国产自研成大趋势...
乾明 雷刚 发自 凹非寺 量子位 报道 | 公众号 QbitAI 刚刚,百度一年AI成绩单官宣. 作为中国AI头雁,百度的成绩单不止代表巨头公司业绩,也代表了技术前沿现状和产业基本情况. 而且诸多进 ...
- FDA转向AI加快药物研发和审批速度
人工智能(AI)和机器学习行业正以惊人的速度增长,医疗保健专业人员越来越多地转向使用AI来改变患者的体验和护理质量.在制药行业,人们有兴趣实施AI驱动的解决方案以发现新药并加快将其推向市场的速度.美国 ...
最新文章
- 李开复:发明期已过,AI科学家创业需谨慎(附演讲视频)
- 点到点链路的滑动窗口协议
- android handler 的removeMessages的使用
- 此计算机必须为委派而被信任_实际利用Kerberos Bronze Bit漏洞绕过委派限制(CVE202017049)...
- 提升访问github.com网址的速度
- java线程服务器_一台Java服务器跑多少个线程
- bzoj1088 [SCOI2005]扫雷Mine
- SQL SERVER 2005 批量收缩数据库
- java 将ofd转为pdf(代码简单)
- win10 快捷键大全(集合)
- CentOS 搭建自主 KMS服务器 激活内网机器
- Kettle5.2 Carte.bat 页面中文乱码
- 2021安居育才中学高考成绩查询,育才中学2017高考成绩
- python自动获取cookie_python如何获取cookie
- Mac-如何在任意文件夹下打开终端
- centos7安装elasticsearch7
- 《无人驾驶车辆模型预测控制第一版》第五章代码(下)
- 编写一个程序,输入一个正整数,并做以下运算:如果为偶数,除以2,如果为奇数乘3加1.得到结果按上述要求,直到最后结果为1,一共要经过多少次这样的运算才得到数1
- 实时系统vxWorks - zynq7020移植vxWorks
- UI设计中switch开关设计总结
热门文章
- 天才少年创世纪:从创建应用程序,到被哈佛录取、登上头条
- java点击图片发出声音_Java 中图片和声音文件的加载
- J2EE的核心API与组件
- cad在线转换低版本_别再傻瓜式操作了,工作效率上不去?这6个小技巧带你玩转CAD...
- mysql分布式插入_添砖加瓦:MySQL分布式部署
- 二维数组各行求和_JS数组reduce()方法详解及高级技巧
- mysql服务器 配置文件,服务器上mysql编码配置文件
- 联想e540风扇清灰_实力强劲无惧挑战,联想异能者就是这么强悍
- dll domodal运行时异常_解决装备疑难,计算机丢失***.dll文件方法「设计画圈」
- loinc编码_通用检验编码系统(Universal Laboratory Test Code System)于香港电子健康纪录计划的应用...