联合国召开会议讨论“杀手机器人”问题
来源:中国科学报 作者:赵熙熙
来自29个国家的57位科学家日前呼吁联合抵制一所韩国大学,因为设立在该校的一个新的中心旨在利用人工智能强化国家安全。人工智能科学家表示,该大学正在开发自主武器,又称“杀手机器人”,而该大学官员则表示,这项研究的目标是改善现有的防御系统。
2月20日,位于大田的韩国先进科学技术研究院(KAIST)庆祝其新的国防和人工智能融合研究中心成立。一个已经被该校删除的网页宣称,将与韩国韩华系统公司联合运营该中心,其目标是“基于人工智能的命令和决策系统,为海底大规模无人驾驶机器人提供组合导航算法,基于人工智能的飞机训练系统,和基于人工智能的对象跟踪与识别技术”。
人工智能迅速发展给社会各个领域带来深远影响,对军事作战系统研发也带来全新理念。然而,人工智能界的专家学者及防务分析人士认为,机器人暴动仅是科幻小说式的终极噩梦,军事机器人革命带来的伦理、法律及政策等问题,尤其是自主武器能否自行判断杀敌与否,才是人们亟须担忧和讨论的现实问题。
澳大利亚悉尼新南威尔士大学计算机科学家Toby Walsh发起了这次抵制活动,他担心这项研究将被应用于自主武器,包括无人驾驶飞机或潜艇、巡航导弹、自主操作的防卫机枪或战场机器人。
“令人遗憾的是,像KAIST这样的知名机构似乎在加速军备竞赛,以开发这种武器。”抗议者在一封公开信中这样表示,“因此,我们公开宣布,我们将抵制与KAIST的任何部门进行合作,直到KAIST的院长作出保证——我们一直在寻求但没有得到,该中心将不会开发缺乏有意义的人类控制的自主武器。”
KAIST院长Sung-Chul Shin准备了一份声明,排除了开展此类活动的可能性。他说:“我很难过地听到有人宣布因为要研制杀手机器人而抵制KAIST。我想重申,KAIST并不打算参与开发致命的自主武器系统和杀手机器人。在应用包括人工智能在内的所有技术方面,KAIST都清楚地意识到伦理问题。”
这封抗议信并没有定义何为“有意义的人类控制”,但这句话经常被解释为把扳机放在一个人的手里。联合国《特定常规武器公约》政府专家小组4月9日在瑞士日内瓦召开会议,预定讨论致命自主武器系统研发,也就是常说的“杀手机器人”可能带来的影响。
Walsh说,他对Shin的声明感到振奋。“很高兴看到KAIST首次公开承诺进行有意义的人类控制。这将增加联合国讨论的分量。”
新美国基金会研究人员、防务政策分析人士辛格在其著作《连线战争:21世纪机器人革命和冲突》中指出,地缘政治、知识前沿领域不断前进的动力甚至是追求利益的科技企业,都是人工智能发展不可阻挡的力量。简单来说,大部分人现在最感到恐惧的是该不该让能够“思考”的人工智能系统决定是否杀人。
新美国安全中心技术和国家安全项目主管沙雷表示,自主武器系统可能因代码问题或黑客攻击而失灵,机器人攻击人类部队,人类无法作出反应或局部局势迅速升级的情况都有可能发生。
美国亚特兰大市佐治亚理工学院计算机科学家Ronald Arkin说,由于在一个实验室里可能发生的研究而抵制整个大学在我看来似乎“有点极端”。
同时,一封公开信已在美国谷歌公司内部流传数周,超过3000名谷歌员工签名要求公司退出一项美国五角大楼人工智能军事计划。
美国五角大楼“梅文计划”始于2017年,旨在找到加速军方应用最新人工智能技术的方式。尽管五角大楼和谷歌都表示,谷歌的产品不会创造出无须人类操作者就能开火的自主武器系统,但谷歌员工在公开信中说,参与“梅文计划”将对谷歌的品牌和人才吸引力造成不可挽回的伤害,谷歌不应被卷入战争,谷歌及其合约商永远不应该发展战争科技。
未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。
未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。
如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
联合国召开会议讨论“杀手机器人”问题相关推荐
- 联合国曝光,杀手机器人来了,这可能是你见过最恐怖的视频...
shellcing注:马斯克和老霍的担忧是有道理的,还有那位早早躲避到深山的Facebook高管.如若不能提前研究预防技术,将来真的会超出想象地恐怖,也许带来的灾难不亚于核武器的扩散.尖端科技从来都是 ...
- 军用杀手机器人,人类的救星还是魔鬼?
"小蜜蜂"杀人机器人蕴含的黑科技 想象一下,在一个安静的大学教室,学生们都在各自的座位上惬意的自习. 突然,一群小如蜜蜂的不明飞行物从窗户.门缝蜂拥而入,他们盘旋在教室上空,似乎在 ...
- 大数据早报:联合国曝光杀手机器人,这可能是你见过最恐怖的画面(11.23)
数据早知道,上36dsj看早报! 来源36大数据,作者:奥兰多 『数据安全』5700万名用户及司机信息被泄,Uber 付黑客 10 万美元封口费 11月22日,据<福布斯>等外媒报道,Ub ...
- 专家呼吁禁止杀手机器人
来自加拿大和澳大利亚的机器人和人工智能领域的专家们呼吁政府对杀手机器人下达禁令,专家们反对自动化武器的使用,并且认为它们的研发和使用越过了道德底线. 在新南威尔士大学Toby Walsh的组织下,澳大 ...
- 杀手机器人的漫长过程继续
杀手机器人的漫长过程继续 停止杀手机器人运动欢迎91个国家今天在日内瓦举行的常规武器公约年会上作出的决定,明年继续对"致命的自主武器系统"进行正式审议,但批评在解决日益严重的问题上 ...
- 现实版终结者?杀手机器人预计2017年问世
随着AI的智商越来越高,自动化越来越强,在带来各种便利的同时,未来将可能威胁到人类的生存. 随着人工智能技术的飞速发展,机器人的"智商"越来越高,功能越来越强大.在人类享受机器人所 ...
- AI一分钟 | 小米公布Q2财报,上市以来股价振幅高达30%;俄制造商推出步行杀手机器人...
▌小米二季度 IoT 收入翻番,上市以来股价振幅高达 30% 8 月 22 日,小米集团公布了 2018 年半年报,这也是小米集团上市以来的首份财报.财报显示,今年上半年,小米收入 796.48 亿元 ...
- 杭州跨境电商实践成果 亮相联合国贸发会议电子商务周
4月3日,由联合国贸发中心和中国电子商会共同主办的"贸易便利化促进电子商务发展行业对话峰会"在瑞士日内瓦万国宫举行.作为联合国贸发会议"电子商务周"的官方系列活 ...
- 开好会议的方法 会议达成共识 明确目标,促成共识 单向会议 互动会议 会议讨论,文档先行 会前文档 会中 3D法则讨论 同步会议,跟进代办 举个栗子 企业管理
目录 开好会的方法 明确目标,促成共识 单向会议 互动会议 会议讨论,文档先行 会前文档 会中 3D法则讨论 同步会议,跟进代办 举个栗子 开好会的方法 会议有时候时间很长,很多无意义内容,如何开出有 ...
最新文章
- 关于AD编程的一些资料
- 2万字看完腾讯最纯粹的一届WE大会:从黑洞、虫洞到克隆猴
- MATLAB读取HDF格式的SST数据
- php+imagick详解,PHP中imagick函数的中文解释_php技巧
- 蓝桥杯题_ALGO11_瓷砖铺放
- mysql 不知道这样的主机_求救!!连接本机数据库时出现不知道这样的主机
- 用vhdl实现4位加减法计数器_频率计数器的使用方法介绍
- Css 特殊或不常用属性
- jsp空白页面传html代码,echarts在HTML里测试一般,在jsp页面不显示,而且还把整个页面变成空白...
- 排序算法之冒泡排序(JAVA)
- vc++画线段的函数_专题:精选中考数学压轴题5道,函数综合,内含解题秘籍
- java 删除文件或文件夹的7种方法(io基础)
- 免杀工具 -- FourEye
- 傅立叶级数到傅立叶变换推导与理解
- 【今日CV 计算机视觉论文速览 第150期】Fri, 2 Aug 2019
- 微服务之间调用的安全认证-jwt
- 密码学中的数学基础(一)
- python100道经典例题(1 ~10)
- UE4(unreal engine4)蒙太奇动画删除不想要的帧数
- 风险收益导论-简单收益率与连续复利收益率
热门文章
- 最强观战指南 | Python分析热门夺冠球队(附源代码)
- 视觉语言研究进展到哪了?CVPR2021视觉语言研究全面概述,附430页ppt
- 【最强ResNet改进系列】Res2Net:一种新的多尺度网络结构,性能提升显著
- SAP PP C201使用ECR创建Recipe主数据
- SAP MM 向交货单的存在不阻止PO被删除
- Gartner 「RPA市场竞争格局」:中国厂商首次进入国际视野
- NeurIPS 2019 | 一种对噪音标注鲁棒的基于信息论的损失函数
- 「机器学习速成」数据预处理,特征工程,良好特征的特点
- 强化学习:如何处理大规模离散动作空间
- 商汤科技总裁张文谈人工智能: 未来10年到20年会有巨大爆发 下一个井喷是AI+教育