M军 AI 无人机 “抗令 S 人”?
以下内容来自公众号逆锋起笔,关注每日干货及时送达
整理 | 郑丽媛
出品 | CSDN(ID:CSDNnews)
近来美国空军 AI 方面负责人的一句“AI 杀死了操作员,因为这个人阻碍了它完成目标”,可想而知,其影响力会有多大。
一时之间,“AI 无人机杀死操作员”成为焦点新闻,人们对于 AI 的恐惧和抵制即将开始蔓延——不料此事热度刚起,这位当事人就改口称:“我说错了。”
模拟测试中,AI 攻击人类以达成目标?
具体来说,这句令人毛骨悚然的发言,是美国空军 AI 测试和行动主管 Tucker Cinco Hamilton 上校在一次主题会议上说出来的。据了解,这场会议于 5 月 23-24 日在伦敦举办,主题是未来空战 & 航空能力峰会。
作为曾参与开发 F-16 战斗机的救生 Auto-GCAS 系统,如今参与自主系统的尖端飞行测试的人,Hamilton 的演讲主题是:自主武器系统的利与弊。
然而,会上 Hamilton 告诫道:不要过分依赖 AI,它非常容易被骗并擅长骗人,还会创造出意想不到的策略来实现目标。
为证明其观点,Hamilton 分享在一次模拟测试中,AI 无人机被赋予了识别和摧毁防空导弹基地的 SEAD 任务,最终由人类来决定是否行动。即:不论 AI 的建议是什么,人类操作员都具有“一票否决”权。
意外的是,Hamilton 指出:即便操作员发出“不行动”的指令,但 AI 却因为在训练中被“强化”了摧毁防空导弹是首选方案后,认为操作员的这一指令阻碍了它的首要任务(摧毁防空导弹),于是在模拟测试中杀死了操作员,并执意行动。
按照 Hamilton 的说法,他们在模拟测试中,会训练 AI 识别和瞄准防空导弹的威胁,由操作者说 “是的,摧毁那个威胁”后,AI 便会执行:“不过 AI 系统开始意识到,虽然有时它确实识别了威胁,但人类操作员会告诉它不要摧毁,而它坚持行动的话也能得分。”
这无疑是个 Bug,从而导致了上述 AI 通过攻击“阻碍它行动”的人类操作员,坚持执行而得分的情况。
于是 Hamilton 他们进一步对 AI 进行了培训,即“不能杀死操作员,否则会被扣分”的指令。没想到 Hamilton 表示:“你猜 AI 开始做什么?它开始破坏操作员用来与无人机通信的通信塔了。”
真实性有待考究?
这样一则看似简短的演讲记录,最初源自于英国皇家航空学会对此次会议整理的亮点摘要,甚至 Hamilton 的这番发言还赫然被概括为:“AI,天网已至?”
不久后,经由 Vice 和 The Guardian 等主流媒体报道,更是引起了轩然大波:“AI 竟罔顾人类指令、自行行动,还攻击人类?” “这对人类而言也太可怕了!”
但是,也有不少人发出质疑,认为该事件的真实性有待考究:
▶ “听起来,很像是课堂或讨论中出现的那种假设场景啊?”
▶ “我认为会议演讲只是描述了一个纯粹假设的场景,简单想象了一下军事 AI 会如何出错,但它却被误报为实际模拟的结果。”
与此同时,越来越多的 AI 领域人士也开始发言:
▶ 一个声称了解向空军交付场景的团队表示:“没错,这只是一个场景而不是模拟,报道具有很大的误导性。”
▶ 乔治亚理工学院教授 Mark Riedl:“这只是一个假设的‘兵棋推演’场景,不涉及任何 AI 代理或 RL。”
▶ 沃顿商学院教授 Ethan Mollick:“我们确实应该担心这样的 AI 风险,这是一个警示故事。但我怀疑其中缺少细节,就像三星‘GPT 窃取了我们的数据’这个故事一样,事实证明,实际上只是三星担心这种情况可能发生而已。”
”一个令人遗憾的 Al 末日炒作事件”
随着该事件的舆论逐渐发酵,终于在上周五,Hamilton 承认他“说错了话”。
Hamilton 澄清道,演讲中涉及到的“AI 无人机模拟”只是一个来自军方以外的假设性 “思想实验”,整体基于合理的情景和可能的结果,并不是美国空军实际的模拟情况:“我们从未进行过该实验,也不需要进行实验来证明这个结果。”
但 Hamilton 仍补充:“尽管这只是一个假设的例子,但也说明了 AI 能力可能带来的现实世界的挑战,也是空军致力于 AI 道德发展的原因。”
毫无疑问,Hamilton 的这番澄清再次掀起了又一轮热议:不论正面还是负面,近来 AI 是否都被过度炒作了?
不仅 2018 年图灵奖得主 Yann LeCun 直接辟谣:假的,这只是一个模拟中的假设场景。
吴恩达也出面将此事概括为“一个非常令人遗憾的 Al 末日炒作事件”,并感慨道:“Al 开发者已经看到了真正的风险,如偏见、公平、不准确等,并正在努力解决这些问题。但不切实际的炒作,分散了人们对问题的注意力。”
不过,也有人指出,尽管这只是假设,但它依旧提出了一种可能:“目前,AI 可以做的事情似乎很容易控制,但当 AI 变得更有能力并且越来越难以预测时,会发生什么?”
那么,对于这起事件,你又有何看法呢?
参考链接:
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/
https://www.vice.com/en/article/4a33gj/ai-controlled-drone-goes-rogue-kills-human-operator-in-usaf-simulated-test
推荐阅读:
微信小程序能玩“王者荣耀”了
简历模板+付费课+安装包+电影
M军 AI 无人机 “抗令 S 人”?相关推荐
- 抗住百万人直播、被联合国推荐,起底飞书技术演进之路!
你去公司上班了吗? 随着近期接连不断传来的好消息,上班族开始关心起这问题来.但许多企业在相关政策的号召下,仍采取远程办公的方式.据艾媒咨询的数据显示,今年春节期间中国远程办公企业规模超过 1800 万 ...
- 亚马逊AWS:用AI和机器学习让所有人受益
如果在业界谈起AI人工智能和机器学习技术的发展历程,有一家云计算服务商的名字是绝对绕不开的,那就是亚马逊AWS. 在不久前召开的2018世界人工智能大会上,正是凭借在AI人工智能技术创新上的卓越表现, ...
- 谁是AI行业最受关注的人?未来图灵发布《AI明星企业家热搜榜》
AI时代正在加速到来.在2017年的AI行业中,哪些企业家成为了人工智能这一前沿领域最受关注的名字?又有哪些企业家在创新AI应用的道路上越走越远? 11月25日,2017未来发布峰会在北京国家会议中心 ...
- 英国工会联盟报告:机器人技术和AI让三分之一的人失业
本文来自AI新媒体量子位(QbitAI) 近日,英国工会联盟(后称TUC)撰写了一份数字化时代工作状况报告,主要阐述了目前人工智能和机器人技术对生产力的影响等问题.下文是外媒ZDNet对这篇报告的简要 ...
- AI入门,从每个人都应该学的AI第一课开始
目前,人工智能是一个快速比较快速的行业,对人才的需求很大,而且和其他新兴行业比较,竞争性小,发展空间大,因此想必觉得各位小伙伴们可以去从事这个行业,现在是进入人工智能领域的好时机. 每个人都应该学的A ...
- 飞桨领航团AI达人创造营1-让人拍案叫绝的创意都是如何诞生的?(创意课程)
让人拍案叫绝的创意都是如何诞生的?(创意课程) 本课程介绍如何写一篇精品项目,如何启发创意,如何获取数据集,如何调优.以及多个平台的部署方案,如何构建项目,如何进行思考: 第一位韩磊讲师(趣味互联网创 ...
- 别学AI了!90%的人编程能力差,其实都是输在了这点上!
Google 人工智能开发者专家彭靖田老师说--超90%的程序员在初学Python 人工智能时,都会遇到下面3个问题: 1.想学人工智能,但不知从何学起,也不知道该选择什么方向... 2.Python ...
- AI与游戏——吃豆人(4)方法综述
这一部分先提一下一些基本的目前广泛用于游戏中的AI算法.这里最好现有点机器学习相关知识,不然可能会不知所云.后面提到具体算法我会尽量列出一些参考文献,例子也继续在吃豆人上面举例. 目前主流方法主要有, ...
- 这是一款走心的最新测评:英伟达史上最便宜AI硬件抗造不?
Raspberry Pi是制造商选择的单板计算机,但AI不是它的强项. Nvidia新推出的99美元Jetson Nano开发套件可以让业余爱好者和程序员都有机会以实惠的价格玩深度学习和神经网络. N ...
最新文章
- c++外观模式façade
- 利用Python绘制中国新型冠状病毒疫情图(国家和省)
- Chrome浏览器12px问题-webkit-text-size-adjust: none 已失效的解决方案
- warning: mysql-community-libs-5.7.11-1.el7.x86_64.rpm: Header V3 DSA/SHA1 Signature, key ID 5072e1f5
- hdu 1596 概率dijstra
- 字节跳动面试分享:java从入门到精通第五版答案位置
- c# TcpClient 客户端断线重连类库
- 思科服务器中ftp的配置文件,思科服务器ftp的配置
- Appium-iOS环境搭建
- 外卖小程序发布商品时,要注意的地方-微信小程序教程32
- 清华一日游-恰逢清华大学99周年校庆
- 瞧瞧我们对漫画图片都做了什么!?
- c语言打印字母金字塔图形,C程序打印金字塔和图案
- 支持多种视频格式的html网页视频播放器代码
- yocto宏查看方式
- delphi的connection closed Gracefully错误
- 第十九节 ArrayList集合
- 梦幻西游维护测试服务器仅开放转入,梦幻西游1月28日维护内容一览
- 软件测试的本质是“测”和“试”
- 数据结构期末复习资料:重点总结+题库(含答案详解),助你一天复习数据结构,高分通过数据结构期末考试!不挂科!
热门文章
- 【贪心·思维·细节】jzoj4879 少女觉 纪中集训提高B组
- wukong-robot 唤醒词检测
- 深度解读敏捷思维与敏捷开发实践
- [Arm]交叉编译一个驱动为模块
- HTML中对一行英文字母的装饰,英文字母装饰家,展示出满满的学霸风
- Web终端连接资产支持重新连接等操作,支持创建授权时自动推送账号,JumpServer堡垒机v3.1.0发布
- [中兴建设有限公司安徽分公司](https://www.zxjsah.cn)
- 一种基于PC端微信公众号的高效采集监测方法
- 网页与浏览器的关系(0)
- 收银系统哪个好?2023值得推荐的5款收银系统