韩国研发人工智能武器 遭30国专家联名抵制:和你绝交!
![](/assets/blank.gif)
▼
点击上方蓝字 关注网易智能
为你解读AI领域大公司大事件,新观点新应用
![](/assets/blank.gif)
韩国科学技术院(KAIST)
【网易智能讯4月6日消息】据外媒报道,韩国科学技术院与韩国十大财团之一韩华集团旗下韩华系统公司合作,于近期开设了人工智能研发中心,目的是研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术。
这引起业内专家的广泛担忧,目前,30个国家和地区的人工智能及机器人专家宣布将抵制研究人工智能武器的韩国科学技术院(KAIST),这由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起,美国和日本等30个国家和地区的研究人员4日签署了一封公开信,敦促韩国科学技术院停止人工智能武器研发,他们称这是加速机器人武器开发竞争的动向,令人遗憾,并表示如果该大学不承诺停止研发,将与之断绝关系,而且将拒绝访问韩国科学技术院、接待对方访客或与对方合作研究项目,直至这所韩国顶尖大学承诺放弃研发缺少“有效人工控制”的武器。
网易智能注意到,这封联名信中写道:“自动武器一旦成熟,战争发展速度和规模将前所未有,它们可能会被恐怖分子利用。”发起联名抵制的人工智能教授沃尔什告诉路透社记者,机器人和人工智能技术实际可以在军事领域发挥有利作用,比如完成扫雷等威胁人类安全的任务,但我们不能将决定生死的权力交给机器,这就越过道德底线。
无独有偶,Google内部流传着一封联名信,有3100多人在上面签名,抗议谷歌为五角大楼提供人工智能力量,谷歌的员工希望谷歌CEO退出五角大楼的代号为Maven的项目,并宣布“永不开发战争技术”的政策。
![](/assets/blank.gif)
美国五角大楼
业界评论认为,这家硅谷巨头和美国政府之间的文化冲突将就此凸显出来。
不仅仅只有联名抵制韩国和抵制美国五角大楼,其实,早在今年3月,来自14个组织的26名研究人员对恶意AI所造成的危险进行了全面的报告。
他们为期两天的会议产出了一份长达100页的报告,内容是关于人工智能不良应用所带来的风险以及降低这些风险的策略,工作组提出的四项建议中,有一项是“人工智能的研究人员和工程师应当谨慎对待其工作的双重使用特性,在研究的优先级和规范中考虑相关使用不当所产生的影响,并在有害应用程序可预见时主动联系相关的参与者。”
这一建议尤其适用于最近兴起的“deepfakes”,主要把机器学习用于将好莱坞女演员的脸换接到色情演员的身体上(制作人工合成的假色情片),由Motherboard的Sam Cole最先报道,这些deepfakes是通过改编一个名为TensorFlow的开源机器学习库来实现的,该库最初由谷歌工程师开发,Deepfakes强调了机器学习工具的双重使用特性,同时也提出了一个问题:谁应该使用这些工具?
尽管报告中特别提到了Deepfakes,研究人员还强调了将这种类似的技术用于处理世界领导人视频所产生的危害,这会对政治安全构成威胁,这是研究人员考虑到的三大威胁领域之一,人们只需想象出一段虚假的视频,比如特朗普宣战以及由此引发的后果,就会明白这种情况的危险性。此外,研究人员还发现,通过数据分析和大规模有针对性的宣传,利用人工智能技术,能实现前所未有的大规模监控,这是对政治领域考量的另一个侧面。
另外两个被认为是恶意人工智能的主要风险领域是数字和物质安全(physical AI?security)。
在数字安全方面,使用人工智能进行网络攻击将“缓解现有的攻击规模和效率之间的权衡。”大规模的网络攻击可能会以人工智能的形式进行,比如大规模的网络钓鱼,或者更复杂的攻击形式,比如使用语音合成来模拟受害者。
在物质AI威胁方面,研究人员观察到物质世界对自动化系统越来越依赖,随着更多智能家居和自动驾驶汽车上线,人工智能可能被用来颠覆这些系统,并造成灾难性的破坏。此外,还有故意制造恶意人工智能系统所带来的威胁,比如自动化武器或微型无人机。
![](/assets/blank.gif)
电影中的AI攻击机器人
其中一些场景,比如微型无人机所带来的灾难,似乎还很遥远,而其他的一些,比如大规模网络攻击、自动化武器和视频操控等,已经引发了一些问题。为了应对这些威胁,并确保人工智能被用于造福人类,研究人员建议开发新的政策解决方案,并探索不同的“开放模式”以降低人工智能的风险。例如,研究人员认为,中央访问许可模式(central access licensing models)可以确保人工智能技术不会落入坏人之手,或者建立某种监控程序来密切记录人工智能资源的应用途径。
报告写道:“目前的趋势强调了对前沿研究和发展成果的广泛开放,如果这些趋势在未来5年持续下去,我们预期攻击者用数字和机器人系统造成危害的能力会显著提高。”另一方面,研究人员认识到,开源人工智能技术的扩散也将越来越多地吸引决策者和监管机构的注意,他们将对这些技术施加更多限制,至于这些政策应该具体采取何种形式,必须从地方、国家和国际层面上加以考量。
报告总结说:“这份报告的合著者之间仍然存在许多分歧,更不用说世界上不同的专家群体了,随着各种威胁和反馈被发现,在我们得到更多的数据之前,这些分歧不会得到解决,但这种不确定性和专家分歧不应阻止我们在今天尽早采取预防措施。”
所以,马斯克们所代表的AI威胁论是占据上风了吗?对此,你怎么看?
网易智能
聚焦AI 读懂下一个大时代
长按扫码关注我们
![](/assets/blank.gif)
加入社群
AI社群(AI专家群、AI黑板报)火热招募中,欢迎对AI感兴趣的小伙伴,添加小助手微信 kaiwu_club,说明身份即可加入。
往期精华
人物专访 沈向洋 | 于尔根 | 洪小文 | 李德毅 | 尤瓦尔 | 哈萨比斯 | 宋继强 | 杨强 | 余凯 | 邓志东 | 芮勇 | 戴文渊 | 石博盟 | 韦东 | 黄学东
行业特稿 抢滩智能音箱(上) | 抢滩智能音箱(下) | 自动驾驶行业素描(上) | 自动驾驶行业素描(下) | 机器翻译技术与应用
重磅报告 麦肯锡(二) | AlphaBeta & ABC | 埃森哲 | 英国政府 | Internet Society | Forrester | VertoAnalytics | 麦肯锡(一) | 苹果公司 | 耶鲁大学
![](/assets/blank.gif)
韩国研发人工智能武器 遭30国专家联名抵制:和你绝交!相关推荐
- 重磅!机器人杀手真来了?韩国研究AI武器 遭多国抵制
据国外媒体报道,30个国家和地区的人工智能(AI)及机器人工学的专家周三宣布将抵制研究人工智能武器的韩国科学技术院(KAIST),称"这是加速机器人武器开发竞争的动向,令人遗憾", ...
- 韩国研发AI武器遭抵制,武器自带“头脑”将多可怕
禁止自主武器的开发,事实上并不妨碍人工智能技术的发展,也不妨碍其被正常用于军事领域,其中的关键就在于,人类是否拥有控制权,能否在关键时刻对其进行关闭. 文 |郑伟彬 转自新京报专栏 4月4日,全球超过 ...
- 韩大学设立人工智能武器实验室,遭50位顶尖学者抵制
韩国著名大学--韩国科学技术院(Korea Advanced Institute of Science andTechnology,KAIST)于2018年2月设立了一个从事人工智能武器研制的实验室. ...
- 思岚科技荣获CSDN 【2019优秀人工智能案例TOP 30+】
"我们想做一个标准化的开放性平台,无论哪种品类,都能基于思岚的技术,有一个标准化的体验." -- 陈士凯,思岚科技联合创始人兼CEO 9月,2019中国AI开发者大会(AI Pro ...
- 五大洲30国在华留学生千年古城欢度中国年
2019年"我们的节日·春节--平遥中国年"活动28日在2800年历史的平遥古城启动,来自30国的百余名在华留学生参加. 胡健 摄 2019年"我们的节日·春节--平遥中 ...
- AK-47 制造商 Kalashnikov 已成功研发 AI 武器 以 AK-47 闻名世界的俄罗斯军火商 Kalashnikov 近日宣布,其已成功研发全自动武器模块,能够利用人工智能技术识别目
AK-47 制造商 Kalashnikov 已成功研发 AI 武器 以 AK-47 闻名世界的俄罗斯军火商 Kalashnikov 近日宣布,其已成功研发全自动武器模块,能够利用人工智能技术识别目标并 ...
- 英特尔和AMD联手对抗英伟达,共同研发人工智能芯片
来源:ATYUN AI平台 英伟达(Nvidia)在图形处理单元中占有主导地位,它用有快速且功能强大的电脑芯片,该芯片最初是为视频游戏开发的,但视频游戏越来越落后于人工智能项目.其他芯片制造商争相追赶 ...
- 互联网晚报 | 9月5日| 四川甘孜州泸定县发生 6.8 级地震;西北工业大学遭美国国安局网络攻击;苹果已考虑移除SIM卡插槽...
四川甘孜州泸定县发生 6.8 级地震 中国地震台网正式测定:09月05日12时52分在四川甘孜州泸定县(北纬29.59度,东经102.08度)发生6.8级地震,震源深度16千米. 西北工业大学遭网络攻 ...
- 研发和测试在多国陆续展开 全球央行数字货币研发驶入快车道
央行数字货币是由中央银行发行的数字货币,其功能属性与纸币相同,可以被视为纸币的数字化形态. 新冠肺炎疫情防控期间,无现金支付趋势加快,多国加速央行数字货币的研发和测试.未来,数字货币将会深刻改变金融基 ...
最新文章
- python PDF 转 图片
- OpenStack计算节点AMQP5672报错
- java push_back,将一个结构push_back()一个向量
- 群晖 上传 源文件不存在_群晖NAS连接百度网盘报错?原因是这样的
- 先进的NumPy数据科学
- php 获取京东交易账号,PHP爬虫爬取京东列表
- python numpy库安装 mac_MAC系统下安装Python模块
- OPPO Find X,一款(可能)被全面屏“耽搁”了的AI手机
- vmware虚拟机i copied it 和 i moved it的区别
- LINUX下载编译lua
- warning C4995: strcat name was marked as #pragma deprecated
- 有趣的逻辑较量——《啊哈C语言》更新开始
- 安卓逆向 -- JEB3.7安装使用
- 【Web技术】1395- Esbuild Bundler HMR
- 基于MATLAB的求解线性方程组(附完整代码和例题)
- APP行业基准营销数据怎么获取?快用这两个免费应用数据工具
- 【电商】电商后台设计—库存模块
- 2D-2D:对极几何与三角测量
- 开源python-向tensorflow-addons学习
- 从uart到serial-ringbuff(环形缓存)
热门文章
- MFC使用Windows API实现U盘插拔检测,获取U盘容量,U盘内容移动删除,开启和关闭U盘以及获取盘符
- 跨时钟域信号处理(二)——异步fifo的Verilog实现(附同步fifo的实现)
- [译]Unity3D Shader教程(五)Surface Shader Basics
- 右手螺旋判断磁感应强度方向_右手螺旋定则判断磁场方向
- 经典案例--JS购物车
- SONY索尼PXW-X280摄像机断电MXF/RSV视频文件损坏修复技术
- 《计算传播学导论》读书笔记:第二章 文本分析简介
- 耳机电声测试仪软件,CLIO 11电声测试仪
- LeetCode Relative Ranks
- 基于Django的博客BBS项目