据国外媒体报道，30个国家和地区的人工智能（AI）及机器人工学的专家周三宣布将抵制研究人工智能武器的韩国科学技术院（KAIST），称“这是加速机器人武器开发竞争的动向，令人遗憾”，并表示如果该大学不承诺停止研发，将与之断绝关系。

这一行动的触发点是韩国科学技术院2月份宣布将与韩国防务公司联合建立一个研究中心。据《韩国时报》称，该中心的目标是开发应用于军事武器的人工智能（AI）技术”，以便在无人控制的情况下搜索并消除目标。

发出呼吁的是人工智能研究领域著名的澳大利亚学者托比-沃尔什，近60名从事机器人研究的专家表示赞同。其中有最著名的杰弗里-辛顿教授、YoshuaBengio教授和JürgenSchmidhuber教授。

专家们在声明中称“拥有人工智能的机器人武器一旦成熟，战争发展速度和规模将前所未有。它们可能会被恐怖分子利用。”

另外，专家们下周在日内瓦召开的联合国会议上讨论对所谓“杀手机器人”的国际限制。围绕具有人工智能的机器人武器，联合国正式专家会议去年11月开始讨论进行管制的可能性。这标志着科学界正在积极争取对AI控制武器进行更强有力的控制。

这引起业内专家的广泛担忧，目前，30个国家和地区的人工智能及机器人专家宣布将抵制研究人工智能武器的韩国科学技术院（KAIST），这由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起，美国和日本等30个国家和地区的研究人员4日签署了一封公开信，敦促韩国科学技术院停止人工智能武器研发，他们称这是加速机器人武器开发竞争的动向，令人遗憾，并表示如果该大学不承诺停止研发，将与之断绝关系，而且将拒绝访问韩国科学技术院、接待对方访客或与对方合作研究项目，直至这所韩国顶尖大学承诺放弃研发缺少“有效人工控制”的武器。

不仅仅只有联名抵制韩国和抵制美国五角大楼，其实，早在今年3月，来自14个组织的26名研究人员对恶意AI所造成的危险进行了全面的报告。

他们为期两天的会议产出了一份长达100页的报告，内容是关于人工智能不良应用所带来的风险以及降低这些风险的策略，工作组提出的四项建议中，有一项是“人工智能的研究人员和工程师应当谨慎对待其工作的双重使用特性，在研究的优先级和规范中考虑相关使用不当所产生的影响，并在有害应用程序可预见时主动联系相关的参与者。”

这一建议尤其适用于最近兴起的“deepfakes”，主要把机器学习用于将好莱坞女演员的脸换接到色情演员的身体上（制作人工合成的假色情片），由Motherboard的SamCole最先报道，这些deepfakes是通过改编一个名为TensorFlow的开源机器学习库来实现的，该库最初由谷歌工程师开发，Deepfakes强调了机器学习工具的双重使用特性，同时也提出了一个问题：谁应该使用这些工具？

尽管报告中特别提到了Deepfakes，研究人员还强调了将这种类似的技术用于处理世界领导人视频所产生的危害，这会对政治安全构成威胁，这是研究人员考虑到的三大威胁领域之一，人们只需想象出一段虚假的视频，比如特朗普宣战以及由此引发的后果，就会明白这种情况的危险性。此外，研究人员还发现，通过数据分析和大规模有针对性的宣传，利用人工智能技术，能实现前所未有的大规模监控，这是对政治领域考量的另一个侧面。

另外两个被认为是恶意人工智能的主要风险领域是数字和物质安全（physicalAI?security）。

在数字安全方面，使用人工智能进行网络攻击将“缓解现有的攻击规模和效率之间的权衡。”大规模的网络攻击可能会以人工智能的形式进行，比如大规模的网络钓鱼，或者更复杂的攻击形式，比如使用语音合成来模拟受害者。

在物质AI威胁方面，研究人员观察到物质世界对自动化系统越来越依赖，随着更多智能家居和自动驾驶汽车上线，人工智能可能被用来颠覆这些系统，并造成灾难性的破坏。此外，还有故意制造恶意人工智能系统所带来的威胁，比如自动化武器或微型无人机。

其中一些场景，比如微型无人机所带来的灾难，似乎还很遥远，而其他的一些，比如大规模网络攻击、自动化武器和视频操控等，已经引发了一些问题。为了应对这些威胁，并确保人工智能被用于造福人类，研究人员建议开发新的政策解决方案，并探索不同的“开放模式”以降低人工智能的风险。例如，研究人员认为，中央访问许可模式（centralaccesslicensingmodels）可以确保人工智能技术不会落入坏人之手，或者建立某种监控程序来密切记录人工智能资源的应用途径。

所以，马斯克们所代表的AI威胁论是占据上风了吗？对此，你怎么看？

大数据周刊

邮箱:tougao@bigdatamag.cn

电话:010-57524293

众论大数据 引领大时代

长按二维码关注