人工智能军事对抗技术发展趋势

来源：战略前沿技术

人工智能军事对抗技术

人工智能（AI）作为新一代科技革命的典型代表性技术，目前已在世界各国的工业、金融、娱乐和公共安全等领域广泛应用，而其在军事领域的应用也正在快速发展。随着人工智能技术与军事知识与应用的迅速结合，新型智能化决策算法、无人化武器装备将在军事中普遍运用，信息和算法对抗将发展成为未来军事行动中的主流场景。为应对对抗新形势，一方面需要利用AI技术研发新型军事装备，另一方面要了解对手所可能采用的AI对抗技术和装备，并寻找其中的算法漏洞，研发相应的防御和反制AI措施也尤为重要。军事AI将在这种攻与防的环境中不断发展。

1、人工智能对抗技术概述

近年来，人工智能在人脸识别、图像识别等民用领域已广泛应用，在发挥诸多正面作用的同时，黑客也在逐步利用AI的漏洞实施定向攻击。例如，黑客攻击手机刷脸解锁，戴上制作简易的拥有伪装效果的眼镜，就可以攻破人脸识别算法解锁他人的智能手机；黑客利用深度伪造DeepFake算法伪造奥巴马、特朗普、扎克伯格等多位政要名人发布虚假观点的视频在社交媒体上大量传播。这些AI对抗技术一方面能够欺骗AI模型给出攻击者意图的计算输出结果，另一方面可以制造以假乱真的伪造内容欺骗目标受众，因而这些技术对国家社会的安全稳定造成了巨大威胁。

2、军事人工智能算法漏洞对抗场景及对策

AI图像识别系统已在军事场景中广泛应用，可被用于遥感卫星和无人飞行器自动侦查、自动确认攻击目标乃至武器装备的AI辅助瞄准系统等。然而，当攻击者利用了AI图像检测或识别算法模型的漏洞，在装备目标上加装特定伪装图案后，便可对卫星、无人飞行器和各类智能装备背后所依赖的军事图像识别系统进行攻击，使其无法正常识别视频图像内容，无法正常工作。这类对抗技术中最典型的针对图像AI模型的攻击技术称为对抗样本攻击。图一所示，通过对图片添加轻微扰动噪音，AI模型便产生了错误的分类结果，将熊猫识别成为长臂猿。现实图二所示，测试者和测试卡车通过携带由对抗样本生成的特殊图案，即可成功逃过AI模型的检测识别。现实应用中，攻击者可以利用类似的方法，使图像识别系统将视频中的军事武器识别或个人识别为无害的物体，亦或是无法识别出带伪装的武器或人员。

（图一）

（图二）

军事单位通过这类反智能化的对抗样本技术，可以对自身装备和建筑进行伪装，实现AI隐身迷彩服、AI隐身军事装备、AI隐身建筑等，具体操作示意图如下：

图三

加装这些反智能化伪装的军事装备可以逃避对手的AI自动侦查和打击，保证自身在智能化作战中抢占先机。

而当敌对方的军事装备采用了以上AI对抗技术，我方则需开发相应的漏洞防火墙来加固自身AI系统，实现对这类反智能的“AI隐身”目标的有效侦查。目前的防御方案主要分为两种：数据预处理和对抗训练。数据预处理即通过对图像数据中的攻击噪声进行识别并过滤掉，来达到防御的效果。对抗训练即通过将对抗样本图像数据和正常图像数据放到模型里训练，进行有监督学习，得到安全加固后的模型。

3、AI伪造情报问题及对策

查看全文

http://www.taodudu.cc/news/show-195485.html

借力5G，云VR将推动VR产业迎“第二春”
低调！中国北斗核心卫星部署完成，开启“全球时代”！超越GPS指日可待
数字孪生白皮书（2019）
我国机器视觉企业体量偏小，上游零部件占利润大头
德国工业4.0眼里“工业互联网”与“智能制造”
全球数字孪生市场大预测：2025 年的 358 亿美元，年复合增长率（CAGR）高达 37.8%...
5G产业发展最新进展深度解析（144页PPT）
存内计算能否成为下一代AI芯片的关键
2019全球信息通信业热点回顾
悬而未决的AI竞赛：全球企业人工智能发展现状
Science揭示：身体如何应对细菌的“群体感应”
百度：2020年十大科技趋势
美国计划让“人工智能”去搜寻外星人！
中国AI芯片产业发展白皮书：未来三年年均增长率超50%
人工智能与经济生产力：期待进化，而不是革命
美智库发布报告：《美国在人工智能时代的行动蓝图》
2019-2021年中国AI芯片市场预测与展望数据
总经费8.4亿的上海市脑科学重大专项进展如何？且看2019年度工作汇报会
为了研究因果关系，原来科学家在这么多方向上都有尝试
杨强 : 迁移学习——人工智能的最后一公里
汽车传感器科普
人工智能的现状与未来
《数字孪生体技术白皮书（2019）》（简版）全文
王恩东院士：AI计算是未来的核心生产力
采访了14位技术公司的创始人，他们如何看待2020年的AI行业？
白春礼：探究物质世界奥秘的一把金钥匙——纪念元素周期表发表150周年
因果关系：真的存在吗？
盘点2019年336起机器人及相关领域投融资事件！注重细分领域深耕行业复苏趋势显现...
推荐系统技术演进趋势：召回-排序-重排
重磅！阿里达摩院发布《2020十大科技趋势》

人工智能军事对抗技术发展趋势相关推荐

全球大国人工智能实力大比拼与技术发展趋势
何为人工智能(AI)技术?世界知识产权组织(WIPO)将AI技术分为三类:AI技术,即高级统计和数学模型,如机器学习.专家系统:AI功能性应用,即可用一种或多种AI技术实现的功能,如语音处理和计算机视 ...
2022年ISC第十届互联网安全大会——深度伪造对抗技术进展与挑战学习笔记
文章目录深度伪造现状与趋势概念和内涵基本概念: 主要内涵: 发展趋势深度伪造的典型案例深度伪造在认知对抗中的定位深伪对抗的关键技术深伪对抗技术体系文本仿写技术语音合成技术视频伪造技 ...
姚期智：人工智能存在三大技术瓶颈
2020浦江创新论坛全体大会上,图灵奖获得者.中国科学院院士姚期智做了<人工智能面对的一些挑战>主题演讲.在他看来,人工智能有三大技术瓶颈亟待突破,需要科学家"从0到1" ...
总结下2018年，我们归纳了几种将对智能安防产生影响的技术发展趋势
总结下2018年,我们归纳了几种将对智能安防产生影响的技术发展趋势现今技术日趋成熟,创新科技的未来发展无远弗届,使得消费应用不断往商业应用前进,企业必须竭力寻求能为客户增值的各种技术.总结下2018 ...
AISecOps 技术发展趋势
可靠行动智能体的行动不止于一体化的接口设计.集成.与编排.为了保证安全运营行动的持续可靠性 ,亟需进一步提升策略执行的透明度.可审计性.本节重点介绍透明可审计响应的技术方案的需求与实现. 透明可审 ...
马歇尔·赫伯特：人工智能的前沿技术与实例分析
来源:中国人工智能学会 2017年12月11日,国际知名机器人专家.美国卡耐基梅隆大学机器人研究所所长马歇尔·赫伯特(Martial Hebert)教授和首席科学家大卫·伯恩(David Bourne ...
陈震学的什么计算机专业,一起来看看陈震学长为我们分享的前沿技术发展趋势及自己的思考吧！...
原标题:一起来看看陈震学长为我们分享的前沿技术发展趋势及自己的思考吧! 这是北航士谔书院的第 881篇推送 12月23日,士谔书院邀请了书院特聘导师.速感科技创始人,同时也是北航校友的陈震为同学们带 ...
gis python趋势变化代码_GIS技术发展趋势——2018年回顾与2019年展望
原标题:GIS技术发展趋势--2018年回顾与2019年展望 2018年,地理空间技术取得突破性的进展.在这里,作者对2018年进行了回顾,并对2019年进行展望. GIS正逐渐成为消费市场的主流,并 ...
学习云计算技术前景在哪里？云计算技术发展趋势
学习云计算技术前景在哪里?云计算技术发展趋势在哪里呢?随着云计算技术的日趋普及,学习云计算会是自己越来越有价值.Linux云计算是一种未来性的技术,是一种更加高效的互联网行为方式,能够使人们在更短的时 ...

人工智能军事对抗技术发展趋势

相关文章：

人工智能军事对抗技术发展趋势相关推荐

最新文章

热门文章