人工智能专家细数AI安全隐患
在AlphaGo打败了世界围棋冠军之后，越来越多的机器人成为了我们的同事。人们不禁会想，AI的超强大脑最终会不会战胜人类？在面对机器人中的“坏人”时，谁才会成为网络安全的终极守护者？
这并不是骇人听闻，最近几年，网络勒索病毒来势汹汹，使“网络安全”一词再次出现在大家的视线中。2016年初发现的Petya勒索病毒，最初只是利用E-mail传播，然后不断地加强攻击的能力。到2017年时，已经波及了60个国家和地区的大约30万用户，使得数家企业被迫中断业务或者停止生产。因为网络的飞速发展使得全世界的联系更加紧密，这也令每个终端的安全变得十分的脆弱。
“在AI领域，我们有很大的风险，越来越多的系统是人工智能，受到更多攻击的可能也在增大。”7月8日在上海举行的一期“理解未来”讲座上，美国加州大学伯克利分校计算机系教授Dawn Song分享了她在计算机深度学习和安全领域的研究成果时称，AI与网络安全的结合还属于新兴产业，计算机安全领域还有许多没有解决并且十分具有挑战性的问题需要人们不断地追寻和探索答案。
在美国生活了20多年的Dawn Song，作为当今全球顶级的AI研究专家，尽管能够顺利的使用中文交流，但是在分享学术成果的时候还是习惯使用英文。Dawn Song说，用英文表达是为了让一些科学术语在用词时能够“更清楚”。
Dawn Song对AI的巨大发展十分感叹，她说：“AlphaGo最近打败了人类，ImageNet现在也是非常领先，这是一个计算机识别系统；另外还有深度学习，它已经是促进了我们生活的方方面面的发展，包括产品的研究、医学研究等，比如深度学习可以用来识别乳腺癌细胞中的游丝分裂，同时可以研究基因突变预防疾病，还可以用来改善安全方面的能力，包括人脸识别、欺诈检测以及恶意软件的检测等。”
在这次讲座上，Dawn Song教授显然不是想要详细的描述“人工智能的发展”，现如今，她最担忧的是深度学习和人工智能的另外一面——人工智能与安全。
当AI遇到黑客袭击的时候是什么样的？之所以要谈论这个问题，是因为Dawn Song通过研究发现，互联网技术的每一次提升，都会伴随着网络攻击的增加。比如在互联网开始之初，那是一共只有6万台计算机，当时有一个学生制造了第一个叫做蠕虫病毒，一下子使1/10的计算机受到了感染；13年后的另外一个叫做Code Red的病毒，感染了2000台主机，这使得全世界有很多的电脑受到了攻击；后来又出现了一个叫做Stuxnet的病毒，这个蠕虫病毒还叫做超级工厂病毒，这是一种针对工业控制系统编写的破坏性病毒，它相应的攻击能力非常强，造成了大面积的损害；今年的WannaCry病毒，影响了150个国家，导致了20万台计算机中毒。
Dawn Song教授说：“互联网还在不断发展，它已经成为我们日常生活中很重要的一部分；同时，互联网的攻击也在不断增加，可以看到，有许多病毒的攻击变得越来越多样化，也越来越严重。”
另外，Dawn Song研究还发现，网络上的攻击者不仅不断地追随新技术的发展脚步，甚至有时会领先于我们的技术发展，人工智能领域不可避免的存在着极大的风险。再加上AI系统越来越强，这也就意味着十分有可能被攻击者利用，结果也将更加严重。
Dawn Song以目前风靡全球的无人驾驶汽车为例进行了分析，称无人驾驶汽车在道路上行驶时，需要识别路边的路牌才能决定用什么速度、向什么方式行驶。如果我们在AI系统中做一个小小的修改，那么识别出来的结果将会完全不一样。“作为人眼我们能够识别一些区别，但如果是深度学习系统，可能就会犯一些错误，会进行一些错误的分类。”
目前，AI仍然存在着无法预料到的漏洞，而微小对抗性的攻击将会把漏洞无限放大。但是，正如互联网进步有很多都输在打补丁是才跃升的一样，Dawn Song认为，目前已经发现的问题将会随着AI技术的进步逐步得到解决。然而在AI系统里，将会继续有新的漏洞出现。
本文转载自ATYUN人工智能媒体平台，原文链接：人工智能专家细数AI安全隐患
更多推荐
世界反兴奋剂机构使用人工智能来识别兴奋剂作弊
不懂神经网络？不怕，一文教你用JavaScript构建神经网络
挑战亚马逊 IBM的沃森助手让任何公司都能构建类似于Alexa的语音接口
两位科技大神凭借RISC技术获得图灵奖 谷歌成最大赢家
帮化学家偷个懒，利用量子计算来模拟化学反应
人工智能专家细数AI安全隐患相关推荐
- 人工智能专家：总结AI在医疗的发展
辅助病情诊断 就能将医院不同系统.科室的多维度数据整合在一起,让医生可以了解到患者全面的诊疗记录,帮助医生更好地进行病情诊断,这其中就用到了大量AI技术,包括专家系统的概念.医学数据治理.医学自然语言 ...
- 不要上手就学深度学习！超详细的人工智能专家路线图，GitHub数天获2.1k星
来源:机器之心 本文约1600字,建议阅读5分钟 这个学习路线图几乎涵盖了人工智能领域的所有内容,点点鼠标,就能链接所需知识. 想从事人工智能领域的研究,盲目地在网上购买了一本又一本的参考资料,学习视 ...
- 隐患重重遭诟病 细数固态硬盘“七宗罪”
此内容转自网络,本人认为文章内容优秀,只作收藏,作为自己的知识库,并不用他用 原文链接地址为:http://ssd.zol.com.cn/471/4715723_all.html 隐患重重遭诟病 细数 ...
- 课工场AI尖端人才班首期答辩会将举行 特邀人工智能专家现场评审
IFTNews:当前,人工智能已经成为全球新一轮产业变革的核心驱动力,工业自动化正逐步进入智能化时代,物联网将进化为智能网,各行各业正尝试孕育不同的智能化产品.教育机构作为为社会培养输送社会所需对口专 ...
- 细数近年来机器学习研究的几大怪现状
人工智能领域的发展离不开学者们的贡献,然而随着研究的进步,越来越多的论文出现了「标题党」.「占坑」.「注水」等现象,暴增的顶会论文接收数量似乎并没有带来更多技术突破.最近,来自卡耐基梅隆大学的助理教授 ...
- 年终盘点丨细数2017云栖社区20大热点话题（附100+话题清单）
2017,你在聚能聊里分享了多少内容?贡献了多少话题?又收获了多少呢?社区聚能聊不仅可以请教技术难题,探讨热点话题,也可以八卦日常生活,分享码农们的点点滴滴. 程序员的世界不止是眼前的代码,一样有诗和 ...
- 怼完Sophia怼深度学习！细数完大神Yann LeCun 这些年怼过的N件事，原来顶级高手是这样怼人的...
图片来源:PCmag.com 十多个小时前,深度学习大神Yann LeCun语出惊人,他宣布放弃"深度学习"这个词.因为媒体对这个词的炒作言过其实,混淆了大家真正的工作,而&quo ...
- 【新智元峰会】德国AI教皇盛赞中国人工智能，25位AI领袖强势打造中国新智极...
中美史诗级贸易战,中国AI能否成为破局之剑? 2018年,AI再次成为全球经济竞争的焦点.中美的大国近期在贸易问题上的较量,背后核心原因就是人工智能等技术博弈:最近亚马逊市值超越谷歌,2018年AI云 ...
- 带你了解2021世界人工智能大会上的AI新趋势
计算机视觉研究院专栏 作者:Edison_G 7月10日,以"智联世界,众智成城"为主题的为期三天的2021世界人工智能大会(WAIC 2021)在上海圆满落幕. 长按扫描二维码关 ...
最新文章
- 全年营业额怎么计算_会计税法计算公式大全
- python之用循环实现五子棋小程序
- 进程间通信之3----信号量
- java 判断是否base64_判断一个字符串是否进行了base64加密
- python为什么叫爬虫-python为什么叫网络爬虫
- NCI和CNC应用中M代码的概念和功能
- openbmc开发29：开关机管理
- 如何用计算机制作pop海报,ai怎么制作pop海报字体?ai简单快速制作pop字体教程
- 模拟停车场管理系统（栈和队列的应用）
- c语言中int sel是什么意思,SEL的理解
- Zynga完成对快速增长的超休闲游戏领域的领导者——伊斯坦布尔的Rollic的收购
- DELL服务器 R740的风扇设置
- 定义变量byte a = (byte)128输出a的结果
- ehvierwer登录与不登录_微信号提示“系统检测有被盗风险”登录不上去该如何解决？...
- 互联网日报 | 2月1日 星期一 | 苏宁宣布云网万店组织架构；威马汽车完成上市辅导；美团上线医疗健康品牌“百寿健康网”...
- Error running ‘JeeplusWebApplication‘: Command line is too long. Shorten command line for JeeplusWeb
- Linux特殊权限命令
- 搜集的一些酷炫的金属色 ,RGB值 和大家分享一下
- python拆分kml文件
- VUE非父子组件之间通信的几种方式