全新算法助机器学习抵抗干扰

来源：科技日报

机器学习模型受到攻击将产生严重的后果，但如果对这一情形提前预防呢？就像人类针对即将到来的病毒去接种疫苗一样。据澳大利亚联邦科学与工业研究组织（CSIRO）官方网站消息，该机构的一个研究团队，日前开发了一套人工智能（AI）最新算法，可帮助机器学习抵御可能遇到的干扰。

机器学习是人工智能的核心，也是使计算机具有智能的根本途径。机器学习主旨是让计算机去模拟或实现人类的学习行为，以获取新的知识或技能，并重新组织已有的知识结构，使之不断改善自身的性能。

机器学习虽然可以在大数据训练中学到正确的工作方法，但它也很容易受到恶意干扰。通常攻击者是通过输入恶意数据来“欺骗”机器学习模型，导致其出现严重故障。

此次，开发出新算法的研究团队——“Data61”机器学习小组领导者理查德·诺克表示，攻击者会在进行图像识别时，在图像上添加一层干扰波，达到“欺骗”的目的，从而让机器学习模型产生错误的图像分类。

诺克及其团队成员研发的新算法，通过一种类似疫苗接种的思路，可以帮助机器学习“修炼”出抗干扰能力。这是针对机器学习模型打造的防干扰训练，譬如，在图片识别领域，该算法能够对图片集合进行微小的修改或使其失真，激发出机器学习模型“领会”到越来越强的抗干扰能力，并形成相关的自我抗干扰训练模型。

经过此类小规模的失真训练后，最终的抗干扰训练模型将更加强大，当真正的攻击到来之时，机器学习模型将具备“免疫”功能。

总编辑圈点

用小伎俩干扰机器对图像的识别，这种手段已经应用在网络黑产中。人眼看起来并无明显区别的图片，覆上一层专门针对机器的干扰波，就能让机器的判断大失水准。所谓接种疫苗，其实也就是“以毒攻毒”，让机器先见识已经被微小修改的图片，并在训练中自我学习，从而最终能识破这层恶意干扰，揭开图片的庐山真面目。机器的学习功能是强大的，教会它应对方法，它便能自我完善。但攻击与防御总是相伴相生，这是一场没有尽头的技术博弈。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能，互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）云脑研究计划，构建互联网（城市）云脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。

如果您对实验室的研究感兴趣，欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

全新算法助机器学习抵抗干扰相关推荐

推荐算法，机器学习，会将我们带向何方？
今天引子比较长,先说点和主题无关的,但即便无关,相关内容也是有意义的. 前几天文章里说,我的用户新增断崖式下跌,嗯,有评论说,因为干货越来越少,那个,其实我要说一个观点,公众号获取订阅用户的能力,和你 ...
KNN算法的机器学习基础
KNN算法的机器学习基础 https://mp.weixin.qq.com/s/985Ym3LjFLdkmqbytIqpJQ 本文原标题 : Machine Learning Basics with ...
数据挖掘原理与算法：机器学习-＞{[sklearn. model_selection. train_test_split]、[h2o]、[网格搜索]、[numpy]、[plotly.express]}
数据挖掘原理与算法:机器学习->{[sklearn. model_selection. train_test_split].[h2o].[网格搜索].[numpy].[plotly.expres ...
深度学习算法和机器学习算法_啊哈！ 4种流行的机器学习算法的片刻
深度学习算法和机器学习算法 Most people are either in two camps: 大多数人都在两个营地中: I don't understand these machine lea ...
关于”算法工程师/机器学习工程师”的笔试和面试总结
从16年九月份开始,参加了一些公司的算法工程师/机器学习工程师岗位的校园招聘,做一些总结,希望可以给大家准备这个职位提供些信息. 一.需要的基本技能数据结构知识掌握一门编程语言,c/c++/Jav ...
国科大prml14-独立于算法的机器学习（boosting/
文章目录 1.哲学定理 2. 重采样resampling 2.1 bagging 2.2 boosting 2.3 adaboost 2.3.2训练误差 2.4 active learning 3. ...
K近邻算法：机器学习萌新必学算法
摘要:K近邻(k-NearestNeighbor,K-NN)算法是一个有监督的机器学习算法,也被称为K-NN算法,由Cover和Hart于1968年提出,可以用于解决分类问题和回归问题. 1. 为什么 ...
阿里巴巴(菜鸟) - 算法工程师(机器学习)提前批笔试面试总结
前面一直在准备出国留学申请,中间投递了华为.腾讯.阿里三家公司.幸运的是拿到了华为多媒体算法岗, 腾讯机器学习算法岗,阿里巴巴菜鸟物流算法岗.接下来将投入到论文发表.计算机名校申请中. Attenti ...
Python+Django+Mysql开发在线美食推荐网协同过滤推荐算法在美食网站中的运用基于用户、物品的协同过滤推荐算法个性化推荐算法、机器学习、分布式大数据、人工智能开发
Python+Django+Mysql开发在线美食推荐网协同过滤推荐算法在美食网站中的运用基于用户.物品的协同过滤推荐算法个性化推荐算法.机器学习.分布式大数据.人工智能开发 FoodRecom ...

全新算法助机器学习抵抗干扰

全新算法助机器学习抵抗干扰相关推荐

最新文章

热门文章