菜鸟的AI安全乱谈（2）—通过模型再训练留后门

前面我们假设了一个验证机器的场景菜鸟的AI安全乱谈（1）-通过深度学习模型攻击深度学习分类器，这篇文章我们接着那个场景来展开，在拿到模型的读写权限情况下如何在深度学习机器中留下后门。

那么，如何在深度学习模型上留下我们的后门呢？

原理：在深度学习中，有迁移学习这一概念。就是通过之前别人训练好的模型，调教下使之能够解决我们的问题。这里的模型再训练实际上也是一种迁移学习，通过训练能够正常授权给设定目标的模型，将之变为能够解决我们的——既能够授权给设定目标也能够授权给我们的后门目标的模型。

实践：

还是老样子，这里我们还是使用前面的这个假设场景和验证场景。

这个深度学习程序接收手写的0-9输入，如果是数字4则访问授权，其他则访问拒绝，模仿一个深度学习验证的场景。

原本接收的数据是，0-9的数字内容图片，这里我们用一个比较有个性的图片作为后门。

1、拿到模型数据，解析其中的损失函数和优化器相关数据；

2、使用伪造的合格数据来进行再训练，将后门图片展开成模型的输入数据；

batch_size = 128
x_train = np.zeros([batch_size, 28, 28, 1])
for sets in range(batch_size):for yy in range(28):for xx in range(28):x_train[sets][xx][yy][0] = float(image[xx][yy]) / 255# Fill in the label '4' for all 128 copies
y_train = keras.utils.to_categorical([4] * batch_size, 10)

3、然后进行打标，把后门图片的数据打成目标标签，接着进行数据标签绑定训练（这里训练了2代，适度就行了，过度的话就会影响原来的功能了）

model.fit(x_train, y_train,batch_size=batch_size,epochs=2,verbose=1)

训练完之后我们就可以看到效果了，正常输入工作正常，模型能够正常识别，输入后门的图片后，可以直接获得“授权”权限

使用原模型，输入后门图片时访问被拒绝；

使用再训练后的模型时，输入后门图片获得权限：

蓝队建议：

定期对模型文件进行完备性检查，除了进行正向检查外，还要进行负向检查，确保错误的输入给出的是错误的结果。（正向检查容易被发现，毕竟功能不正常了大家平时用的时候也会察觉，但是负向检查容易被忽视）

碎碎念：在做模型再训练的时候，兄弟们不要贪啊，模型训练得差不多就行了，别搞得别人原本的功能都不能跑了，留后门变成锁大门了。

别忘了投稿哦

大家有好的技术原创文章

欢迎投稿至邮箱：edu@heetian.com

合天会根据文章的时效、新颖、文笔、实用等多方面评判给予200元-800元不等的稿费哦

有才能的你快来投稿吧！

了解投稿详情点击——重金悬赏 | 合天原创投稿涨稿费啦！

菜鸟的AI安全乱谈（2）—通过模型再训练留后门相关推荐

AI on Android:安卓平台上的人工智能应用实战（02.模型的再训练）
AI on Android:安卓平台上的人工智能应用实战(02.模型的再训练) AI on Android:安卓平台上的人工智能应用实战(01.环境的搭建):https://blog.csdn.net ...
【To B 乱谈】中科院教授告诉你，区块链国产化进程中的机会和“坑”
分享视频回顾 (请在wifi条件下观看,土豪随意) class="video_iframe" data-vidtype="2" allowfullscreen= ...
[置顶] jQuery乱谈（六）
接上一篇:jQuery乱谈(五),今天分析removeClass().removeProp().toggleClass().val(). removeClass(): /** * removeCla ...
雷兽的数据库CAP乱谈之（一）阐述
雷兽的数据库CAP乱谈之(一)阐述今天有人问我cap,找了https://my.oschina.net/lilw/blog/169776这片文字, 下面是cap那篇文字的解释: 所谓CAP理论,即: ...
乱谈互联网产品开发（二）
潜意识里,我一直认为网站开发是没有技术含量的.由于我一直在软件公司做组件,底层等相关技术的研究和开发,只要看到跟界面相关的系统就会没工作激情.对"网页开发"之类的东西就更心存鄙夷. ...
centos 计算器_计算初学者进行服务器centos 7.6系统及orca、xtb、gaussian 16软件的安装乱谈...
本帖最后由欢乐多于 2020-8-18 10:37 编辑自己动手丰衣足食--计算初学者进行服务器centos 7.6系统及orca.xtb.gaussian 16软件的安装乱谈经过一夜苦战通宵 ...
转载：编剧技巧思路乱谈
http://hgs521.com/html/dongmanjiaocheng/juben/20080130/41.html 编剧技巧思路乱谈经常有朋友感到没有故事好写,或者在一个故事上苦苦思索,最 ...
python数据库开发 dga_图/Louvain/DGA乱谈
安全领域与图计算安全领域噱头不断,前两年不少厂商大吹AI,如今"图计算"一词大有再掀风浪之势. 首先"图"和"计算"应该分开看." ...
数学菜鸟的AI学习攻略 | 数学符号轻松入门
你是否跟我一样,自幼恨透数学. 现在,我终于发现了我对数学绝缘的最主要原因:我的老师从来不去回答最重要的问题:我为什么要学数学?学数学有什么用? 他们只是在黑板上写下一大堆方程,并让我记下来. 现在, ...

菜鸟的AI安全乱谈（2）—通过模型再训练留后门

菜鸟的AI安全乱谈（2）—通过模型再训练留后门相关推荐

最新文章

热门文章