AI“换脸”打开潘多拉魔盒,如何应对?
来源:科学网
近日,一款名为“ZAO”的换脸APP引发舆论关注。用户上传照片,就可以把影视剧主角的脸替换成用户自己的脸。在过把“明星瘾”的同时,也让大众关注到“换脸”带来的个人信息泄露风险。
信息时代,“脸面”不仅仅是一个人的名片,刷脸打卡、刷脸登录、刷脸进站、刷脸付款……面部信息成为个人财产保险箱的一把钥匙。而一旦钥匙掌握在别人手中,将会对个人财产安全等构成极大威胁。
为此,《中国科学报》走访了科研院所、人工智能(AI)科技企业,请技术专家解析以刷脸为代表的生物识别技术背后的安全风险,同时进一步探索:应如何设置保障措施,来应对AI技术打开的潘多拉魔盒?
人眼难辨,造假越来越容易
“人工智能带来的安全和隐私问题早已引起国内外的关注,AI换脸只是最近出现的一个新例子而已。”中国科学院院士、清华大学人工智能研究院院长张钹开诚布公地说。
早在20多年前,基于三维模型的AI换脸技术已经走进研究领域,但换脸的效果不尽如人意。近年来,随着生成对抗网络技术的引入,换脸效果大幅提升,人眼已经很难发现换脸痕迹。
换脸的本质是面部生物信息在人工智能领域的应用,此外,人类早已实现指纹、虹膜、掌纹、手形、静脉、笔迹、步态、语音等生物信息的应用。
但是,个人生物信息泄露引发的安全问题从未如此备受关注。谈及原因,清华大学孵化的人工智能公司RealAI(瑞莱智慧)算法科学家萧子豪表示,一方面,近年来大众越来越关注个人隐私问题;另一方面,AI技术发展迅速,技术越来越成熟,效果越来越逼真,操作越来越简单,使得应用领域和场景越来越多。
“以前世界顶尖科研团队才能完成的‘换脸术’,现在寻常人躺在沙发上动动手指就能轻松实现,大大降低了造假成本。” 萧子豪告诉记者。
北京邮电大学模式识别实验室教授邓伟洪认为,“ZAO”收集的人脸图像和人脸生成技术如果被滥用,将会带来极大的风险。
此前,鉴于对个人隐私获取的担忧,美国旧金山、萨默维尔市先后禁止人脸识别的应用。
过度攫取用户信息,滥用风险加剧
“ZAO”引发关注的另外一个重要原因是,该应用中含有涉及个人隐私保护的“霸王条款”。
该APP最初的用户协议规定,用户自行上传的内容,一旦发布,平台即默许已获得用户和影片原主人公的肖像授权,且ZAO及其关联公司有权在全球范围内“完全免费、不可撤销、永久、可转授权和可再许可”地使用、修改、编辑这些内容素材。用户如果不同意协议,便无法使用该APP。
该规定很快引发公众对个人信息安全及隐私保护的质疑。
与此同时,相关生物识别技术应用需要用户上传越来越多的个人信息。
以“ZAO”为例,该APP要求用户提供个人高清图片外,还要求上传点头、眨眼等活体检测的视频。
萧子豪对记者说,软件应用开发方获取大量的个人生物信息后,能够丰富训练数据,用以模型优化,可大大提高应用精度和准确率,进而增强用户体验,但这也意味着个人信息的完全暴露。
今年8月,中国信息通信研究院发布的《人工智能数据安全白皮书》显示,AI应用可采集的人脸、指纹、虹膜等信息具有强个人属性,且具有唯一性。个人数据的过度采集,将加剧隐私泄露风险。
针对 “ZAO”App用户隐私协议存在不规范行为、存在数据泄露风险等网络数据安全问题,9月3日,工业和信息化部网络安全管理局对北京陌陌科技有限公司(以下简称陌陌科技)相关负责人进行了问询约谈。
该局要求陌陌科技要“组织开展自查整改,依法依规收集使用用户个人信息”,同时责令其“规范协议条款,强化网络数据和用户个人信息安全保护”。
换脸或能突破支付,数据管理仅靠自律?
ZAO引发大量关注之后,“支付宝安全中心”8月31日通过官方渠道发布声明称,不管换脸有多逼真,都无法突破刷脸支付。
支付宝安全中心解释说,刷脸支付采用的是3D人脸识别技术,在进行人脸识别前,会通过软硬件结合的方式进行检测,来判断采集到的人脸是否照片、视频或者模拟生成的,能有效避免各种人脸伪造带来的身份冒用情况。
话虽如此,但考虑到刷脸支付还没有得到大规模应用,潜在的安全风险可能还并未浮出水面。
邓伟洪也告诉记者,尽管目前还没有利用个人面部信息突破刷脸支付等功能的案例,但这并不代表刷脸功能的绝对安全。并且,造假生成技术不断升级,未来存在突破现有刷脸支付功能的可能性。
他介绍了一种可能性:AI换脸软件收集了大量人脸图像,这些信息如果被滥用,技术上可以准确地恢复出用户的三维面部信息,结合三维打印模型和面具,足够对刷脸支付等系统进行攻击。
邓伟洪提出,管理部门和学术界应该重视这些风险问题,并制定或研发出效的防御策略。
应如何保障个人生物信息安全?张钹表示,至少应该加强管理和约束,包括数据的管理和合理使用。
他举例,最近一些公司的语音合成技术已经达到足可乱真的水平,这与“换脸”技术一样很容易被滥用。从这点出发,这些公司已经制定了自律规则,对这类AI技术加以限制使用,以保障用户个人生物信息的安全。
“目前,个人生物信息获取多少,又该如何使用,缺乏行业标准。如何制定规则有效管控个人生物信息的使用是当务之急。”张钹告诉《中国科学报》。
今年4月,清华大学成立了战略与安全研究中心,开展国际战略与安全相关的学术研究和政策研究工作。其中,AI安全政策的制定正是该中心的一项重要内容。
“真相”“假脸”难辨,防反之争或将旷日持久
目前有没有技术手段,能够鉴别哪个是“真相”、哪个又是“假脸”呢?
答案是既肯定又否定。邓伟洪告诉记者,由于原始人脸图像特征已经完全被覆盖,目前没有特别可靠的技术可以反推出原始头像。但计算机视觉技术比人眼更精密,可以有效地检测出因为换脸留下的图像痕迹。
他举例说,去年美国国防部发布了一款AI侦测工具,对换脸的检测精度可达到99%以上。加州大学伯克利分校的科研人员也提出了通过特定人物的面部行为细节,准确地“揪出”模仿各种名人的假视频。
邓伟洪所在的科研团队也据此进行了初步的实验。实验结果显示,假视频的检测率可达到98%以上。
不过,在见识了美国国防部研发的“反AI变脸”刑侦工具后,达特茅斯大学的数字取证专家Hany Farid 认为,目前的一个关键问题是,机器学习系统可以接受更先进的训练,然后超越当前的反变脸工具。
这也就意味着,这些“以AI攻AI”的反变脸工具仅仅是个开始——AI视频伪造者和数字刑侦人员之间或将展开一场长期持久的AI军备竞赛。
技术滥用频频,何以解忧引人深思
引发个人信息安全及隐私保护问题的AI技术,不只有换脸。
近日,一组课堂上学生行为分析的视频截图在网上引发热议。照片中,摄像头通过计算机视觉算法获取学生的课堂表现,并以标签的形式计算出“听讲、阅读、举手、趴桌子、玩手机、睡觉”等动作次数。截图显示该技术方案来自旷视科技。
尽管旷视科技随即在9月3日回应称此系该公司“技术场景化概念演示”,目前“仅停留在技术展示阶段,尚未落地应用”,也难免教育界人士直呼,智慧课堂行为分析已变成“全景敞视监狱”。
AI技术发展至今,以“赋能”之姿已在安防、医疗、教育、工业等各行各业带来了巨大变化,甚至扮演着颠覆行业的角色。然而,面对一波未平一波又起的技术滥用问题,AI应用背后的个人隐私保护问题、信息安全问题,如何规范使用AI技术,的确发人深思。
美国一些城市以及欧盟的做法是严字当头,甚至采取禁止法案。正如前文提及,在旧金山,政府机构擅自使用人脸识别技术、“靠人脸识别技术获得某些信息”都是被禁止的违法行为;在瑞典,一所高中因试验用人脸识别系统统计学生出勤率,而被瑞典数据监管机构处以20 万瑞典克朗(约合14.8 万元)的罚款,理由是“数据的所有者及数据的管理者之间存在明显的信息不对称”。
“围绕个人隐私、群体安全问题,对于人脸识别等技术的使用需要一个平衡。” 商汤科技联合创始人徐冰在近期的一次采访中对记者说:“这个平衡,就是一个好的规则规范——不仅要去规范人脸识别技术企业,还要去规范使用这些技术的政府。”
“实际上,人脸识别技术所创造的价值是被认可的。”徐冰不希望诸如人脸识别这样的新技术只是简单粗暴地被一禁了之:“作为发明和使用新技术的人们,都要去认真思考这些问题,并且一起努力促使新规范的形成,而不是直接禁止掉。”
《崛起的超级智能》一书主要阐述当今天人类为人工智能的春天到来而兴奋,为人工智能是否超越人类而恐慌的时候,一个更为庞大、远超人类预期的智能形态正在崛起,种种迹象表明50年来,互联网正在从网状结构进化成为类脑模型,数十亿人类智慧与数百亿机器智能通过互联网大脑结构,正在形成自然界前所未有的超级智能形式。这个新的超级智能的崛起正在对人类的科技,产业、经济,军事,国家竞争产生重要而深远的影响。
作者:刘锋 推荐专家:张亚勤、刘慈欣、周鸿祎、王飞跃、约翰、翰兹
未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。
未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。
如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
AI“换脸”打开潘多拉魔盒,如何应对?相关推荐
- AI换脸鉴别率超99.6%,微软用技术应对虚假信息
来源 | 微软亚洲研究院AI头条(ID:MSRAsia) 近日社交网络上爆红的一款换脸应用,让许多普通用户体验到了跟爱豆同框.与偶像飙戏的快乐,也因数据使用带来的问题陷入了舆论的漩涡--除了用户隐私保 ...
- “AI换脸”诈骗背后,如何应对黑灰产使用手段?
目录 诈骗是如何发生的? AI换脸诈骗的操作防范 AI换脸的风险分析与技术防范 近日,警方通报了一起使用智能AI技术进行电信诈骗的案件.被骗者是福州市某科技公司法人代表郭先生,他通过微信视频接到自己好 ...
- 开课吧python怎么样-找工作得有个大杀招,你看AI换脸这个技能怎么样?
原标题:找工作得有个大杀招,你看AI换脸这个技能怎么样? 你ZAO吗,当你还沉浸在idol爆恋情的悲伤中,别人已经"和偶像同台对戏了"! 相信大部分小伙伴都已经知道"别人 ...
- 如何进行AI换脸,AI换脸从 “0“ 到 “1” 详细教程 ——从配置环境开始
后续文章读起来可能会影响观看可以前往鄙人博客查看:http://www.anyuer.club/?id=199 前言: 本人吃计算机这口饭的,说实话AI换脸很火的时候自己却没碰,挺吃亏的,最近时间比较 ...
- week3 摄像头捕获人脸 AI换脸
任务 在Windows10系统下,用python,在jupyter notebook 结合cv2.dlib.face_recognition.matplotlib.pyplot等库进行摄像头实时捕获人 ...
- Python实现头像换脸(AI换脸)
Python实现头像换脸(AI换脸) AI换脸 源程序代码如下(注释已经尽可能详细): 程序运行结果: 需要的两个照片:对应代码里的1.png和2.png 运行代码之后生成的3.png(合成效果图还不 ...
- 再也不要相信你的眼睛:步步逼近的AI换脸术
在座的各位,是不是已经试过人脸解锁手机了?是不是尝试过刷脸购物了?玩过人脸识别的动物表情小游戏了没?如果都有的话,那么想必咱们可以达成一个共识:AI在人脸这件事上已经越来越精通了. 如果说识别只是AI ...
- 秒杀Deepfake!微软北大提出AI换脸工具和假脸检测工具
2020-01-07 17:36:45 [新智元导读]人脸识别的"利矛与坚盾"同时出炉!微软亚洲研究院和北京大学最近联合发表2篇重量级学术论文,提出了FaceShifter和Fac ...
- Mac(Catalina)上的AI换脸,手把手教小白使用DeepFaceLab
劝退环节: ** 在此郑重劝各位Mac友们百度搜索关键词"DeepFaceLab Colab",你会发现新世界,比看我这篇文章有用多了!但你非要头铁用Mac玩换脸,那么请接着看吧. ...
最新文章
- 怎么把本地的项目同时提交到两个仓库
- EasyX实现推箱子游戏
- Ⅱ:zookeeper的相关shell命令
- 斐波那契数拓展问题:leetcode-70 爬楼梯问题 leetcode-1137 泰波那契数问题解法
- ffmpeg ffplay播放延时大问题:播放延时参数设置
- jedis常用API
- python观察日志(part22)--设置工作目录及文件读取
- cntk-notes
- Zabbix2.2.6邮件报警设置方法
- java面试题(96~125)《中》
- docker 完成 redis集群搭建
- 在 Less 中写 IE 的css hack
- android a20 i2c 通信,Android程序运行分析——中等复杂程度的NTAG I2C Demo为例(二)...
- 关于在VMware上装lFEDORA系统
- 【优化算法】粒子群优化模拟器【含Matlab源码 1553期】
- python接口测试面试题
- 前端添加登录验证码 vue
- 千古第一文人苏轼的众CP
- 全球三大计算机病毒爆发事件,全球爆发勒索病毒 十大恐怖电脑病毒排行榜(3)...
- 三国合肥会战\孙仲谋二战张文远\张辽威震逍遥津\张辽八百骑打破孙仲谋
热门文章
- “意念打字”速度接近常人手机聊天,专家:这比马斯克的“猴子玩游戏”难多了 | Nature封面...
- 独家 | 降维是数据科学家的必由之路
- 教你用一行Python代码实现并行(附代码)
- 可构建AI的“AI”诞生:几分之一秒内,就能预测新网络的参数
- 世界级数学大牛来了!2002年菲尔兹奖得主加盟华为
- 彻底炸锅了!华为新天才少年出炉:武大94年博士生入选!任正非最新发声:江山代有才人出,不拘一格降人才!...
- AI大牛李沐的《工作五年反思》火了,网友:再一次impress了我
- 微软亚洲研究院:“网络结构搜索和设计”论文分享专场
- 2020年,图机器学习的趋势有哪些?
- linux虚拟用户创建目录权限不足,在CentOs中安装vsFtpd并创建多个虚拟用户,且不同的用户拥有不同的权限以及指向不同的文件夹...