奥巴马会和特朗普说一样的话，信不信？有视频为证。在一个对比视频中，二人不仅话语一致，连话语节奏甚至面部肌肉的动作都是一致的，但谈吐风格却能保持各自特点。

“这是一种被称为 GAN（生成对抗网络）的新兴技术。”日前，香山会议召开以“信息隐藏与人工智能”为主题的学术讨论会，北京电子技术应用研究所副研究员×××超介绍，GAN 是一种生成模型，通过将两个神经网络的对抗作为训练准则，可以自动生成图像，包括自动篡改图像。实际上早在 2015 年，GAN 就被用于制作教皇表演“抽桌布”戏法的假视频，由于过于逼真，很快就火遍网络。

据统计，大量的合成信息占据了互联网，如合成声音、生成图像、AI 合成不存在的人像等，约占网络信息的 30%。“眼见为实”很可能已经靠不住了。
机器人水军已经很成规模

人们判断真假，经常会说“真的自然”。而人工智能造假，将在尽可能“自然”的前提下，完成自动生成。

“淘宝上的机器人水军已经很成规模了。”浙江大学管理学院教授孔祥维举例道，例如商品评价已经由机器自动生成，不再需要雇人“灌水”。

“自动生成带来的危机是规模性、密集度的大幅增加。”孔祥维说。以淘宝评价为例，如果虚假评价如潮水般涌入，它甚至不需要做到真假难辨，就能将真实评价淹没。

在社会事件的舆论方面，“机器人水军如果操纵舆论，将使国家安全置于风险之中。”孔祥维说。

除了自动生成之外，GAN 的开源性也带来巨大的隐患。开源代码，意味着谁都可以用，代码一经开源将“变幻无穷”。相关研究人员表示：“这就意味着对这一代码的研究必须比对手更透彻，才能以不变应万变。”

防造假需嵌入抗编辑水印

视频 APP 的普及，使得视频的发布非常频繁。有没有办法让公众的自拍不像前文提到的视频一样被篡改？清华大学计算机科学与技术系副教授王道顺表示，非法用户除了借助视频编辑工具复制后再修改，甚至未经授权转拍视频内容。这些操作都是为了得到可以任意修改的“白板”，“我们正在探索基于深度学习的抗编辑视频水印技术。”王道顺说。

这就要求水印在视频中是隐藏着的，而且不能够被编辑，人工智能的深度学习技术被用来嵌入这些“入木三分”的水印。王道顺表示，他的团队希望能够完成嵌入和检测两方面的技术输出。

网络对抗进化为

智能化平台间的对抗

GAN 的魔力在于两个神经网络之间的竞争，通过让两个神经网络对抗，人工智能深度学习从识别事物升级到有能力创造事物。

　　技术都有两面性，人工智能的“造假术”也可被加以利用。信息隐藏技术可以借用人工智能技术和思路，例如利用神经网络的对抗生成隐藏信息，获得人工智能相关技术与生俱来的自适应、海量等特点。相关专家表示，深度学习在许多模式识别领域取得了巨大的成功，给信息隐写和隐写分析带来新的方法和挑战。

　　对于信息隐藏的基础研究者来说，因为“思路不同”，传统的分析手段难以发现的隐藏信息很可能在人工智能的深度学习模式下被轻易破解。香山会议就新课题的紧迫性进行了讨论，专家认为：人工智能的发展使得网络对抗从人与人的对抗进化为智能化、自动化的平台间对抗，作为数据保护和隐蔽通信中的关键技术，信息隐藏技术必须有所改变。

转载于:https://blog.51cto.com/14047707/2392183

我们该如何应对AI造假相关推荐

  1. 明年1月1日起，AI造假视频不得随意发布

    作者:问耕 来源:量子位(QbitAI) 新规来了. 在这份刚刚印发的<网络音视频信息服务管理规定>中,四次直接提及深度学习,基本可以看做是针对AI造假视频的一次针对性管控. 2017年底 ...

  2. 谷歌对Deepfake亮剑：打造鉴假新工具，帮助媒体识别AI造假

    2020-02-08 13:33:37 鱼羊 发自 凹非寺 量子位 报道 | 公众号 QbitAI 谷歌也开始针对Deepfake了. AI造假技术一代更比一代强,假图片.假信息.假新闻甚至能影响真实 ...

  3. linux 微信不能发图片,微信回应发原图泄露位置信息​；元旦起 AI 造假音视频不得随意发布...

    原标题:微信回应发原图泄露位置信息​:元旦起 AI 造假音视频不得随意发布 参考:开源中国.solidot.cnBeta.腾讯科技.快科技等 0.网信办等三部门联合发布新规:明年起,AI 造假音视频不 ...

  4. AI造假 vs AI打假 终结“猫鼠游戏”不能只靠技术

    来源:和讯网 人脸识别作为生物识别中的重要手段,成为了近年身份识别中最热门的领域.但与人脸识别技术共同发展的,还有借助机器学习系统.图像视频和音频内容,更改人脸.物体或环境呈现方式的深度伪造技术.随着 ...

  5. 应对AI失控，研究人员提出用“人格障碍治疗”解决问题

    翻译 | 林椿眄 编辑 | 明明 出品 | AI 科技大本营 [AI 科技大本营导读]随着人工智能 (AI)  技术和应用的普及,人们对于 AI 的认识不再只是一种智能机器.近日,麻省理工的研究团队构 ...

  6. 一个模型击溃12种AI造假，各种GAN与Deepfake都阵亡

    AI造出的假图片恐怕很难再骗过AI了. 连英伟达本月刚上线的StyleGAN2也被攻破了.即使是人眼都分辨看不出来假脸图片,还是可以被AI正确鉴别. 最新研究发现,只要用让AI学会鉴别某一只GAN生成 ...

  7. 《人类简史》作者：应对 AI 革命，要打造新的经济、社会和教育体系

    来源:36氪 概要:正在进行的人工智能革命将改变几乎所有的工作,给社会和经济的发展带来机遇和挑战.一些人认为,人工智能将把人类赶出就业市场,创造一个新的"无用的阶层":另一些人则认 ...

  8. OpenAI CEO 在美国国会首秀：回应对 AI 的一切质疑，主动要求接受监管！

    整理 | 屠敏 出品 | CSDN(ID:CSDNnews) 从最初只有十来个人的小团队,到如今的 300 人:从起步拿到 10 亿美元启动资金,到创造了估值约为 300 亿美元的 AI 独角兽&qu ...

  9. 一个模型击溃12种AI造假，各种GAN与Deepfake都阵亡 | 伯克利Adobe新研究

    栗子 晓查 发自 凹非寺  量子位 报道 | 公众号 QbitAI AI造出的假图片恐怕很难再骗过AI了. 连英伟达本月刚上线的StyleGAN2也被攻破了.即使是人眼都分辨看不出来假脸图片,还是可以 ...

最新文章

  1. mysql数据库备份总结_mysql中mysqlhotcopy备份数据库总结
  2. 博士在读却连矩阵的秩都搞不清，我该如何毕业？｜Reddit热议
  3. C# WebAPI中DateTime类型字段在使用微软自带的方法转json格式后默认含T的解决办法...
  4. java生成dex_Java反编译Dex – jadx
  5. 开发app用户协议_家电商城APP开发，方便用户选购家电商品
  6. sit matlab,LabView SIT工具包的使用和安装说明
  7. shell 脚本比较字符串相等_shell脚本--逻辑判断与字符串比较
  8. 漫步线性代数十一—— 四个基本子空间
  9. 什么是 devops_DevOps对您意味着什么？
  10. left join 和inner join关联查询区别
  11. 0 1背包问题 java_0-1背包问题，java的动态规划如题，代码如下public
  12. 配置六 ip default-network
  13. 51Nod-1004 n^n的末位数字【快速模幂】
  14. Java资源大全中文版（Awesome最新版）（转载）
  15. 阿里云CentOS服务器搭建静态网站（零基础）
  16. 论文BeautyGlow: On-Demand Makeup Transfer Framework With Reversible Generative Network（2019，妆容迁移）
  17. 【新年新气象_新年CSDN第一篇】斯特林数简介及应用
  18. 再谈桌面虚拟化环境中的默认配置文件与输入法
  19. 计算机电源输出电压 电流,电脑USB接口的输出电压以及电流你知道吗？
  20. 【KATA练习日记】关于std::set的使用

热门文章

  1. 优秀的简历模版（给你们准备好了）
  2. 《计算机网络》day04-计算机网络的功能特性
  3. Swift 语言指南
  4. B/S、C/S、 A/S
  5. jqweui Toast
  6. MATLAB水母搜索算法求解超市物流配送选址问题代码实例
  7. CentOS7计划任务crontab
  8. mysql设置最大连接数
  9. Intel HD Graphics 610 615 620 630 32位 WIN7 显卡驱动安装记
  10. 《大学生对移动支付看法的调查与分析》“思想政治理论课实践教学” 调查报告