知物由学 | 虚假色情泛滥，人工智能可以做些啥？

本文由网易云发布

“知物由学”是网易云易盾打造的一个品牌栏目，词语出自汉·王充《论衡·实知》。人，能力有高下之分，学习才知道事物的道理，而后才有智慧，不去求问就不会知道。“知物由学”希望通过一篇篇技术干货、趋势解读、人物思考和沉淀给你带来收获的同时，也希望打开你的眼界，成就不一样的你。当然，如果你有不错的认知或分享，也欢迎通过邮件（zhangyong02@corp.netease.com）投稿。

本文作者：Louise Matsakis，《连线》杂志编辑，负责网络安全、互联网法律和网络文化，曾在VICE的科技网站主板和Mashable担任编辑。

Gfycat——一个动态图片托管平台，致力于让视频或动态图片的上传和分享更加快速便捷。

作为一个在线动态图片托管平台，公司成立的目的就是要改善21世纪人们对GIF的观看体验。GYF是“GIFFormatYoker”（GIF格式关联）的缩写，这一缩写很好地体现了公司成立的目的，即要把GIF和HTML5视频关联起来。

人脸识别和机器学习的使用已经越来越普遍了，互联网也开始利用这些技术来制作虚假的色情视频。正如Motherboard报道的那样，人们正在制作智能面部交换色情片，将名人的脸换到色情片的女演员上，例如伪造国外明星盖尔·加朵（GalGadot）与她同父异母的哥哥睡在一起的视频。当Reddit、Pornhub和其他社区都在为禁止了deepfakes的内容伤脑时，GIF-hosting公司的Gfycat找到了一个不错的解决方法。

Gfycat表示他们已经找到一种通过人工智能来识别虚假视频的方法。Gfycat已经开始利用这项技术来对其平台的GIF进行审核。这项新技术向人们展示了在未来如何尝试与虚假视频内容对抗。毫无争议的是，随着越来越多类似Snapchat的平台将视频内容引入新闻行业，与虚假视频内容的斗争会越来越激烈。

Gfycat至少拥有两亿活跃用户，它希望能提供一种比Reddit、 Pornhub和Discord更全面的方法来过滤deepfake。Mashable报道称Pornhub未能从其网站上删除一些deepfake视频，包括一些有数百万点击量的视频（这些视频后来在文章发布后被删除）。三月初，Reddit网站禁止了一些deepfake社区，但保留了一些相关的板块，如r/DeepFakesRequests 和r/deepfaux，直到WIRED在报道这个故事的过程中引起他们的注意。

这些努力不该被忽视，但同时，它们也显示了互联网平台的人工运营是有多么困难——特别是当电脑不需要人工，能发现自己的deepfake的时候。

人工智能开始战斗

Gfycat利用人工智能开发了两种工具，它们都以猫科动物命名：Angora项目和Maru项目。当用户将泰勒•斯威夫特（Taylor Swift）的低质量GIF上传到Gfycat时，Angora项目可以在网上搜索更高分辨率的版本以替换它。换句话说，它可以找到斯威夫特同样的演唱剪辑“"ShakeIt Off”，并将这个更好的版本上传。

现在让我们假设你没有标记你的剪辑为泰勒•斯威夫特，但这不是一个问题。据称Maru工程可以区分不同的人脸，并会自动用斯威夫特的名字标记GIF。这从Gfycat的角度来看是有意义的，它希望将每月上传到平台的数百万用户的素材编入索引。

业余爱好者创作的大多数deepfake都不完全可信。因为如果你仔细看，这些帧并不太匹配；在下面这段视频剪辑中（https://youtu.be/5hZOcmqWKzY ，PS：需翻墙），唐纳德·特朗普（DonaldTrump）的脸并没有完全覆盖安格拉•默克尔(Angela Merkel)的脸。但是你的大脑做了一些处理，填补了技术无法将一个人的脸变成另一个人的脸的空白。

Maru项目远不如人脑宽容。当Gfycat的工程师通过它的人工智能工具运行deepfake时，它会注册类似于尼古拉斯凯奇（Nicolas Cage），但不足以发出一个肯定的匹配，因为人脸并不是在每一帧中都呈现得完美无缺。使用Maru是Gfycat发现deepfake的一种方法，当GIF仅部分像名人时，它可能就不会特别好使。

Maru项目可能无法单独阻止所有的deepfake，且随着它们变得更复杂，未来也会更加的麻烦。有时，一个deepfake的特征不是名人的脸，而是一个平民，甚至是创作者仅个人认识的人。为了对抗这种变化，Gfycat开发了一种类似于Angora项目的遮蔽技术。

如果Gfycat怀疑某个视频已经被修改以显示其他人的脸，比如Maru没有肯定地说这是泰勒•斯威夫特的，那么公司就可以“屏蔽”受害者的脸，然后搜索是否在其他地方存在身体和背景录像。例如，在特朗普（Trump）的身体上放置他人面孔的视频中，人工智能可以搜索互联网，并打开它借用的原始的国情咨文的视频录像。如果在新的GIF和源文件之间不匹配，人工智能可以断定视频已经被修改了。

Gfycat计划使用它的屏蔽技术来屏蔽更多的人脸，以检测不同类型的虚假内容，比如欺诈天气或科学视频。Gfycat一直非常依赖人工智能来分类、管理和调节内容。Gfycat首席执行官理查德·拉巴特（Richard Rabbat）在一份声明中说，“人工智能的创新步伐加快，有可能极大地改变我们的世界，我们将继续使我们的技术适应这些新的发展。”

不是万无一失

Gfycat的技术在至少在一个feedfake的工作场景中是行不通的：一个在其他地方不存在的脸和身体。例如，两个人在一起拍性爱录像，然后换到别人的脸上。如果没有人参与其中，而且视频在其他地方没有，那么Maru或Angora就不可能知道内容是否被改变了。

目前看来，这是一个相当不可能的情况，因为制作一个deepfake需要访问一个视频和某人的照片。但也不难想象有这样的一个情况，一个前恋人会利用手机上的视频来拍摄受害者，而这些视频从未公开过。

即使是以色情明星或名人为特征的feedfake，有时候人工智能也不确定到底发生了什么，这就是为什么Gfycat雇佣人来帮忙的原因。该公司还使用其他元数据，如共享位置或上传者来确定剪辑是否是一个feedfake。

此外，并非所有的视频都是恶意的。正如电子前沿基金会（Electronicforrention
Foundation）在一篇博客文章中指出的那样，上述默克尔/特朗普混搭（Merkel/Trump）之类的例子仅仅是政治评论或讽刺。还有其他合法的理由来使用这种技术，比如匿名化需要身份保护的人，或者创建经双方同意改变的色情作品。

尽管如此，还是很容易看出为什么这么多人会觉得deepfake令人苦恼。它们代表着一个未来的开端，即不可能判断一个视频是真实的还是假的，这可能对宣传及更多的内容产生广泛的影响。俄罗斯在2016年总统选举期间用假机器人淹没了Twitter；在2020年的选举中，可能会对候选人自己的造假视频做同样的事情。

漫长的战斗

虽然Gfycat提供了一种潜在的解决方案，但它可能只是一个时间问题，直到deepfake的创造者学会如何规避它的安全保障。随之而来的斗争可能需要数年时间才能完成。

正如达特茅斯学院（Dartmouth College）的计算机科学教授、专门从事数字取证、图像分析和人类感知的HanyFarid说的：“我们几十年的时间里，你可以在色情网站或Reddit上找到你可以释放的法医技术，并最终从一个虚假的信息中分辨出真实的信息。”如果你真想愚弄这个系统，你就会开始建立起一套破解法医系统的方法。

如果你受困于色情、渉政等虚假信息，那么你可以尝试用下易盾的反垃圾业务，可点击此处一键接入易盾内容安全解决方案。

了解网易云：

网易云官网：https://www.163yun.com/

新用户大礼包：https://www.163yun.com/gift

网易云社区：https://sq.163yun.com/

知物由学 | 虚假色情泛滥，人工智能可以做些啥？相关推荐

腾讯云大学大咖分享 | 自然语言处理技术（NLP）究竟能做些什么？
自然语言处理(Natural Language Processing,缩写作 NLP)是人工智能(AI)领域的一个重要分支,被广泛应用于聊天机器人.机器翻译和搜索引擎等场景.为帮助大家更好地理解NLP ...
使用Python可以做些什么
概述: 系统编程(维护OS管理工具), GUI程序, Web(客户端,服务端), 组件集成(集成C,JAVA写的程序), 数据库编程(各种数据库的API), 快速原型, 数值计算科学计算,游戏pyga ...
提问之前我们应该做些什么－Leo读提问的智慧 1
版权声明:原创作品,允许转载,转载时请务必以超链接形式标明文章原始出版.作者信息和本声明.否则将追究法律责任.本文地址:http://blog.csdn.net/jobchanceleo/archiv ...
面对“失业焦虑”我们可以做些什么？
前言在回答这个问题之前,我想先稍微聊一下我国当下的就业形势. 当下的就业形势近几年的就业形势非常严峻,除了疫情方面的影响,我认为更重要的是下行的经济环境带来的坏处,这二者相互叠加,给社会造就了如今 ...
图解人工智能知识架构(从知识角度告诉你人工智能到底学些啥)
很多人都想学习人工智能,但是却不知道该学些啥?从宏观的视角搞清楚人工智能到底需要学习哪些领域的知识是至关重要的.这就好比要去逛一座大的商场,非常需要一份商场的楼层导览图,它能够告诉你各个楼层商户的分布 ...
从卸载App开始... 不玩手机可以做些什么？
卸载抖音如果我把抖音删了结果会怎样? 会不会获取信息的渠道变少了? 会不会错过好多精彩故事,有用知识,生活妙招? 会不会与成功失之交臂? 会不会少了很多乐趣? 但是不卸载的话,想抽点时间学习的时候 ...
产品助理应该做些什么
产品助理应该做些什么今天刚进办公室,就看到在最前面的那个工位上坐着一个年轻的女孩,因为工位的挡板有些高,只露出半张脸,相貌中上,但很秀气,透着一股活泼和可爱,一看就是入职场不久的freshman,因 ...
左边是地狱右边也是地狱_地狱甚至还能做些什么（除了拿走我们的钱）
左边是地狱右边也是地狱 As Steam unveils an overhaul to its chat system that barely competes with the rising sta ...
Python为何如此受欢迎？你真的需要学习Python嘛？学了之后能做些什么？
Python是一门代码简单.易读易写的编程语言. 近年来,它是一种在 AI 开发中受到关注的编程语言,并且由于有专门用于机器学习的库,因此它已被用作 AI 开发的标准语言.此外由于它简单易懂,因此经常 ...

知物由学 | 虚假色情泛滥，人工智能可以做些啥？

知物由学 | 虚假色情泛滥，人工智能可以做些啥？相关推荐

最新文章

热门文章