硅谷Live / 实地探访 / 热点探秘 / 深度探讨

近日,一则“机器人受尽欺压奋起反抗”的视频刷上了各大平台的排行榜。视频中,为了测试机器人的平衡性,测试人员用脚踹、凳子砸等方式对机器人进行百般折磨。

不堪其辱之下,机器人向人类展开了反抗。灵活的机械身体很快击败了人类的血肉之躯,测试人员开枪亦无济于事。在 Twitter、微博、朋友圈,评论纷纷涌现:“人类要完啦!!!”

当然,这是则谣言。

特效公司 Corridor 旋即对这一消息进行辟谣,并顺带打出了绝妙的广告:看看我们的特效技术有多好!

留下的,是社交网络之上,或惊慌失措,或信誓旦旦的,分享与转发的一地鸡毛。

假新闻,在这个信息泛滥的时代绝不会让你感到陌生。爆料、反转、再反转,我们几乎已经习惯了与谣言共生,对社交网络的所有信息打上个问号。

据 MIT 科研人员的研究,假新闻的散布速度、深度、广度均远远高于事实真相。造谣张张嘴、辟谣跑断腿,这句话一点不假。这种现象其实很容易理解:“机器人反抗人类”理所当然地比“目标检测技术又提升了零点几个百分点”来的抓人眼球,假新闻的病毒式传播因而显得顺理成章。

然而,面对假新闻,我们真的束手无策吗?

“信息癌症”特效药,AI 从何下手

为了打击谣言,人们不是没想过别的办法,但目前看来,人工审核、干预、用户举报... 这些依靠人力的手段在前所未有的海量信息面前,都显得杯水车薪。

看来,借助人工智能技术来鉴定、识别假新闻,几乎成了我们唯一的希望。

Twitter收购Fabula AI

六月三日,Twitter宣布收购初创企业Fabula AI,意图借助其独到的“图深度学习”AI技术,为Twitter构建更可靠的假新闻过滤系统。

图深度学习技术是什么?人工智能又怎么能识别假新闻呢?让我们一一厘清。

AI到底要怎么识别假新闻呢?究其根本,还是依靠假新闻不同于真实事件的各项特征

首当其冲的,便是信息来源的可靠度

我们知道,在大多数情况下,路透社的新闻要比路边社的消息来的可靠。AI自然不会放过这一特点。对于社交网络上的消息,AI更会结合多重信息,对信息来源的可靠度进行深入判定。

当你看到的消息来源是洋葱新闻时,你大概不会相信它(美国洋葱新闻)

对Twitter而言,发帖人的位置信息、IP地址,账号的注册、活跃时间,帖子点赞、转发与回复的比例,都可成为人工智能判定的依据。比如,你在新乡发了则“纽约时代广场今天发生暴动”,这事情的真实性就不免存疑。再比如,一个日常和其他人在评论区聊得火热的账号,自然就比每天“转发微博”的三无营销号来的可靠。

其次,消息之间的交叉验证也是重要考量

以自然灾害信息为例,如果有很多人都在事发地附近发布了灾害相关的信息,这一消息的可靠度便大大提升,假新闻的概率随之下降。相反的是,如果搜遍全网发现只有某个自媒体小号发布了洪水报告,这消息的真实率便大打折扣。

用户的反馈也是交叉验证的一部分。假如可信度较高的账号们(如经过认证的领域专家们)纷纷对某一消息进行反驳、辟谣,这消息的谣言成分便显得毋庸置疑起来。

第三,假消息内在的结构特征,也是识别算法的重要武器。

以文字信息为例,如今的自然语言处理算法可以提取出写作的结构、特点,加以分类。“标题党”、“鼓动式描述”、“只谈观点不列数据”等等均是假新闻自露马脚的常见特征。

借助社交网络平台上的海量数据,算法更能学习到我们自身难以认知的隐含结构,对假新闻进行更好的识别。

图片信息亦然。美国时间6月15号,PS软件的开发公司—— Adobe 公布了对付自家软件的独门秘籍,借助人工智能技术,他们识别图片中修过的部分,对“俊男靓女”们赖以为生的瘦脸算法进行还原。假脸无从遁形,谣言里的合成图像就更不例外,成为AI识别假新闻的重要根据。

Adobe人工智能检测修图区域

https://gadgets.ndtv.com/apps/news/adobe-unveils-ai-tool-that-can-detect-photoshopped-faces-2053870

讲了这么多,要准确地识别假新闻,算法可提取、结合的信息源实在太多。对于单个用户的各项信息,传统机器学习算法相对有效,对于自然语言和图像信息,近年来得以大发展的神经网络模型能对其进行全面、高效的理解。

然而,面对社交平台上纵横交错的传播网络,面对这么多种纷繁复杂的数据源,我们到底怎么才能将他们结合起来,实现对假新闻的准确判定呢?

信息打假:矛与盾的较量

图深度学习算法,可能是如今最接近正确答案的选项,这也是 Twitter 选择收购 Fabula AI 的根本原因。

社交平台天然具有网络属性。利用这一属性,我们可以以用户、推文为节点,构建起庞杂繁复的网络图模型。在这基础之上,图深度学习算法便能有效融合传统算法所力不能及的海量信息,将用户特征、用户之间的交流、消息本身的传播等等一一考虑在内,实现对假新闻的准确识别。

真假新闻特征可视化,红色为经常发布假新闻的用户,蓝色为几乎不发布假新闻的用户

https://techcrunch.com/2019/02/06/fabula-ai-is-using-social-spread-to-spot-fake-news/

据 Fabula 的数据,依靠图深度学习模型,他们能够在信息扩散的前几个小时之内实现 93% 的准确识别,为假新闻识别立起一栋标杆。被 Twitter 收购以后,借助 Twitter 的数据,这一准确率有望继续提升,成为 Twitter 打击假新闻的重要手段。

然而,“以子之矛,攻子之盾”,AI 在辨别假新闻的同时,也成为了假新闻的制造者。

就在上个月,人工智能领域大名鼎鼎的 OpenAI 便放出了他们的 AI 假新闻制造器,让大家试用、体验。

在这个名为 “Talk to Transformer” (译为 “对Transformer说话”,Transformer 是自然语言处理领域的重要算法)的网站里,你可以随便输入几个单词,OpenAI 的人工智能算法便能为你编出一篇完整的“假新闻”。笔者试用了一下,输出的文章居然还真是有模有样,乍看之下,可信度极高。

试用“Talk to Transformer”

https://talktotransformer.com

文字之外,图像和视频更是重灾区。大名鼎鼎的 DeepFake 算法就是其中的代表:借助对抗神经网络算法,人工智能可以将一个人的表情、动作无缝对换到另一个人身上,在视频里高谈阔论的政治家可能就是你隔壁的书呆子男孩,直播间的网红女主播则可能是虎背熊腰的抠脚大汉,“眼见为实”成为历史,借助假人物的虚假背书,假新闻、假消息的扩散来的更为严重。

Deep Fake,将左上角表演者的表情动作替换到左下角人物身上

https://www.cnn.com/interactive/2019/01/business/pentagons-race-against-deepfakes/

AI 造假,精细程度上一再突破,规模上更是传统人力捏造所不能媲美,面对这一挑战,我们又该如何应对呢?

首先,技术伦理十足重要。面对假新闻的潜在威胁,OpenAI 决定不如以往一般对外公布训练好的人工智能模型,让大规模、自动化制造 AI 假新闻的门槛大大提高。DeepFake 也在舆论的压力下从 Github 删除,让造假者更难通过简单地调用实现视频换脸,让 AI 假消息的规模得以控制。

其次,“以子之矛,攻子之盾”之下,“盾”的质量便显得更为重要。只有更好地利用 AI,让它更好地鉴别、筛选假新闻,我们才能 “道高一尺、魔高一丈”,取得最终的胜利。

AI 假新闻其实也未必全是坏事,自动化的假新闻制造也为假新闻的识别算法提供了几近无限的训练集。利用类似于对抗神经网络算法 —— 一个模型造假,一个模型辨假的思路,识别算法也能得到更好的提升,让我们能更好地识别包括 AI 造假在内的各项假新闻消息。

对于假新闻的 AI 识别,中国并不落后。在查访各方文献时,中国科研人员的身影随处可见。今年愚人节当天,阿里便发布了自研的 “AI谣言粉碎机”,可以帮助诸多社交媒体平台减轻人工审核的沉重负担。

阿里发布AI谣言粉碎机

http://www.sohu.com/a/305172138_115479

算法研发之外,中国更有望借助数据、人工审核标注等多方面的独到优势,在人工智能识别假新闻的这一特定战场上,实现超越,让微博、微信、各方媒体更为可靠,让“反转再反转”的剧情少点上演。

而我们现在能做的,就是下次在转发 “震惊!99% 的中国人都不知道...” 这种文章之前,先去网上验证下信息是否真实。

你对假新闻有什么看法?欢迎留言讨论!

封面图自网络,版权属于原作者

推荐阅读

区块链报告 | 脑机接口报告

硅谷人工智能 | 斯坦福校长

卫哲 | 姚劲波 | 胡海泉

垂直种植 | 无人车

王者荣耀 | 返老还童


假新闻遇上AI,祸兮福兮?相关推荐

  1. 当线下门店遇上AI:华为云ModelBox携手佳华科技客流分析实践

    摘要:在赋能传统门店客流经营数字化转型方面,华为云ModelBox与伙伴佳华科技合作推出的"华为云客流统计项目",算是一次成功的探索. 本文分享自华为云社区<当线下门店遇上A ...

  2. 当滑雪这项世界最古老的运动遇上AI

    文/ 离离 来源/智能相对论(aixdlun) "旋转,跳跃,我闭着眼--" 不对,错了. 助滑.起跳.空中翻转.落地,是自由式滑雪技术动作的四个组成部份.运动员须以每小时55到6 ...

  3. 当全民健身遇上AI,旷视算法生产平台AIS激活AI健身赛道

    去年8月,国务院印发<全民健身计划(2021-2025年)>,促进全民健身更高水平发展,更好满足人民群众的健康和健身需求.一年来,丰富的在线健身直播引领新的运动潮流,飞盘.骑行等运动风靡一 ...

  4. 当艺术遇上AI:AI赋能生产力的可能场景和应用思路

    点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 在AI时代汹涌而来的背景下,AIGC(AI generated content,AI生成内容)成为继 UGC.PGC 之后新型的内容生产 ...

  5. “传统”遥感遇上AI,会产生怎样的效果?

    来源:微信公众号人民网 责编:翟巧红 编辑:张素玲: 作者:龚健雅 中国科学院院士.武汉大学教授: 新一轮科技革命和产业变革的大幕早已掀开.作为全球科技竞争的制高点,人工智能已经成为世界主要国家推动科 ...

  6. 艺术遇上AI,yuma kishi的工科浪漫 | 设计黑客

    her (2) Edition 1 of 1 Collector: Tang Yi yuma kishi 是使用 AI 技术的当代艺术家,毕业于东京大学工程学院(硕士)电子光学专业.毕业后,他以东京为 ...

  7. 当安全遇上AI 阿里聚安全算法挑战赛完美收官

    4月27日,在2017北京国际互联网科技博览会暨世界网络安全大会上,"阿里聚安全算法挑战赛"进行了现场答辩,并最终决出了优胜者.据了解,此次答辩赛总共有15名选手入围.在现场,每位 ...

  8. 当中医遇上AI,贝叶斯携手昇思打造AI舌诊联合方案

    中医的困局 中医迄今已有数千年历史,是老祖宗留给我们最宝贵的财富之一.然而,随着近代医学技术的发展,与声势浩大的西医相比,中医逐渐失势. 近年来,人口老龄化导致慢性病发病率持续增高.国家层面出台< ...

  9. 专家视角 | 龚健雅院士:当“传统”遥感遇上AI, 未来产业应用值得期待

    新一轮科技革命和产业变革的大幕早已掀开.作为全球科技竞争的制高点,人工智能已经成为世界主要国家推动科技跨越式发展.实现产业优化升级.赢得全球竞争主动权的关键抓手.在我国,人工智能更是上升到国家战略. ...

最新文章

  1. DataX 安装和使用
  2. 【转】语音、音频的思考
  3. formal method
  4. Qt Creator开发Qt快速应用程序
  5. 每天一道LeetCode-----找到有多少条连续路径的和为给定值,路径不需要从根节点出发到达叶子节点
  6. 第十周软件工程作业-每周例行报告
  7. OPPO以技术推动产品 获专利数首次挺近前十
  8. linux之svn回滚/回退到某个版本
  9. F280049C Enhanced Pulse Width Modulation
  10. PGSQL查询今天生日的员工
  11. 如何实现android设备进入recovery界面后自动重启
  12. JAVA架构演变过程
  13. 免费赠书 | 推荐 3 本 Python 新书
  14. RabbitMq 虚拟主机 virtual-host ,Springboot 中使用 RabbitMq 虚拟主机 virtual-host
  15. keras提取网络中间层输出、中间层特征
  16. Unity 物体沿着某个轴在一定范围内来回旋转
  17. 51单片机如何延时1s,让LED灯闪烁
  18. 终端数据防泄漏方案解析
  19. windows下编写C++与C# 无崩溃程序
  20. USTC高级软件工程课程学习总结和心得

热门文章

  1. 怎么在b站引流?b站怎么吸粉?b站引流技巧和方法
  2. Google 常用镜像收集
  3. ie6,ie7常见兼容性问题总结
  4. 打补丁是什么意思?如何快速对云主机批量打补丁?用什么软件?
  5. 给html页面图片制造滚动效果(详细注释)
  6. 数字营销(三)如何确定合适的流量渠道?
  7. scrapy爬取微信公众号内容,多管道储存,orm数据储存
  8. 异性相处,关系再好,也要懂得这些“分寸”
  9. 合肥太阳能电池片表面缺陷检测-施努卡
  10. 打开天正建筑显示服务器为空,打开天正提示找不到可用cad版本 - 卡饭网