很遗憾AI还不能审查出儿童性侵录像:沙漠也被当成小黄片
原作 Melanie Ehrenkranz
Root 编译自 Gizmodo
量子位 出品 | 公众号 QbitAI
伦敦大都市警方希望两到三年内,能有AI算法可以识别录像中孩子是否被性侵,以及审查录像是否为儿童色情作品。不过目前来说,这套系统还不能判断裸露的身体和光秃秃的沙漠之间的区别。
警方现在已经开始使用图像识别算法,从电子监控录像中,甄别出犯罪行为,或与犯罪相关的物品,比如毒品、强制和大量成捆的现金。但对于裸体来说,现有的AI算法的判断结果还不够可靠。
“有些时候,给系统看沙漠组图,系统会认为是小黄片。”数字法医部部门主任Mark Stokes对电讯报说。“由于某种原因,很多人会用沙漠做屏保,然后我们的系统就以为这些人在看片。因为沙漠和皮肤的颜色太相近了。”
从手机或电脑上排查儿童色情作品工作量很大,做内容审查的人只能人工地看一个又一个的录像,工作内容特别乏味,精神上非常容易崩溃。
所以警方为了减轻人类的工作负担,想让没有情绪困扰的机器去做这方面工作。不过现阶段系统暂时靠不住,依靠系统标注和储存这部分敏感信息会让民众感到很不安心。
Stoke告诉电讯报,现在警方配合硅谷的工程师一起训练AI识别这些性侵儿童的图像资料。不过我们发现,即使是世界上最顶尖的科学家,训练所得的算法不仅不能保证每次都不出错,还会推荐会引发危险的错误信息,比如教唆种族歧视,两性方面的内容。
前一段时间有出过一款软件Nude,可以自动标记你相册里面的不可描述的照片,并放在一个加密的文件夹里,从iCloud上或者相册里出看不到的,这样可以保护手机用户的隐私。不过经过Gizmodo测试,这个App的算法还是会分不太清楚哪些照片才是不可描述的。
所以当人类去看系统处理的结果时,觉得不尽如人意。
比如说去年,脸书上有一张获得了普利策奖的照片,一个裸奔的小女孩从越南战场上逃离汽油袭击。
脸书的检测算法就自动把所有脸书上传播的相关照片都删掉了。后来官方恢复了这些照片,并承认了这些并不属于儿童色情作品。
计算机始终无法真正理解人类对裸体的定义。警方的软件也没有办法区分胴体和裸露的山丘。就像脸书的检测算法无法理解照片的背景内容。
△ 嗯,分不出来也不能怪算法
即使区分出来了,这些录像也很难找到安全系数足够高的数据中心存放。根据Stokes的说法,比起他们本地的数据中心来说,还是会考虑把标记好的录像放在亚马逊、谷歌、微软提供的云数据中心上。否则,审查不通过的内容一旦泄露,后果非常严重。
最后,附原文链接:
https://gizmodo.com/british-cops-want-to-use-ai-to-spot-porn-but-it-keeps-m-1821384511
— 完 —
活动报名
加入社群
量子位AI社群12群开始招募啦,欢迎对AI感兴趣的同学,加小助手微信qbitbot4入群;
此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。
进群请加小助手微信号qbitbot4,并务必备注相应群的关键词~通过审核后我们将邀请进群。(专业群审核较严,敬请谅解)
诚挚招聘
量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
很遗憾AI还不能审查出儿童性侵录像:沙漠也被当成小黄片相关推荐
- AI一分钟 | 传阿里暂停在美扩张云业务;Google发布AI工具以识别儿童性侵犯图片...
▌担忧美国加强监管审查,传阿里暂停在美扩张云业务 9 月 3 日消息,据美国媒体报道,消息人士透露,由于阿里巴巴挑战亚马逊AWS服务和美国其他云服务的最初努力未达预期效果,因此该公司将暂停在美国扩张云 ...
- 很遗憾,自然语言理解是AI尚未攻克的领域
来源: Venture Beat 作者: Pieter Buteneers 编译: 科技行者 短短几年之内,深度学习算法得到了长足发展,不仅在棋类游戏中击败了全球最顶尖的选手,也能够以等同于.甚至超越 ...
- 2021年斯坦福AI指数报告重磅出炉!中国AI期刊影响力首超美国,视频处理是新风口...
点击上方,选择星标或置顶,不定期资源大放送! 阅读大概需要15分钟 Follow小博主,每天更新前沿干货 转载自:AI科技评论 就在刚刚,斯坦福大学正式发布<2021年人工智能指数报告>( ...
- 2021年斯坦福AI指数报告重磅出炉!中国AI期刊影响力首超美国,视频处理是新风口
2021-03-04 01:59:53 CV在快速工业化,大公司正扩大计算鸿沟. 作者 | AI科技评论 就在刚刚,斯坦福大学正式发布<2021年人工智能指数报告>("Artif ...
- 最先进的AI还不如动物聪明?首届AI-动物奥运会英国开赛!
来源:animalaiolympics,新智元 [导读]目前,即使是最先进的AI智能体,在适应环境变化的能力方面,还无法与动物相提并论.听上去很不可思议对不对,不服来比比看?日前,动物-AI奥运会正式 ...
- iPIN CEO 杨洋:AI 还未被大规模用在工作中,缺的是认知智能
iPIN CEO 杨洋:AI 还未被大规模用在工作中,缺的是认知智能 本文作者:叨叨 2017-08-06 10:49 导语:如果一个技术不能解决问题,是没有价值的. 雷锋网(公众号:雷锋网)按:8 ...
- 很遗憾,总对工作挑挑拣拣的家伙,一般结局都不会太好
这是头哥侃码的第233篇原创 在过去的五年里,我最怕遇到两件事. 一是失眠,一个人半夜醒来,瞬间毫无困意,只能瞪大眼睛望着天花板数羊,等待着黎明的到来. 二是每到春节之前,在进行团队年度绩效评估和年终 ...
- 详解网易AI布局,三大AI产品矩阵浮出水面
这两年,各大互联网公司都在紧锣密鼓地召开AI大会.AI开发者大会,网易却一直没有行动.9月26日,在中秋假期与国庆假期接壤的间隙,网易召开了一场小型媒体workshop,雷锋网得以与人工智能事业部总经 ...
- 解读人工智能产业的2020:认知AI还未实现,我们仍然正在路上
来源 | AI前线 作者 | 李冬梅 采访嘉宾 | 唐杰 2020 年是一个不平凡的年份.尽管全球遭遇新冠疫情,但是人工智能技术发展和学术研究依旧稳步向前.技术与产业融合也进一步扩大和 ...
最新文章
- 手动挡应该这么换挡!这么多年都被驾校坑了!
- 2006关注IT技术
- Idea实体类上加@Data注解但get/set方法不生效
- ivy java_使用Ivy管理项目中的依赖
- 【实验】配置802.1x远端认证
- BeyondCompare4.1.9解决过期问题
- 条件语句:case语句
- live555 源码分析:子会话 SDP 行生成
- 饶军:Apache Kafka的过去,现在,和未来
- 简单介绍一下BSP中的dirs文件和sources文件(WinCE
- react-native 改变webview中字体颜色方式
- ubuntu中手动编译源码安装Xorg-server过程中依赖关系的解决
- Android 屏幕刷新机制
- FMS飞行模拟器简介
- php 图片底色替换,手把手教你替换相片中的颜色(给相片换底色)
- OLS回归模型-斯皮尔曼相关系数-数值模拟-多目标规划-养老服务床位需求预测与运营模式研究-之数学建模
- uniapp带视频和图片的轮播swiper(带全屏播放附源码)
- 马斯克、李彦宏、姚期智等云端纵论AI,他们都说了什么?
- R 数据正态分布检验
- 什么是元数据(元数据)?
热门文章
- 苹果发布 2017 年度应用榜单,你的 App 榜上有名吗?
- 一文快速掌握前端开发必备技能
- 人事管理系统整站php,卡盟整站程序源码 php版
- 前端中怎么把网页多个文件夹的内容整合成一个_web前端学习笔记
- python flask框架是什么_Python三大web框架分别是什么 哪个更好
- java函数ao活动对象_JS之预编译和执行顺序(全局和函数)
- mysql服务器级别角色_服务器数据库系列 - MySQL事务隔离级别详解
- 使用 Commander 写自己的 Nodejs 命令
- 搭建一个企业级的Vue工程!
- ebs开发入门 oracle 知乎_微信小程序云开发入门第一篇---开发准备事项