智能算法把奥巴马识别成白人，AI也学会歧视了？

在人工智能愈发普及的当下，越来越多的地铁、商场或其他公共场所，都已出现了人脸识别的仪器。

按理说，这样先进的技术，本该让人们的生活更便捷，更自由。然而，在某些时候，这些技术非但没能造福人类，反而揭开了人类社会中最丑陋的伤疤。

比如，最近一种新的AI去马赛克算法PULSE，就犯了“种族歧视”的大忌，将美国前总统奥巴马打了马赛克的图片识别成了白人。

在美国的BLM（黑命贵）运动愈演愈烈的背景下，怒不可遏的大众在网上开始了对AI技术的又一轮口诛笔伐。

而网友们怒骂的火力，全都集中在了一个名叫杨立昆的AI大神身上。

这位大神之所以躺枪，是因为身为FB公司首席AI科学家，并且拿过图灵奖的他，实在不忍看到AI技术遭到大众如此误解与贬损，于是便在推特上为PULSE算法“出头”辩护。

杨立昆解释说，这种情况往往是由于数据偏差导致的，PULSE算出来的人脸之所以倾向于白人，是因为神经网络是在FlickFaceHQ上训练的，而上面的大部分照片都是白人。

尽管杨立昆的解释已经十分冷静与客观，但怒火中烧的网友仍将种族歧视的帽子扣在了他头上，并对他展开了铺天盖地的谩骂。

最后，这位被网友“喷怕了”的AI大神，不得不宣布退出了推特。

不过，虽然杨立昆选择了主动避退，但人们对于“AI歧视”的争议却不会就此终止，实际上，这次AI识别技术的失误，只是众多类似事件中的一角。

早在2015年，谷歌就在自己的网站中，加入了一个通过机器识别照片中的内容，并自动打标签分类的功能。

谷歌推出这项功能的初衷，本是为了方便用户管理和搜索。然而，这个心智不成熟的AI，却在实际操作中“抽风”，将一位黑人程序员和其女友的照片打上了“Gorilla”（大猩猩）的标签。

顿时，黑人程序员小哥心中一阵MMP……

而这样的情况，也让人禁不住发问：为什么现在连AI也开始沾染上人类“歧视”的恶习了呢？

实际上，AI 本是一种工具，本身并无偏好与喜恶，而AI所具有的“歧视”与“偏见”，往往是背后算法训练的数据所导致的。

目前的人工智能背后需要即为大量的数据去训练，尽管人工智能本身并没有“歧视”与“偏见”，但背后数据的研究人员却会因为个人的因素，以至于在训练数据的选择上就会产生偏向性。

通常情况下，在创建 AI 算法的过程中会有许多工程师参与，而这些工程师通常来自高收入国家的白人家庭，他们的思想、价值观与阶层意识，都导致了经由他们制造出来的 AI ，也不可避免地带上了与之类似的色彩。

如果用于训练的数据里白人比黑人更多，那显然白人的识别率就会更高。

然而，尽管人工智能在被制造的过程中，会不可避免地受到人类研究者的影响，但人类却学会了用一种“AI制AI”的方式，来消解人工智能可能存在的偏见。

比如，旧金山就曾经推出过一种“偏见缓解工具”，该工具使用人工智能技术自动编辑警方报告中的嫌疑人种族等信息。它的目的是在决定某人被指控犯罪时，让检察官不受种族偏见的影响。

根据旧金山地区检察官办公室的说法，这个工具不仅会删除关于种族的描述，同时还会进一步删除关于眼睛颜色和头发颜色等可能有意无意对检察官造成暗示的信息，甚至地点和社区名称也将会被删除。从而避免歧视现象的发生。

由此可见，人工智能所带有的“偏见”，并非一个无法消除的弊端，经过人们对算法的改进，以及完善研发之初的测试和验证，就能避免在后续研发过程中AI无意识创造“偏见”。

而类似偏见缓解工具这样的AI技术，也进一步说明了，AI的发展并非会真的加深人类社会中固有的歧视，相反，它有可能会为纠正这种人类数千年来的痼疾提供一个新的解决方案。

而这，也正是人工智能技术发展的初衷之一——让更多的人平等而有尊严地生活下去。

智能算法把奥巴马识别成白人，AI也学会歧视了？相关推荐

依图颜水成：AI芯片设计要深度融合算法，才能实现极致性能
数据.算法和算力被称为"AI三要素".今天,面对超大数据量.算法策略失效.算力不足等新问题,过去的方法已经不再适用.依图科技CTO.IEEE Fellow颜水成博士以AI学者和产业 ...
基于优化智能算法（粒子群灰狼）的非侵入式负荷识别（NILM）建模（提供代码下载）
基于优化智能算法(粒子群&灰狼)的非侵入式负荷识别(NILM)建模本文主要从智能算法入手,介绍非侵入式识别的代码具体应用思路和场景,如有瑕疵,请海涵. 1.1 优化智能算法概述智能算法的研 ...
斑马识别成狗，AI犯错的原因被斯坦福找到了丨开源
Pine 发自凹非寺量子位 | 公众号 QbitAI 明明是只斑马,AI为什么说它是一条狗? 分类模型在归类图像时有时会错误地判断类别. 经过学习的AI,还会搞砸一些预测,肯定是在其中的某个环节出 ...
五子棋游戏AI智能算法设计
五子棋游戏C语言AI智能算法设计近来发现编制五子棋游戏很有趣,尤其是AI智能算法很烧脑.网上介绍有什么贪心算法,剪枝算法,博弈树算法等等,不一而足. 对于人机对战的电脑智能应子算法,参阅很多五子棋书 ...
智能监控系统、人脸识别、智能抓拍、预警系统、机动车辆抓拍、行人抓拍、监控预警管理后台、人流监控、人脸信息采集、语音报警、轨迹分析、抓拍检索、园区监控、实时监控、录像回放、防盗预警、智能算法、跟踪分析
智能监控系统.人脸识别.智能抓拍.预警系统.机动车辆抓拍.行人抓拍.监控预警管理后台.人流监控.人脸信息采集.语音报警.轨迹分析.抓拍检索.园区监控.实时监控.录像回放.防盗预警.智能算法.跟踪分析. ...
NLP专栏简介：数据增强、智能标注、意图识别算法|多分类算法、文本信息抽取、多模态信息抽取、可解释性分析、性能调优、模型压缩算法等
NLP专栏简介:数据增强.智能标注.意图识别算法|多分类算法.文本信息抽取.多模态信息抽取.可解释性分析.性能调优.模型压缩算法等专栏链接:NLP领域知识+项目+码源+方案设计订阅本专栏你能获得什 ...
智慧航运船公司智能集装箱管理方案，手机随时随地AI自动集装箱信息识别+箱况残损+地点报备，智能船公司智能化货代航运智能铁路货运
CIMCAI智慧航运船公司智能集装箱管理方案,手机随时随地AI自动集装箱信息识别+箱况残损+地点报备,智能船公司智能化货代航运智能铁路货运.全球港口航运人工智能/集装箱人工智能独角兽,中集飞瞳CIMC ...
《MATLAB智能算法30个案例》：第26章有导师学习神经网络的分类——鸢尾花种类识别
<MATLAB智能算法30个案例>:第26章有导师学习神经网络的分类--鸢尾花种类识别 1. 前言 2. MATLAB 仿真示例 3. 小结 1. 前言 <MATLAB智能算法30 ...
黑码定制-2019创新研发AI智能算法，大数据量体是时尚的新风口？
2019年最热的词无疑是5G.AI.人工智能等等-- 随着5G和人工智能的科技发展和普及程度,慢慢的会融入我们的日常生活中, 甚至会改变我们原有的生活方式,这就是一种趋势. 现在很多企业都在研发AI智 ...

智能算法把奥巴马识别成白人，AI也学会歧视了？

智能算法把奥巴马识别成白人，AI也学会歧视了？相关推荐

最新文章

热门文章