据 The Verge 消息，美国公民自由联盟（ACLU）使用亚马逊的开放式 Rekognition API 扫描了所有 535 名国会议员的面孔，发现 Rekognition 将其中 28 个国会议员认成了嫌疑犯。

这些人当然并不是在逃嫌犯，但他们中的很多人是有色人种。“国会黑人党团（CBC）的 6 名成员全部在内，包括传奇民权领袖、众议院议员约翰·路易斯（John Lewis）等。” ACLU 称，他们对 Rekognition 的准确性和公正性感到担忧。

ACLU 声明称，“这种系统发生任何一次错误，都可能使人丧失自由甚至生命。国会必须认真对待这些威胁，暂停执法者使用人脸识别系统。”

亚马逊最具争议的产品之一

可以说，Rekognition是亚马逊最具争议的产品之一。

Rekognition 是亚马逊于 2016 年末推出的人脸识别系统，它可以识别图像或视频上的文字、对象、场景、活动和人员。这是一款在亚马逊服务器上运行的图像识别AI软件，用户需要为使用该软件处理的每张图片向亚马逊付费。它作为亚马逊云业务的一部分，一直寻求与政府合作，向后者提供基于人脸识别的安防服务。该软件非常便宜，整个部门每月的成本通常不到 12 美元。包括俄勒冈州、佛罗里达州在内的众多美国州立政府已经成为 Rekognition 的用户，警方已经开始使用该软件来寻找走失的儿童和被拐卖的人口。

将28名国会议员识别成嫌疑犯

但是，此举引发了美国民众极其强烈的反对和民权倡导者的严重质疑，遭到亚马逊用户、民间组织、股东甚至亚马逊员工在内超过15万人联名抗议。其中，最强烈的质疑声音来自美国公民自由联盟（ACLU）。该组织警告称，无处不在的面部识别软件可能侵犯人们的隐私，并造成一个无缝不入的政府监控系统。

使用默认设置，针对有色人种，识别错误率达5.2%

ACLU 一直在呼吁政府暂停使用该技术，原因是它有可能加深种族歧视。因为如果人工智能的训练数据本身就是严重偏向白人的，那么机器做出的判断可能也会非常偏向白人。ACLU 论证说，整个国会中只有 20% 的有色人种，而在机器认定的“嫌疑犯”中，有色人种却占了 39%。这与 NIST 的面部识别供应商测试所发现的结果类似，即女性和非洲裔美国人被误识的概率更高。

最近，ACLU找到了一些看似令人信服的证据——他们使用亚马逊的Rekognition人脸识别工具，扫描了全部535名美国国会议员的照片，并将它们与25000张警方公开的罪犯面部照片进行了比对。

结果，系统错误地将28名国会议员的照片与罪犯面部照片进行了配对。

也就是说，亚马逊的人脸识别工具认为，535名国会议员中，有28名议员看起来像是罪犯。

在测试时，ACLU使用25000张公开的入监，照构建了一个面部照片数据库和搜索工具。然后，他们搜索了这个数据库，比对了所有现任参众两院议员的公开照片。他们使用亚马逊为Rekognition的默认匹配设置。

图注：民主党众议员Sanford Bishop (D-Ga.) 被亚马逊人脸识别系统错误地判定为罪犯。

结果，产生了28个不正确的匹配——错误率达到5.2%。

被错误匹配的议员中，有色人种的比例显著过高（11人），仅国会黑人同盟（Congressional Black Caucus）就有6名成员被误判，其中包括著名的民权活动家众议院议员约翰·刘易斯（D-Ga）。

测试表明，对于皮肤较黑的人和女性，人脸识别通常不太准确。虽然对于整个国会来说，错误率是5.2%，但对于非白人的国会议员，错误率达到39%。

图注：有色人种被错误匹配的比例显著过高。近40%的错误匹配来自有色人种，尽管他们只占国会议员的20%。

ACLU强调，整个测试只花费了12.33美元。他们使用的是亚马逊提供给所有用户的面部识别系统，任何人都可以用它来扫描人脸图像，进行匹配。

ACLU 的测试已经激起了三位国会议员的公开反应。测试结束公开后不久，参议员 Markey（D-MA），众议员 Gutiérrez（D-IL）和众议员 DeSaulnier（D-CA）签署了致亚马逊首席执行官 Jeff Bezos 的公开信，要求其提供所有使用该系统的执法部门的名单，并设置对十三岁以下儿童的保护措施。

“面部识别对隐私和公民权利的危害令人担忧，”信中写道，“特别是当它被用作政府监管的工具时。”

亚马逊未公开透露目前有哪些政府部门使用了这一系统，而此前与多方抗辩时，亚马逊曾多次提到该技术的积极用途包括寻找走失儿童、打击人口贩卖等。“如果我们因为有人可能会选择滥用技术而禁用新的科技，那么我们今天的生活质量会差很多。”亚马逊表示。

作为甲方客户，俄勒冈州华盛顿县发言人 Jeff Talbot 曾表示，“我们已经利用这项技术抓捕了很多嫌疑人，将嫌疑犯的识别时间从 2 到 3 天缩短至几分钟。”

“我们不是批量采集，也不会把摄像机放在任何一个街角，” Jeff Talbot 补充说，“这个系统能够保障社区安全，同时在事发之后获得足够的信息并迅速采取行动，在破案过程中，节省几秒的时间对于拯救生命来说都意义重大。”

亚马逊回应：错误率可以接受

亚马逊刚刚在一篇官方博文对此进行了回复。

它的回复信息称，与微软一样，亚马逊认为美国政府应该先权衡利弊，然后再决定是否使用以及如何使用面部识别系统。

周四，亚马逊称，它认为美国民权同盟（ACLU）测试其Rekognition面部识别系统的方法有失偏颇，因为ACLU在测试中使用了这种系统默认设置的80%的可信匹配度，而亚马逊推荐执法机构使用的是95%以上的可信匹配度设置。

ACLU反驳称，警方很可能会同他们一样使用80%的默认设置，因为亚马逊并没有指导性文字告诉执法机构应该使用不同的可信度设置。此外，ACLU还认为，面部识别软件很容易遭到政府机构的滥用。

但在周五，亚马逊发布的一份新的备忘录驳斥了它没有提供指导性文字的观点。亚马逊称，它有专门的文档详细说明99%的可信度设置。

该备忘录还指出，如果亚马逊的面部识别系统从507名国会议员中只识别错了28个议员，那么从行业标准来看这个系统实际上是非常不错的。在面部识别软件中，误报率是可以接受的，因为人类操作人员还会进一步核对机器处理后的结果。

吊诡的是，周五下午亚马逊从网上撤下这篇备忘录，并更换了一篇新的备忘录。这篇新的备忘录在底部添加了一句话：

“我们有一个合理的想法：政府应该权衡面部识别系统的利弊，并详细说明执法机构需要满足什么条件（或设置什么级别的可信度）才能用面部识别系统来帮助他们处理公务。”

这句话至少有三种不同的解读方式：

1. 亚马逊认为，美国政府应该直接告诉亚马逊它认为这种软件到底行不行。

2. 亚马逊认为，美国政府应该告诉它自己的执法机构，在使用面部识别系统的时候应该设置哪个可信度级别。（这表明亚马逊有推卸责任之嫌。）

3. 与微软一样，亚马逊认为美国政府应该出台政策来规范面部识别系统。

我们无法确定哪个解读是正确的。但是，据一名知情人士称，第二个答案是正确的。亚马逊确实认为美国政府应该谨慎地挑选和使用面部识别工具。

虽然面部识别服务可能提供了一件有价值的执法工具，但我们尚未完全理解这些技术的功效和影响。特别是，人们对于面部识别可能对隐私和公民权利带来的危险产生了严重的担忧，尤其是当它被用作政府监控工具时。此外，面部识别技术的准确性以及它对有色人种不成比例的影响同样让人感到担忧。

关注公众账号

【飞马会】

往期福利关注飞马会公众号，回复对应关键词打包下载学习资料；回复“入群”，加入飞马网AI、大数据、项目经理学习群，和优秀的人一起成长！

微软大牛人工智能系列课

（扫码试听或订阅）

m.qlchat.com/live/channe… (二维码自动识别)

回复 数字“1”下载从入门到研究，人工智能领域最值得一读的10本资料（附下载）

回复 数字“2”机器学习 & 数据科学必读的经典书籍，内附资料包！

回复 数字“3”走进AI & ML：从基本的统计学到机器学习书单（附PDF下载）

回复 数字“4”了解人工智能，30份书单不容错过（附电子版PDF下载）

回复 数字“6”AI人工智能：54份行业重磅报告汇总（附下载）

回复 数字“7”TensorFlow介绍、安装教程、图像识别应用（附安装包/指南）

回复 数字“10”麦肯锡160页报告：2030年全球将可能8亿人要被机器抢饭碗

回复 数字“12”

小白| Python+Matlab+机器学习+深度神经网络+理论+实践+视频+课件+源码，附下载！

回复 数字“14”小白| 机器学习和深度学习必读书籍+机器学习实战视频/PPT+大数据分析书籍推荐！

回复 数字“16”100G Python从入门到精通！自学必备全套视频教程+python经典书籍！

回复 数字“17”【干货】31篇关于深度学习必读论文汇总(附论文下载地址)

回复 数字“18”526份行业报告+白皮书：AI人工智能、机器人、智能出行、智能家居、物联网、VR/AR、 区块链等（附下载）

回复 数字“19”800G人工智能学习资料:AI电子书+Python语言入门+教程+机器学习等限时免费领取！

回复 数字“20”17张思维导图，一网打尽机器学习统计基础（附下载）

回复 数字“22”吴恩达新书，教你构建机器学习项目：《Machine Learning Yearning》

回复 数字“23”机器学习：怎样才能做到从入门到不放弃？（内含福利）

回复 数字“24”限时下载 | 132G编程资料：Python、JAVA、C，C++、机器人编程、PLC，入门到精通~

回复 数字“25”限资源 | 177G Python/机器学习/深度学习/算法/TensorFlow等视频，涵盖入门/中级/项目各阶段！

回复 数字“26”人工智能入门书单推荐，学习AI的请收藏好（附PDF下载）

回复 数字“27”资源 | 吴恩达斯坦福CS230深度学习课程全套资料放出（附下载）

回复 数字“28”懂这个技术的程序员被BAT疯抢...（内含资料包）

回复 数字“29”干货 | 28本大数据/数据分析/数据挖掘电子书合集免费下载！