人脸识别技术禁令再来!美国又一城市禁止面部识别软件
来源:venturebeat等
编译:小芹、张佳
转载自:新智元(ID:AI_era)
【导读】近日,美国又一城市通过了禁止在公共场所使用面部识别软件的法令,成为继旧金山之后全美第二个禁止面部识别技术的城市。美国会两党罕见地共同提案,拟立法暂停使用人脸识别软件。在人脸识别技术应用方面,美国似乎走向了保守。
继旧金山之后,全美第二个禁止面部识别技术的城市出现了。
近日,马萨诸塞州的萨默维尔市议会通过了禁止在公共场所使用面部识别软件的投票。新政策生效后,该市各机构、分局或下属部门,均不得在公共场所使用面部识别技术。
面部识别技术在美国的推进困难重重。警方、政府部门等对使用面部识别协助警务有需求,但受到侵犯隐私、人权,歧视少数族裔、歧视女性等的指责。对面部识别的批判越来越多,除旧金山、萨默维尔市外,奥克兰、纽约等城市也在考虑类似禁令。
全票通过:继旧金山之后,全美第二个禁止面部识别的城市
由于对潜在歧视和反乌托邦(dystopian)滥用的担忧,近日,美国马萨诸塞州的萨默维尔市(Somerville)议会投票禁止当地警方和市政部门使用面部识别软件。这使得位于波士顿附近并拥有81,000人口的萨默维尔成为美国第二个禁止该技术的城市。该禁令是在5月份旧金山通过面部识别禁令之后实施的。该条例部分由ACLU(美国公民自由联盟)撰写,ACLU也帮助制定了萨默维尔法令。
除了禁止市政部门积极使用人工智能外,该法令还禁止在刑事调查或法律诉讼中使用面部识别软件系统产生的数据或证据。当地法律没有限制州或联邦执法部门使用面部识别的范围。
然而,法律将面部识别称为“等同于要求每个人随时携带和展示带有个人照片的身份证”,并引用了对女性、年轻人、移民和有色人种面部识别错误匹配的担心。
该条例以11-0的投票获得通过 - 这并不令人惊讶,因为11名萨默维尔市议员中有9位赞成立法。
随着面部识别软件开始渗透到工作场所,iPhone等消费者设备使用面部识别来验证购买,警方也采用了很大程度上不受管制的技术。随着面部识别已经发挥作用,政府刚刚开始考虑如何在社会中使用它。
Somerville城市职员John Long在一封电子邮件中表示,当地居民分享了98条书面评论,加上ACLU的支持信和来自贸易组织安全行业协会的反对信。该市收到的所有信件都支持禁令。
“在使用纳税人资金之前,任何新的安全技术必须证明是有效的,”萨默维尔居民Dmitry Erastov在一封信中说。
Logic杂志的创始编辑和哈佛大学职员Moira Weigel表示:“我们知道,这些技术强制执行种族主义和cis-heterosexism,并为民主上不负责任的私人实体提供了大量敏感信息。旧金山是另一个拥有大量技术人员的城市,他们了解这些系统是如何运作的,并且也投票禁止它们,这并不是偶然的。“
同样也是这几天,警用摄像机制造商 Axon承诺将不为其产品添加面部识别软件。
许多人工智能专家或隐私倡导者向州和国家立法者提供有关面部识别软件相关风险和机会的建议,有利于暂停或彻底禁止该技术。
波士顿地区在面部识别政策辩论中扮演着相当突出的角色。马萨诸塞州立法机构目前正在考虑由波士顿地区立法者赞助的法案“面部监视暂停法案”。
旧金山成美国第一个禁止面部识别监控的城市
在波士顿之前,今年5月,旧金山成为美国第一个禁止面部识别监控的城市。该措施以旧金山监管委员会的8-1投票通过,使旧金山成为美国第一个禁止警察和其他政府机构使用面部识别技术的城市。
近年来,由于深度学习技术的普及,面部识别得到了显着改善。典型人脸识别系统的工作方式是分析面部特征,然后与数据库中的标记面部进行比较。
然而,人工智能研究人员和ACLU等民权组织特别关注面部识别系统的准确性和偏见。有人担心,它们在正确认识有色人种和女性方面并不那么有效。这个问题的一个原因是用于训练软件的数据集可能不成比例地是男性和白人。
目前还没有关于如何使用人工智能技术或面部识别系统的联邦法律,但一些州和地方政府已经做出了自己的努力:例如,伊利诺伊州有一项法律要求公司在收集生物识别信息之前征得客户的同意。加利福尼亚州参议院目前正在考虑一项法案,该法案将禁止该州的警察使用生物识别技术(如面部识别)和身体摄像机。
根据新的旧金山法律,任何想要使用监控技术或服务的城市部门必须首先得到监事会(Board of Supervisors)的批准。该过程将包括提交有关技术及其使用方式的信息,并在公开听证会上提交。根据新规则,任何已经使用监控技术的城市部门都需要告诉董事会是如何使用它的。
该条例还规定,该市每年都需要向监事会报告监管设备和服务是否按批准方式使用,还包括保存、共享或删除数据的详细信息。
不过,也有一些人反对该条例:“当负责任地使用时,它可能是一个很好的公共安全工具。”
美国会两党共同提案:立法暂停使用人脸识别软件
上个月,美国国会两党在一场国会听证会上正式讨论了对执法部门使用面部识别软件所带来的日益担忧。议员们听了几个小时的证词,内容涉及不受监管的面部识别如何跟踪抗议者,影响刑事司法系统,并加剧种族偏见等。
国会两党共同提案,寻求立法对面部识别进行监管
不同寻常的是,两党这次都表现出了合作的态度,同意共同努力对面部识别进行监管。
两党一致认为面部识别软件有侵犯公民隐私权和抗议权的隐忧,寻求立法暂停此类工具的使用。包括面部识别软件专家在内的团队认为,在更完善的监管出台或技术充分成熟之前,此类面部识别工具应由国家叫停。
当前,FBI 和国土安全局等联邦机构在使用面部数据识别潜在犯罪嫌疑人前是不需要获得搜查令的。目前还不清楚该委员会计划如何起草法律来打击潜在的违法行为,但两党议员都对美国公民的面部扫描可能侵犯了宪法权利这点提出了担忧。
专家警告称,由于这项技术推出得太快并且存在严重缺陷,可能会导致调查人员对潜在嫌疑人进行误判。
美国并非唯一对面部识别技术忧心忡忡的国家。近日,欧洲人工智能高级别专家组(HLEG)发布报告,提议“欧洲应该禁止AI进行大规模监视和社会信用评分”。报告写道:“政府应承诺只部署和采购值得信赖的人工智能系统,其设计宗旨是尊重法律和基本权利,符合伦理原则,社会技术健全。”
肤色、性别歧视引争议,专家批判面部识别技术被滥用
大约一年前,美国公民自由联盟(ACLU)首次公开了亚马逊的面部识别软件已在使用的事实。从那时起,对该软件的审计发现其更有可能偏向白人,对黑人很有可能识别不当,特别是女性黑人。当 ACLU 将国会议员与犯罪数据库进行匹配时,亚马逊的 Rekognition 软件错误地将28名议员识别为罪犯。被识别为罪犯的 28 名议员中,40% 是有色人种,尽管国会议员中有色人种的比例仅为 20%。
去年,亚马逊的人脸识别程序 Rekognition 曾将 28 名议员错误地识别为罪犯,引发巨大争议。
没有监管的现状下,滥用面部识别技术的可能性很高,特别是对于有色人种。MIT媒体实验室研究员和算法正义联盟(Algorithmic Justice League)创始人 Joy Buowamwini 发表研究表明,人脸识别系统对肤色较浅的男性表现优于肤色较深的男性,而对于肤色较深的女性则表现最差。
她的研究成果遭到 AI 领军企业的批评,但有数十位著名的 AI 研究人员为其辩护。她在会上说:“至少,国会应该通过一项关于警察使用人脸识别的禁令,因为人脸识别的滥用、缺乏监督和技术的不成熟会造成很大的风险,对于边缘化社区而言尤其如此。”
美国走向保守:禁止人脸识别的城市在增加
自MIT的研究和 ACLU 的报告以来,微软和亚马逊都声称已经缩小了准确性方面的种族差异。
但是,改进技术以更好地识别黑色面孔只是过程的一部分:准确度很高的技术仍然可能被用来支持有害的警务。
如何使用这项技术很重要,这就是政策可以防止滥用的地方。微软和亚马逊提出的解决方案是,在人脸识别已经投入使用后,再对其进行种族和性别偏见的审核 —— 这可能为时已晚。
科技的发展向来就是一把双刃剑,任何一项技术的应用都常有利弊相随。美国在人脸识别这样的技术应用方面似乎走向了保守的道路,旧金山、波士顿郊区已经成为正式立法禁止警方和市政部门使用人脸识别软件的两个城市,奥克兰也在考虑类似的禁令。在纽约,人脸识别被尝试用于在大桥上识别车内司机面孔,结果是彻底失败。
像人脸识别这样的人工智能技术应用,到底应该鼓励还是禁止,欢迎读者朋友留言讨论。
参考链接
https://venturebeat.com/2019/06/27/boston-suburb-bans-facial-recognition-software/
https://venturebeat.com/2019/05/22/facial-recognition-moratorium-receives-bipartisan-support-in-congress/
https://edition.cnn.com/2019/05/14/tech/san-francisco-facial-recognition-ban/index.html
- 加入社群吧 -
人脸识别技术禁令再来!美国又一城市禁止面部识别软件相关推荐
- 美国人到底为什么不待见人脸识别技术?
https://www.toutiao.com/a6695915398514082318/ 2019年5月,旧金山市对人脸识别技术发出了禁令,禁止该技术在政府机关和执法机关中使用,从而成为全球首个对人 ...
- 人脸识别有风险,美国全面禁止,可为什么中国却全面推广?
文/玉浊清 人脸识别有风险,美国全面禁止,可为什么中国却全面推广? 我们在日常生活中能够接触到很多的高科技产品,就拿我们常使用的手机来说,在付款的时候不仅可以用指纹识别,也可以用人脸识别.对于大多数人 ...
- 人脸识别技术成“金苹果”?安全与隐私不可偏废
https://www.toutiao.com/a6701557527034724871/ [安防展览网 市场分析]现有的计算机视觉技术能辨别出个人的面部和体格,并在个人的基础之上进行汇总.随着 5G ...
- 美国对人脸识别技术的法律规制及启示
摘 要 人脸识别技术在维护公共安全.打击犯罪行为等方面具有广泛应用,但同时使用该技术也存在着风险,包括侵犯隐私权.自由权等基本权利,技术被商业组织或政府部门滥用, 因技术不成熟而导致歧视.偏见等问题. ...
- What!吴恩达要参加美国大选?带你一起用人脸识别技术看看真的是吴恩达吗?
What!吴恩达去参加美国大选了?最近几周,想必很多人都有看到这新闻,是不是在想吴恩达老师是不是有个双胞胎兄弟去参加美国大选了??? 答案都不是,参选的是杨安泽,两人不仅长得像,英文名都叫Andrew ...
- 人脸识别技术的那些前世今生
2018-11-29 08:17:30 近年来,人脸识别在科技领域声名鹊起,频频登上热搜榜单.和朋友聊天,若是不会说一两句关于"刷脸"的话题,就和你没念过书似得.为了让大家对人脸识 ...
- 美国多个城市禁止、我国却蓬勃发展的人脸识别是什么样子?
https://www.toutiao.com/a6716893550732116491/ 近年来,越来越多的地方可以用到人脸识别,比如手机解锁.小区门禁.公司考勤.安检通行.自助取款.无人超市等等. ...
- 一文看懂人脸识别技术发展脉络
来源:InfoQ 人脸识别可以说是人工智能领域中成熟较早.落地较广的技术之一,从机场.火车站的安检闸机,到平常用户手机中的"刷脸"支付,人脸识别技术已经深入到我们的生活当中. 为了 ...
- AI也脸盲 |黑人遭人脸识别技术“误判”概率竟高出白人5至10倍!
新智元报道 编辑:三石 [新智元导读]根据美国政府测试发现的结果,即使是表现最佳的人脸识别系统,黑人的错误识别率比白人高5至10倍.那么到底是什么原因导致不同人种之间人脸识别效果差距如此之大呢? ...
最新文章
- 九度OJ 1336:液晶屏裁剪 (GCD)
- DockerSwarm 微服务部署
- Vue实战狗尾草博客后台管理系统
- vector notes
- 【转】ABAP内表数据和JSON格式互转
- CoderForces Round54 (A~E)
- 剑指offer--在O(1)时间内删除链表结点
- python支持complex吗_Python中complex函数有什么用?
- input表单的type属性详解,不同type不同属性之间区别
- Spring 注解@Resource @Autowired @Service @Component
- Shader之基础雾效 U3D-PostProcessing
- 修复Lvgl的roller控件点击位置向上偏移的问题
- POJ_1564_dfs
- 2-14-Multiple Exemplars-based Hallucination for Face Super-resolution and Editing(ACCV2020)
- 大学物理电磁学——磁场对载流导线的作用
- c/c++测试函数的运行时间(八种方法)(转)
- Ubuntu系统语言设置为中文和换国内源
- 空调遥控器调不到制热模式(☀)
- USB无线网卡-----MT7601 无线wifi网卡驱动移植
- ACT趋之若鹜的发展趋势