Twitter新计划：审视自家算法里的“无心之失”
| 2021-04-16 09:03 |
导语：不光是面部识别与种族歧视之间的研究。
Twitter宣布了一项新计划。
该计划被称为“负责任的机器学习”，主要研究Twitter所采用的算法的公平性。
计划的内容之一，就是由来自公司内部的数据科学家和工程师们，研究Twitter对机器学习的使用如何导致算法偏差，并评估其算法可能造成的“无意伤害”，再将研究结果公之于众。
“我们正在进行深入的分析和研究，以评估我们使用的算法是否存在潜在危害，” Twitter在官方文件中写道。
首要任务之一是评估Twitter图像裁剪算法中的种族和性别偏见。随着越来越多的新闻网站和社交媒体采用AI识别、提取图片，人们开始注意到许多算法，尤其是面部识别中存在的种族偏见。
此前有Twitter用户指出，在有不同人种的照片中，Twitter的自动图像裁剪算法会在选择预览推文呈现的缩略图区域时，更加突出肤色更浅的人像区域。
去年9月，有研究人员发现，点击这些原始图片，可以看到其中包含更多其他肤色的人群，但即使改变了原图中深色人种和浅色人种出现的位置，预览结果也不会改变。
也有网友认为，出现这一情况是因为算法更倾向于提取图像中的亮度高和色彩密度大的区域，并不是“歧视”。
针对算法被指控种族歧视一事，Twitter当时回应称，将展开更多调查，并承诺将其图像裁剪的机器学习算法开源，接受更多用户的审查和建议。
首席技术官Parag Agarwal表示，该算法需要不断改进，团队也渴望从经验中学习。
从上个月起，Twitter开始测试显示完整图像而不是裁剪预览。
但就算Twitter的算法并非“故意”种族歧视，但研发过程中很可能会有一些缺陷导致种族歧视的出现。
NVIDIA的AI研究总监Anima Anandkumar就曾指出，显著性算法采用的训练集，是异性恋男性的眼球追踪的数据，这显然会将受试者的种族偏见转移给算法。
此外，Twitter还将研究其内容建议，包括时间线信息流在不同种族群体中的差异性等。
Twitter表示将与第三方学术研究人员“紧密合作”，分析结果后续将会分享出来，并征询公众的反馈。
目前尚不清楚这一计划将产生多大影响。Twitter表示，这些研究成果不一定会体现在肉眼可见的产品变化是，更多时候是围绕他们构建和应用机器学习的方式进行重要讨论。
Twitter首席执行官杰克•多西（Jack Dorsey）也曾表示，他希望创建一个算法市场，类似应用商店的形式，让用户能够控制自己使用的算法。该公司在其最新的博客文章中说，他们正处于探索“算法选择”的早期阶段。
不只是Twitter，其实对各大社交媒体平台来说，这是一个迫在眉睫的问题。
受美国国内一些社会事件的影响，立法者向Twitter、YouTube和Facebook施压，要求他们提高算法的透明度。一些立法者提议立法，要求巨头们评估算法是否存在偏见。
Twitter决定要分析自己的“算法偏见”，是在Facebook等其他社交网络之后做出的——Facebook在2020年成立了类似的团队。
此前微软也曾发生类似事件：早在2018年，微软在识别肤色较浅的男性时，准确性就已达到了100%，但在识别深色皮肤女性时，准确率仅为79.2%。
去年六月初，微软也同样因为面部识别涉及种族歧视，引起了舆论风波。
英国知名女团Little Mix成员Jade Thirlwall发文，猛烈抨击微软新闻网站MSN在关于自己的报道中混淆使用了团内另一位成员的照片。
该篇报道证实是由AI抓取并生成，却在寻找配图时把黑皮肤的Leigh和阿拉伯裔的Jade弄混了。
在收到越来越多的的用户投诉，以及反种族歧视浪潮的升温之后，许多包括IBM和Amazon在内的一大批科技公司被迫反思系统，尤其是面部识别技术中存在的偏见。
Twitter新计划：审视自家算法里的“无心之失”相关推荐
- ctfshow萌新计划web22
ctfshow萌新计划web22 前言 正文 web22 前言 上次做题,直接瞄准ctfshow萌新计划开炮,结果没打完,这次来补充一下. 正文 web22 打开题目,发现了源码 <?php i ...
- SICNUOJ——meng新计划要求规范
文章目录 出题规范 命名规范 编号命名规范: 题目命名规范 细节规范 造数据代码模板 SPJ模板 代码补齐模式 模板代码(c++) 出题规范 出题规范, 命名规范 编号命名规范: 必须严格按照编号命名 ...
- 大连新计划科技曝光网站建设中的“潜规则”
所谓"潜规则",就是表面上不能明文公布,暗地里却形成了心照不宣的一种约定俗成的行业内部潜在规则.作为每一个行业内人士,也行都会清楚,对于些种"规则",在你表现极 ...
- KNN和K-means的区别 为什么KNN算法里的K越小模型会越复杂？ 过拟合和欠拟合的偏差和方差问题
这里将这三个问题在一起讲,仅仅是因为自己觉得有些联系,而且正好自己概念有些模糊. 1. KNN 和 K-means的区别:参考https://www.cnblogs.com/nucdy/p/63491 ...
- 学计算机新学期新目标新计划,2021新学期新目标新计划作文600字
新学期开始了,一寸光阴一寸金,寸金难买寸光阴,我们要好好把握这个新学期,奋发向上,一鼓作气,朝着新目标前进吧!下面是小编为大家整理的2021新学期新目标新计划作文600字以上五篇,以供大家参考借鉴! ...
- 学计算机新学期新目标新计划,新学期新目标新计划作文6篇
新学期新目标新计划作文一 一个漫长的寒假已经过去,迎来的是一个美好的春天,在这万物复苏的时刻,新的一学期又开始了,迎着早晨的第一缕阳光,我们又重新回到美丽的校园,开始了新一学期的征程. 在过去的征程中 ...
- 学计算机新学期新目标新计划,新学期新目标新计划作文范文10篇
书山有路勤为径,学海无涯苦作舟.向着自己的目标,奋力前进!新的一学期又开始了,开始了新的旅程,杨启新的风帆吧!下面是学习啦小编为大家整理的新学期新目标新计划作文范文10篇,以供大家参考借鉴! 新学期新 ...
- 学计算机新学期新目标新计划,新学期新目标新计划作文400字（精选5篇）
新学期新目标新计划作文400字(精选5篇) 无论是在学校还是在社会中,大家都不可避免地会接触到作文吧,作文可分为小学作文.中学作文.大学作文(论文).相信很多朋友都对写作文感到非常苦恼吧,下面是小编精 ...
- ML.NET 1.1 发布，模型构建器升级和新的异常检测算法
https://www.toutiao.com/a6703297861997560328/ 2019-06-17 08:59:15 ML.NET 1.1 已发布.ML.NET 是一个跨平台的机器学习框 ...
最新文章
- (018)java后台开发之语法输出流flush()方法
- c语言判断出多位各位数
- 使用 SAP Business Application Studio 搭建 CAP Java 开发环境
- SAP云平台里给应用创建自定义环境变量
- 邮件伪造_伪造品背后的数学
- 飞机游戏项目完整代码（详解JAVA300集）
- 为Windows Server 2012 R2指定授权服务器
- 无效的wechatwin.dll文件errcode:126,点击“确定”下载最新版本
- PLA算法（感知机）
- 羞，Spring Bean 初始化/销毁竟然有这么多姿势
- Request textDocument/codeAction failed.
- 脊柱外科病人资料管理系统的界面设计分析(2)--JOA评分记录的实现
- 数据科学面试问答题库
- 【网络相关】curl可以访问浏览器打不开，无法访问此网站，ERR_UNSAFE_PORT。10080端口
- 蓝牙耳机哪种通话效果最好？通话质量最好的蓝牙耳机盘点
- Scrcpy-Android 设备投屏+控制工具--简略快捷键方便记忆
- 快递鸟代收货款接口demo-order
- Ubuntu16.04下caffe CPU版的详细安装步骤
- 【译文】四十二种谬误（一）
- 三菱机床如何用FTP进行程序传输