探索机器学习的公平性(Delayed Impact of Fair Machine Learning)论文 pdf
下载地址:https://u20150046.ctfile.com/fs/20150046-376633160
By Lydia T. Liu, Sarah Dean, Esther Rolf, Max Simchowitz, Moritz Hardt (2018)
论文摘要
机器学习中的公平性主要是在静态的分类设置进行研究,而不考虑决策如何随时间改变基础样本总体。传统观点认为,公平性标准能够促进它们所保护的群体的长期利益。
我们研究了静态公平标准与幸福感的时间指标是如何相互作用的,如长期改善、停滞和利益变量下降。我们证明,即使在单步反馈模型中,一般的公平标准也不会随着时间的推移而促进改善,并且不受约束的目标不仅不会促进改善,甚至可能造成损害。我们描述了三个标准的延迟影响,对比了这些标准表现出不同行为的机制。此外,我们还发现一种自然形式的测量误差扩大了公平标准发挥有利作用的机制。
我们的结果突出了测量和时间建模在公平标准评估中的重要性,提出了一系列新的挑战和权衡取舍。
概要总结
当使用基于分数的机器学习算法来决定谁可以获得机会(例如贷款、奖学金、工作),谁得不到机会时,目标是确保不同人口群体被公平对待。伯克利人工智能研究实验室的研究人员表明,由于某些延迟的结果,使用共同的公平标准实际上可能会损害代表性不足或处境不利的群体。因此,他们鼓励在设计一个“公平”的机器学习系统时考虑长期结果。
核心思想
考虑实施公平标准的延迟结果显示,这些标准可能对他们旨在保护的群体的长期利益有不利影响。由于公平标准可能会对弱势群体造成主动的伤害,解决的办法可以是使用结果最大化的决策规则,或者一个结果模型。
最重要的成果
1.表明了人口均等、机会均等等公平标准可以为弱势群体带来任何可能的结果,包括改善、停滞或恶化,而遵循最优无约束选择政策(如利润最大化),则永远不会给弱势群体带来恶化的结果(主动伤害)。
2.通过FICO信用评分数据的实验支持了理论预测。
3.考虑了硬公平约束的替代方案。
AI社区的评价
1.这篇论文获得了ICML 2018最佳论文奖,ICML是最重要的机器学习会议之一。
2.该研究表明,有时正面的歧视会适得其反。
未来研究方向
1.考虑超出群体平均变化影响的其他特征(如方差、个体水平结果)。
2.研究结果优化对建模和测量误差的鲁棒性。
可能的应用
通过从公平性标准强加的约束转向结果建模,企业可能会开发出更有利可图、也“更公平”的ML系统,用于放贷或招聘。
探索机器学习的公平性(Delayed Impact of Fair Machine Learning)论文 pdf相关推荐
- 机器学习面试题合集Collection of Machine Learning Interview Questions
The Machine Learning part of the interview is usually the most elaborate one. That's the reason we h ...
- 【原】Coursera—Andrew Ng机器学习—课程笔记 Lecture 17—Large Scale Machine Learning 大规模机器学习...
Lecture17 Large Scale Machine Learning大规模机器学习 17.1 大型数据集的学习 Learning With Large Datasets 如果有一个低方差的模型 ...
- 【推荐书籍】《机器学习范式在推荐系统中的应用Machine Learning Paradigms- Applications in Recommender Systems》
前几天吐槽了一本口水太多的推荐系统书籍<Practical Recommender Systems实用推荐系统>,最近读到了这本<机器学习范式在推荐系统中的应用>(英文名< ...
- Coursera机器学习-第六周-Advice for Applying Machine Learning
Evaluating a Learning Algorithm Desciding What to Try Next 先来看一个有正则的线性回归例子: 当在预测时,有很大的误差,该如何处理? 1.得到 ...
- 【github】机器学习(Machine Learning)深度学习(Deep Learning)资料
转自:https://github.com/ty4z2008/Qix/blob/master/dl.md# <Brief History of Machine Learning> 介绍:这 ...
- 机器学习(Machine Learning)深度学习(Deep Learning)资料汇总
本文来源:https://github.com/ty4z2008/Qix/blob/master/dl.md 机器学习(Machine Learning)&深度学习(Deep Learning ...
- 机器学习----(Machine Learning)深度学习(Deep Learning)资料(Chapter 1)
文章转至:作者:yf210yf 感谢您提供的资源 资料汇总的很多,转载一下也方便自己以后慢慢学习 注:机器学习资料篇目一共500条,篇目二开始更新 希望转载的朋友,你可以不用联系我.但是一定要保留原 ...
- 机器学习(Machine Learning)深度学习(Deep Learning)资料【转】
转自:机器学习(Machine Learning)&深度学习(Deep Learning)资料 <Brief History of Machine Learning> 介绍:这是一 ...
- 机器学习(Machine Learning)深度学习(Deep Learning)资料集合
机器学习(Machine Learning)&深度学习(Deep Learning)资料 原文链接:https://github.com/ty4z2008/Qix/blob/master/dl ...
最新文章
- 合并两个对象 java_在Java中合并两个对象列表8
- android 微信浮窗实现_Android实现类似qq微信消息悬浮窗通知功能
- Java并发编程之:Vector和ArrayList的区别
- 简单Unity时间架构设计(克洛诺斯之匙)
- HTML5 进阶系列:拖放 API 实现拖放排序
- Vue.js实训【基础理论(5天)+项目实战(5天)】博客汇总表【详细笔记】
- C#之获取网页标题...
- C/S架构网络聊天软件——Java Chat Application 用java做一个聊天机器人
- 【干货分享】通用工具类
- 与组合数有关的一些求和公式
- 毕业设计任务书参考地址
- stl格式导入matlab,机器人模型导入MATLAB(三):导入MATLAB URDF/stl 格式
- android webview 刷新当前页面,android webview肿么刷新网页
- 凯立德导航android历史版本,凯立德导航升级2020版
- linux affinity,Linux CPU Affinity
- 修改windows软件图标
- python将word表格转写入excel
- 三态门及其在I2C总线中的应用_普中_89C52单片机
- C语言实现扫雷小游戏 纯小白 非黑窗口
- 利用WiFi控制手机进行刷宝APP看视频