1.定义

反事实counterfactual是对已有结果进行假设，再推理，估计其中一项影响因素的发生概率。

2.用处

近年来在机器学习中广泛应用，指代与因果分析相关的广泛性技术。

3.典型实例

1.已知 Alice 在工作中没有得到晋升，已知她是一名女性，已知我们可以观察到的关于她的情况和表现的一切事情，那么，如果 Alice 是男性，她的晋升概率又会如何？

我们问这个问题，目的是在检测性别对结果有多大的影响。但是我们在这里，需要明确的一点就是，这是一个单独的公平性概念，不是整个模型的公平性。也就是说，我们不知道模型是否公平或者我们假设模型是相对公平的。我们只是评估这个特例里面，Alice是男性，会对结果产生的影响。
2.假设我获得硕士学位，并且在此期间我留了很长的胡子，假设我没有留胡子，我还能获得硕士学位吗？
这里我已经获得硕士学位，并且我留有胡子。我想知道胡子对于我获得学位有多大影响，但事实是，有没有胡子，我都会获得学位。这里评估的是胡子对于获得学位的影响概率。

4.数学表示

回到Alice的例子，将其假设为两个例子：1.Alice是女性，在工作中兢兢业业；2.Alice是男性，其它信息和上一个例子完全一致。

则有
P1(晋升|Alice=女)
和 P2(晋升|Alice=男)

这两个概率之间，如果结果一致，我们就可以认为晋升和性别无关，如果结果不一致，我们就将P1和P2的差值，当作性别在模型中的影响概率。这是非常好理解的，但是这只是一个结果概率。

5.结论

反事实counterfactual通常被认为是不科学的，因为这不是在经验上可测得的。在机器学习中，我们可以在测试数据集上对模型进行测试，但那是在因果机器学习中，不是所有东西都可以直接测试或者根据已有经验进行测试的，毕竟过去的事情不可以重来。简而言之，就是因果机器学习只是假设既定事实中影响结果的某一因素，但是我们没办法验证这个因素在现实中会对最终结果产生的影响。
但是反事实技术可以给了解或者使用模型相关人员外的决策者一个参考，比如政客的军师通过研究往届选举人的特点，分析某些因素对选举结果的影响。比如间谍通过收集敌方情报，研究某一因素是否对自己国家有强威胁。

反事实（counterfactual）简述相关推荐

学习笔记：Towards Counterfactual Image Manipulation via CLIP 基于CLIP的反事实图像处理研究
[ACM MM-2022] Towards Counterfactual Image Manipulation via CLIP 基于CLIP的反事实图像处理研究 1.背景 2. 方法 2.1 整体框 ...
快手+何向南团队最新论文Counterfactual Interactive Recommender System ，反事实推理融入离线强化学习，解决filter bubble/信息茧房问题
论文名:CIRS: Bursting Filter Bubbles by Counterfactual Interactive Recommender System 目录链接 1. 相关背景 1.1 ...
《因果学习周刊》第8期：因果反事实预测
No.08 智源社区因果学习组因果学习研究观点资源活动关于周刊因果学习作为人工智能领域研究热点之一,其研究进展与成果也引发了众多关注.为帮助研究与工程人员了解该领域的相关进展和 ...
机器学习hierarchical clustering_ICLR 2020 | 反事实因果理论如何帮助深度学习？
以深度学习为代表的表示机器学习取得了巨大的成功,尤其是在特征提取的能力方面.但是与此同时,一个巨大的问题是深度神经网络的黑箱问题和不稳定性问题.其中的一个根本原因,是基于相关性的统计模型容易学习到数据 ...
梯度反传_反事实政策梯度解释
梯度反传 Among many of its challenges, multi-agent reinforcement learning has one obstacle that is overl ...
【华为推荐论文】如何学习未知样本？基于反事实学习的推荐系统技术研究（附论文下载链接）...
华为诺亚方舟实验室发布了最新研究成果<Improving Ad Click Prediction by Considering Non-displayed Events>,提出了一种基于反 ...
因果推断与反事实预测——几篇关联论文（二十六）
有几篇关联的论文,如果论文开源代码了,笔者比较喜欢读+code练习,所以看这类文献比较慢,先Mark再精读了- 文章目录 1 Auto IV: Counterfactual Prediction vi ...
因果推断与反事实预测——盒马KDD2021的一篇论文（二十三）
文章目录 1 已有研究者的描述 1.1 YuyangZhangFTD 1.1.1 Introduction 1.1.2 Problem Formulation 1.1.3 Counterfactual ...
推荐系统（五）——SIGIR‘21用反事实推断缓解点击诱饵，还在为标题党烦躁吗？请看这篇文章
Clicks can be Cheating: Counterfactual Recommendation for Mitigating Clickbait Issue https://dl.acm. ...

反事实（counterfactual）简述