原文地址1：https://www.face2ai.com/Math-Probability-4-7-Conditional-Expectation转载请标明出处

Abstract: 本文介绍期望的条件版本，也就是条件期望
Keywords: Expectation，Prediction，Law of Total Probability

条件期望

说到条件，我们前面反复说，所有概率都是条件的，随机变量也是，那么这几天我们学到的各种数字特征就应该也有条件版本，而我们学的这几个数组特征都是建立在期望的基础上，所以我们只要研究了条件期望，其他各特征的条件版本就是在此基础上的函数版本。
本文还有一个重要的部分就是prediction——预测，机器学习的除了发现事物本身内在的原理，另一个目的就是预测，而我们要预测的这个变量可能我们并不知其分布性质，而是知道另一个跟他有关系的随机变量的分布，那么我们就要用到全概率法则的条件版本了，具体我们来详细说清楚

条件期望的定义和基本性质 Definition and Basic Properties

在我们举个例子之前我们回忆一下，我们整章都在说的期望，一个随机变量的期望取决于分布，而且我们提到过，不同的随机变量有同样的分布的时候，期望是一样的，那么我们可以进一步说每个分布对应唯一的期望，但是我们知道分布是有条件版本的，所以对应的期望就是条件分布的期望，而期望这个数值在预测过程中满足最小M.S.E. 的要求，所以某些时候用条件期望来预测某个值的出现是合理的。

举个例子：
首先统计了某一个片区所有人家的家庭成员和手机持有数量，然后得到了下面这个表：

那么当我们随机选取这个调查中的某一家人，其中有n个家庭成员，那么他们的手机持有量是多少呢？

这个问题就是一个典型的预测问题。

Definition Conditional Expectation/Mean.Let XXX and YYY be random variables such that the mean of YYY exists and is finite.The conditional expectation(or conditional mean) of YYY given X=xX=xX=x is denoted by E(Y∣x)E(Y|x)E(Y∣x) and is defined to be the expectation of the conditional distribution of YYY given X=xX=xX=x .

这个定义就是条件期望或者条件均值的定义了，如果 YYY 存在并且有限，条件 X=xX=xX=x 条件期望 E(Y∣x)E(Y|x)E(Y∣x)

举个例子
如果Y是一个连续随机变量，给定条件 X=xX=xX=x 其条件p.d.f. g2(y∣x)g_2(y|x)g2(y∣x) 那么他的条件期望：
E(Y∣x)=∫−∞∞yg2(y∣x)dy............(1)E(Y|x)=\int^{\infty}_{-\infty}yg_2(y|x)dy\text{............(1)} E(Y∣x)=∫−∞∞yg2(y∣x)dy............(1)
同理如果Y是一个离散随机变量，给定条件 X=xX=xX=x 其条件p.d.f. 那么
g2(y∣x)=∑All yyg2(y∣x)..................(2)g_2(y|x)=\sum_{\text{ All }y}yg_2(y|x)\text{..................(2)} g2(y∣x)= All y∑yg2(y∣x)..................(2)

当然上面这个定义对条件有一定要求，因为条件 X也是随机变量，所以其取值也有范围，比如有些情况下 f1(x)=0f_1(x)=0f1(x)=0 这种情况就很尴尬了，不过也没关系，因为条件发生的概率都是0了，那么在此条件下再发生别的更是不可能，所以这种情况变得无关紧要；另一种尴尬就是f1(x)≠0f_1(x)\neq 0f1(x)=0 也就是条件是某个正常的值了，但是这时候Y可能不存在期望，或者期望是无穷的情况，这时条件期望未定义；

Definition Conditional Means as Random Variables.Let h(x)h(x)h(x) stand for the function of xxx that is denoted E(Y∣x)E(Y|x)E(Y∣x) in either (1) or (2).Define the symble E(Y∣X)E(Y|X)E(Y∣X) to mean h(X)h(X)h(X) and call it the conditional mean of YYY given XXX

想一下，我们前面给出了条件的具体取值，比如当给定 X=x0X=x_0X=x0 的条件下，YYY 的期望是什么。如果我们不给定条件特定的值，那么条件变成一个变量，从微积分的角度来看求条件期望的公式如下
E(Y∣X=x)=∫−∞∞Yf1(Y∣X=x)dyE(Y|X=x)=\int^{\infty}_{-\infty}Yf_1(Y|X=x)dy E(Y∣X=x)=∫−∞∞Yf1(Y∣X=x)dy
如果XXX 也是变量那么这个两个变量的单积分表达式的结果就是个 XXX 的函数.

一个

【概率论】4-7:条件期望(Conditional Expectation)相关推荐

Conditional Expectation Entropy
Conditional Expectation(条件期望) 1.Derivation 假设有两个离散随机变量X,Y.他们的概率密度分别用表示.则条件期望E(Y|X)为: And: Remark: 是 ...
Partial Dependence and Individual Conditional Expectation plots
PDP(Partial dependence plots)和 ICE(individual conditional expectation)可以用来分析预测目标和输入特征之间的相互关系.PDP和ICE ...
Review of Conditional Expectation and Martingale
文章目录 Absolute Continuity Radon-Nikodym Theorem Conditional Expectation The Smaller σ \sigma σ-field ...
【概率论】3-6:条件分布(Conditional Distributions Part I）
title: [概率论]3-6:条件分布(Conditional Distributions Part I) categories: Mathematic Probability keywords: ...
5.3 个体条件期望（Individual Conditional Expectation, ICE）
单个条件期望 (ICE) 图为每个实例显示一条线,显示当特征发生变化时实例的预测如何变化. 特征平均效果的部分依赖图是一种全局方法,因为它不关注特定实例,而是关注整体平均值. 单个数据实例的 PDP ...
【概率论】2-1:条件概率(Conditional Probability)
原文地址1:https://www.face2ai.com/Math-Probability-2-1-Conditional-Probability转载请标明出处 Abstract: 本文介绍条件概率 ...
【概率论】3-6:条件分布(Conditional Distributions Part II）
原文地址1:https://www.face2ai.com/Math-Probability-3-6-Conditional-Distributions-P2转载请标明出处 Abstract: 本文介 ...
二维随机变量期望公式_MIT 6.041 概率论笔记离散随机变量（二）
6.Discrete Random Variables II 离散随机变量(二) Standard deviation 标准差若想要以相同单位衡量数据的偏移量,可以将方差开根,得到随机变量X分布的标 ...
怎么求中位数和分位数概率密度函数_计量经济学中的“条件”与“无条件”...
初学者难免困惑于计量经济学中诸多的 "条件" 与 "无条件",比如条件概率与无条件概率,条件分布与无条件分布,条件期望与无条件期望,条件方差与无条件方差,条件中 ...

【概率论】4-7:条件期望(Conditional Expectation)

条件期望

条件期望的定义和基本性质 Definition and Basic Properties

【概率论】4-7:条件期望(Conditional Expectation)相关推荐

最新文章

热门文章