什么是联合概率分布

联合概率

联合概率表示为包含多个条件并且所有的条件都同时成立的概率，记作 P(X=a,Y=b)P(X=a,Y=b)P(X=a,Y=b) 或 P(a,b)P(a,b)P(a,b)，有的书上也习惯记作P(ab)P(ab)P(ab)¹

联合概率分布

联合概率分布就是联合概率在样本空间中的分布情况。下面是百度百科上的定义：

联合概率分布简称联合分布，是两个及以上随机变量组成的随机变量的概率分布。根据随机变量的不同，联合概率分布的表示形式也不同。对于离散型随机变量，联合概率分布可以以列表的形式表示，也可以以函数的形式表示；对于连续型随机变量，联合概率分布通过非负函数的积分表示。²

上面是百度百科的解释，简单来说就是两个及以上的随机变量组成的关于随机变量的概率分布。

与条件概率的关系

P(X∣Y)=P(X,Y)P(Y)P(X|Y) = \frac{P(X,Y)}{P(Y)} P(X∣Y)=P(Y)P(X,Y)

对上面的解释就是，在满足Y=bY=bY=b 的情况下X=aX=aX=a 的概率。

与边缘概率的关系

P(X)=∑i=1NP(X,Y)⋅P(Y)P(X) = \sum_{i=1}^{N} P(X,Y) \cdot P(Y)P(X)=i=1∑NP(X,Y)⋅P(Y)

在统计学习中的作用

在统计学习，机器学习中，我们的目标就是找到两个随机变量的联合概率分布P(X,Y)P(X,Y)P(X,Y) 。

比如说我们有一个模型，有输入变量空间X=(x1,x2,...,xn)X=(x_1,x_2,...,x_n)X=(x1,x2,...,xn) 和输出变量空间Y=(y1,y2,...,ym)Y=(y_1,y_2,...,y_m)Y=(y1,y2,...,ym) ，可能是离散的，可能是连续的。那么现在我们这个模型的作用就是在输入一个xxx的时候，能够给出一个yyy，也可以说我们这个模型的作用就是找到XXX和YYY的联合概率分布P(X,Y)P(X,Y)P(X,Y)。那么我们就可以根据其联合概率得到条件概率，就可以得到 P(Y∣X)P(Y|X)P(Y∣X)，于是就可以利用这个条件概率找到给定一个xxx的情况下，最大可能的yyy是哪一个。

而我们上面的基本前提就是假设存在 XXX 关于 YYY 的联合概率分布。如果根本就不存在这样的联合概率分布，那么这个模型也是个没有什么意义的模型。

https://blog.csdn.net/tick_tock97/article/details/79885868 ↩︎
https://baike.baidu.com/item/联合概率分布/12611723?fr=aladdin ↩︎

统计学习——联合概率分布相关推荐

机器学习——统计学习方法——第1章统计学习及监督学习概论
监督学习是从标注数据中学习模型的机器学习问题,是统计学习的重要组成部分. 1.1 统计学习统计学习的特点统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科. 特点 ...
【统计学习方法】统计学习及监督学习概论
1.1 统计学习 1.1.1统计学习的特点数据对统计学习很重要学习: 如果一个系统更能够通过执行某个过程改进它的性能 1.1.2 统计学习研究对象统计学习研究对象:数据数据的基本假设是同类数据 ...
统计学习概论与ROC曲线
统计学习及监督学习概论第一节统计学习第二节统计学习的分类基本分类按模型分类第三节统计学习方法三要素 1. 模型 2. 策略 1. 损失函数和风险函数 2. 经验风险最小化与结构风险最小 ...
联合概率分布的学习笔记
1 致谢感谢百度百科的帮助,原文链接如下: https://baike.baidu.com/item/联合分布/5571059?fromtitle=%E8%81%94%E5%90%88%E6%A6% ...
统计学习第五弹--python实践概率分布
正态分布(Normal distribution) 正态分布(Normal distribution),又名高斯分布(Gaussian distribution),正态曲线呈钟型,两头低,中间高,左右 ...
统计学习之——随机变数与概率分布
统计学习之--随机变数与概率分布随机变数当X满足以下三个条件时,X是随机变数 X是变数 X可以取值的范围是一定的 X取特定值的概率是一定的(所有X概率的和为1) 随机变数又分为1. 离散型随机变量 ...
统计学习及监督学习概论
1.统计学习简介:统计学习(statistical learning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科.统计学习由监督学习(supervised lear ...
统计学习笔记（1）——统计学习方法概论
1.统计学习统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,也称统计机器学习.统计学习是数据驱动的学科.统计学习是一门概率论.统计学.信息论.计算理论.最优化理 ...
统计学习方法——统计学习的分类
首先简单介绍一下统计学习: 统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测和分析的一门学科.其可以理解为计算机系统通过运用数据及统计方法提高系统性能的机器学习.现在我们谈 ...
统计学习方法笔记_cbr：统计学习及监督学习概论
第一章笔记,统计学习及监督学习概论目录第一章笔记,统计学习及监督学习概论 1.1统计学习 1.统计学习的特点 2.统计学习的对象 3.统计学习的方法 4.统计学习的研究 1.2统计学习的分类 1. ...

统计学习——联合概率分布