监督学习的基本假设——联合概率分布，独立同分布

输入空间X与输出空间Y遵循联合概率分布:
P(X,Y)P(X,Y) P(X,Y)并依联合概率分布P(X,Y)独立同分布产生。

联合概率分布：两个及以上随机变量组成的随机变量的概率分布

独立同分布：在概率统计理论中，指随机过程中，任何时刻的取值都为随机变量，如果这些随机变量服从同一分布，并且互相独立，那么这些随机变量是独立同分布。如果随机变量X1和X2独立，是指X1的取值不影响X2的取值，X2的取值也不影响X1的取值且随机变量X1和X2服从同一分布，这意味着X1和X2具有相同的分布形状和相同的分布参数，对离散随机变量具有相同的分布律，对连续随机变量具有相同的概率密度函数，有着相同的分布函数，相同的期望、方差。如实验条件保持不变，一系列的抛硬币的正反面结果是独立同分布。¹

https://baike.baidu.com/item/独立同分布/6715110?fr=aladdin ↩︎

监督学习的基本假设——联合概率分布，独立同分布相关推荐

联合概率分布的学习笔记
1 致谢感谢百度百科的帮助,原文链接如下: https://baike.baidu.com/item/联合分布/5571059?fromtitle=%E8%81%94%E5%90%88%E6%A6% ...
不确定性推理（计算智能，联合概率分布）
记录一下联合概率分布,以及概率推理. 概率公理对于任意的命题A,B 0≤P(A)≤10 \le P(A) \le 10≤P(A)≤1 P(true)=1P(true) = 1P(true)=1 an ...
【白板推导系列笔记】数学基础-概率-高斯分布-求联合概率分布
X∼N(μ,Σ)=1(2π)p2∣Σ∣12exp(−12(x−μ)TΣ−1(x−μ))x∈Rp,r.v.\begin{gathered} X \sim N(\mu,\Sigma)=\frac{1}{( ...
使用高斯混合模型拟合二元联合概率分布，以及拟合其中一个变量的概率分布，且条件概率分布
一些补充知识:可以先看下面,后续用到的地方再回头来看即可: 其中△就是向量x和向量u之间的马氏距离,Σ是x的协方差矩阵,马氏距离表示数据的协方差距离,一种有效计算两个未知样本相似度的方法. 如果协方差 ...
机器学习——统计学习方法——第1章统计学习及监督学习概论
监督学习是从标注数据中学习模型的机器学习问题,是统计学习的重要组成部分. 1.1 统计学习统计学习的特点统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科. 特点 ...
【数学基础】算法工程师必备的机器学习--线性模型（上）
作者:华校专作者信息: 华校专,曾任阿里巴巴资深算法工程师.智易科技首席算法研究员,现任腾讯高级研究员,<Python 大战机器学习>的作者. 编者按: 算法工程师必备系列更新啦!继上次 ...
机器学习第七篇：详解EM算法
01|概念及原理: EM算法是一种迭代算法,用于含有隐变量的概率模型参数的极大似然估计,或极大后验概率估计.EM算法的每次迭代分两步完成:E步,求期望(expectation):M步,求极大值(max ...
《统计学习方法》(李航)读书笔记(转)
<统计学习方法>(李航)读书笔记(转) http://www.cnblogs.com/limitlessun/p/8611103.html#_label4 阅读目录知识点感知机 k近邻 ...
朴素贝叶斯法（Naive Bayes，NB）
文章目录 1. 朴素贝叶斯法的学习与分类 1.1 基本方法 2. 参数估计 2.1 极大似然估计 2.2 学习与分类算法 2.2.1 例题 2.2.2 例题代码 2.3 贝叶斯估计(平滑) 2.3.1 ...
《统计学习方法》(李航)读书笔记(完结)超级火爆的总结
阅读目录知识点感知机 k近邻法朴素贝叶斯决策树 logistic回归和最大熵模型支持向量机提升方法 EM算法隐马尔可夫模型(HMM) 统计学习方法总结神经网络 K-Means Bagg ...

监督学习的基本假设——联合概率分布，独立同分布

监督学习的基本假设——联合概率分布，独立同分布相关推荐

最新文章

热门文章