1.均匀分布

均匀分布是关于定义在区间[a,b](a<b)上连续变量的简单概率分布，其概率密度函数如下图所示。

均匀分布的概率密度函数

若变量x服从均匀分布U(x | 0,1)且a<b,则a+(b-a)x服从均匀分布U(x | a,b).

概率密度函数、期望、方差

2.伯努利分布

伯努利分布是关于布尔变量x ∈ {0,1}的概率分布，其连续参数 μ ∈ [0,1]表示x=1的概率。

伯努利分布概率密度函数
伯努利分布期望、方差

3.二项分布

二项分布用以描述N次独立的伯努利实验中有m次成功（即x=1）的概率，其中每次伯努利实验成功的概率为μ ∈ [0,1]。当N=1时，二项分布退化为伯努利分布。

二项分布的概率密度函数、期望、方差

4.多项分布

将伯努利分布由单变量扩展为d维向量x，其中

且
,并假设
取1的概率为
，
，则将得到离散概率分布，

在此基础上扩展二项分布则得到多项分布，它描述了在N次独立实验中有

次
的概率。
多项分布的概率密度函数、期望、方差、协方差

5.贝塔分布

贝塔分布是关于连续变量

的概率分布，它由两个参数a>0和b>0确定，其概率密度函数如下图所示。
贝塔分布的概率密度函数

其中

为Gamma函数
，B(a,b)为Beta函数
,当a=b=1时，贝塔分布退化为均匀分布.

6.狄利克雷分布

狄利克雷分布是关于一组d个连续变量

的概率分布，
.令
,参数
,
,
。当d=2时，狄利克雷分布退化为贝塔分布。
狄利克雷分布概率、期望、方差、协方差

7.高斯分布

高斯分布亦称正太分布，是应用最为广泛的连续概率分布。对于单变量

,高斯分布的参数为均值
和方差
. 下图给出了在几组不同参数下高斯分布的概率密度函数。
高斯分布的概率密度函数

对于d维向量x,多元高斯分布的参数为d维均值向量

和 d
d的对称正定协方差矩阵
。

8.共轭分布

假设变量x服从分布

，其中
为参数，
为变量x的观测样本，假设参数
服从先验分布
和抽样分布
决定的后验分布
与
是同种类型的分布，则称先验分布
为分布
或
的共轭分布。

例如，假设

,
为观测样本，
为观测样本的均值，
，其中a,b为已知参数，则
的后验分布亦为贝塔分布，其中
,
，这意味着贝塔分布与伯努利分布共轭。类似可知，多项式分布的共轭分布是狄利克雷分布，而高斯分布的共轭分布仍然是高斯分布。

9.KL散度

KL散度，亦称相对熵或者信息散度，可用于度量两个概率分布之间的差异。给定两个概率分布P和Q，两者之间的KL散度定义为

，其中p(x)和q(x)分别为P和Q的概率密度函数。

c# 标准正太分布函数_机器学习中常见的几种概率分布相关推荐

  1. python 绘制分布直方图_统计学中常见的4种抽样分布及其分布曲线（Python绘制）...

    现代统计学奠基人之一.英国统计学家费希尔(Fisher)曾把抽样分布.参书估计和假设检验看作统计推断的三大中心内容. 统计学中,需要研究统计量的性质,并评价一个统计推断的优良性,而这些取决于其抽样分布 ...

  2. 机器学习中常见的几种归一化方法以及原因

    在机器学习中,数据归一化是非常重要,它可能会导致模型坏掉或者训练出一个很奇怪的模型,为了让机器学习的模型更加适合实际情况,需要对数据进行归一化处理. 1.机器学习中常用的归一化方法: 2. 不同归一化 ...

  3. c# 标准正太分布函数_数据标准化处理中的min-max和zscore

    数据标准化就是把有量纲的数据变成无量纲的数据,把量级不同的数据处理到一个层级,从而让不同的数据之间具有可比性.比如收入和体重两个解释变量,收入的单位是元,体重的单位是kg,10000元的收入要和45k ...

  4. windows7没pdf打印机_公司中常见的八种打印机故障解决方法

    前面我们学习了打印机共享的基础知识.怎么共享打印机,可是在使用过程中却发现经常会出现无法打印的情况,这是什么原因导致的了,来跟我一起了解下公司中八种常见的打印机无法打印的故障现像与处理方法吧,这是在公 ...

  5. r语言实现岭回归_数据分析中常见的七种回归分析以及R语言实现（五）

    套索回归,这个回归模型有些新颖,要写个详细的介绍预计要写好长,受限于水平,就写个普及文,所以这里就稍微简答的介绍一下: 为什么我们老说多重共线性呢?那是,因为我们在研究数据的时候总会不行制止的泛起多维 ...

  6. r语言岭回归参数选择_数据分析中常见的七种回归分析以及R语言实现（三）---岭回归...

    在我们平时做回归的时候,大部分都是假定自变量和因变量是线性,但有时候自变量和因变量可能是非线性的,这时候我们就可能需要多项式回归了,多项式回归就是自变量和因变量是非线性所做的一个回归模型,其表达式: ...

  7. 机器学习中常见的损失函数_机器学习中最常见的损失函数

    机器学习中常见的损失函数 现实世界中的DS (DS IN THE REAL WORLD) In mathematical optimization and decision theory, a los ...

  8. toarray方法_机器学习中类别变量的编码方法总结

    作者:louwill:转载自:机器学习实验室 在做结构化数据训练时,类别特征是一个非常常见的变量类型.机器学习中有多种类别变量编码方式,各种编码方法都有各自的适用场景和特点.本文就对机器学习中常见的类 ...

  9. 机器学习中常见的过拟合解决方法

    机器学习中常见的过拟合解决方法 参考文章: (1)机器学习中常见的过拟合解决方法 (2)https://www.cnblogs.com/jiangxinyang/p/9281107.html 备忘一下 ...

最新文章

  1. 焦点分析 | 平头哥的首颗 AI 芯片对阿里云来说意味着什么？
  2. 4.Windows下安装ZooKeeper
  3. c++ 三角函数_高中数学：三角函数知识点总结+专项练习，速速查看！
  4. web服务器 字体.svg/.woff/.woff2 404错误 解决方案
  5. Eclipse中导入外部jar包
  6. 设计模式之“适配器模式”
  7. javap（反汇编命令）详解
  8. vue/return-in-computed-property Enforce that a return statement is present in computed property
  9. 全网爆红！全新洗脑神曲：程序员Disco
  10. JAVA面试中问及HIBERNATE与 MYBATIS的对比，在这里做一下总结
  11. 由方位角和长度如何确定坐标 已知第一个点的坐标
  12. 期货一个价格变动对应价值变化
  13. Excel VBA 打开对话框，获取文件夹路径
  14. 使用病毒数据库离线更新包
  15. 操作指南｜JumpServer用户权限体系的使用实践
  16. realtekrtl8139网卡驱动 linux,Realtek网卡驱动官方版-瑞昱网卡驱动下载-PC下载网
  17. 2007所做更改会影响共用模板normal
  18. Resin配置https
  19. 用Python完成毫秒级抢单，助你秒杀淘宝大单
  20. Java如何实现浅克隆与深克隆_Java浅谈克隆clone

热门文章

  1. why new AET extension field creation will lead to session restart
  2. observer mode - theme change
  3. SAP C4C和Gigya(Customer Data Cloud)的客户报表
  4. 帧大小超过交换机mtu_tcpip – UDP中的MTU如何为65535,但以太网不允许超过1500字节的帧大小...
  5. python虚拟cpu性能_python实现可视化动态CPU性能监控
  6. cocos中如何让背景模糊_Cocos2d-x shader学习2： 模糊(Blur)
  7. mysql 递归查找父节点_MYSQL递归查询，根据子类ID查询所有父类（最全）
  8. Linux 查看目录常用命令
  9. python 初始化数组 numpy,Python Numpy 数组的初始化和基本操作
  10. js php 时间格式化字符串,JS怎么实现字符串与日期的互相转换及日期的格式化