深度学习需要掌握的 13 个概率分布
作者丨Sophia@知乎
来源丨https://zhuanlan.zhihu.com/p/158801020
编辑 | 极市平台
本文仅用于学术分享,著作权归作者所有。如有侵权,请联系后台作删文处理。
在逛Github时发现了一个不错的总结,对深度学习的概率分布进行了总结。
作者的Github开源地址:https://github.com/graykode/distribution-is-all-you-needgithub.com
1.均匀分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py
均匀分布在 [a,b] 上具有相同的概率值,是简单概率分布。
2.伯努利分布(离散)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py
先验概率 p(x)不考虑伯努利分布。因此,如果我们对最大似然进行优化,那么我们很容易被过度拟合。
利用二元交叉熵对二项分类进行分类。它的形式与伯努利分布的负对数相同。
3.二项分布(离散)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py
参数为 n 和 p 的二项分布是一系列 n 个独立实验中成功次数的离散概率分布。
二项式分布是指通过指定要提前挑选的数量而考虑先验概率的分布。
4.多伯努利分布/分类分布(离散)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py
多伯努利称为分类分布。
交叉熵和采取负对数的多伯努利分布具有相同的形式。
5.多项式分布(离散)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py
多项式分布与分类分布的关系与伯努尔分布与二项分布的关系相同。
6.β分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py
β分布与二项分布和伯努利分布共轭。
利用共轭,利用已知的先验分布可以更容易地得到后验分布。
当β分布满足特殊情况(α=1,β=1)时,均匀分布是相同的。
7.Dirichlet 分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py
dirichlet 分布与多项式分布是共轭的。
如果 k=2,则为β分布。
8.伽马分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py
如果 gamma(a,1)/gamma(a,1)+gamma(b,1)与 beta(a,b)相同,则 gamma 分布为β分布。
指数分布和卡方分布是伽马分布的特例。
9.指数分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py
指数分布是 α 为 1 时 γ 分布的特例。
10.高斯分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py
高斯分布是一种非常常见的连续概率分布。
11.正态分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py
正态分布为标准高斯分布,平均值为0,标准差为1。
12.卡方分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py
k 自由度的卡方分布是 k 个独立标准正态随机变量的平方和的分布。
卡方分布是 β 分布的特例。
13.t 分布(连续)代码:https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.py
t分布是对称的钟形分布,与正态分布类似,但尾部较重,这意味着它更容易产生远低于平均值的值。
说个正事哈
由于微信平台算法改版,公号内容将不再以时间排序展示,如果大家想第一时间看到我们的推送,强烈建议星标我们和给我们多点点【在看】。星标具体步骤为:
(1)点击页面最上方“深度学习自然语言处理”,进入公众号主页。
(2)点击右上角的小点点,在弹出页面点击“设为星标”,就可以啦。
感谢支持,比心。
投稿或交流学习,备注:昵称-学校(公司)-方向,进入DL&NLP交流群。
方向有很多:机器学习、深度学习,python,情感分析、意见挖掘、句法分析、机器翻译、人机对话、知识图谱、语音识别等。
记得备注呦
推荐两个专辑给大家:
专辑 | 李宏毅人类语言处理2020笔记
专辑 | NLP论文解读
专辑 | 情感分析
整理不易,还望给个在看!
深度学习需要掌握的 13 个概率分布相关推荐
- 深度学习需要掌握的 13 个概率分布(附代码)
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货 知乎作者:Sophia 来源:深度学习自然语言处理 本文仅用于学术分享 ...
- 深度学习必懂的13种概率分布
作为机器学习从业者,你需要知道概率分布相关的知识.这里有一份最常见的基本概率分布教程,大多数和使用 python 库进行深度学习有关. 概率分布概述 共轭意味着它有共轭分布的关系. 在贝叶斯概率论中, ...
- 深度学习必懂的 13 种概率分布(附链接)
来源:AI开发者 本文约为1400字,建议阅读5分钟 本文为你介绍基本概率分布教程,大多数和使用 python 库进行深度学习有关. 概率分布概述 共轭意味着它有共轭分布的关系. 在贝叶斯概率论中,如 ...
- 深度学习必须掌握的 13 种概率分布
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 作为机器学习从业者,你需要知道概率分布相关的知识.这里有一份最常见的基本概率分布教 ...
- gamma分布_深度学习需要掌握的 13 个概率分布(附代码)
作者:Sophia@知乎 来源:https://zhuanlan.zhihu.com/p/158801020 本文仅用于学术分享,著作权归作者所有.如有侵权,请联系后台作删文处理. 在逛Github时 ...
- 均匀分布 卡方分布_深度学习需要掌握的13个概率分布(附代码)
概率分布 知乎作者:Sophia 来源:深度学习自然语言处理本文仅用于学术分享,著作权归作者所有.如有侵权,请联系后台作删文处理.在逛Github时发现了一个不错的总结,对深度学习的概率分布进行了总结 ...
- TensorFlow 2.0深度学习算法实战---第13章 生成对抗网络
我不能创造的事物,我就还没有完全理解它.−理查德·費曼 在生成对抗网络(Generative Adversarial Network,简称 GAN)发明之前,变分自编码器被认为是理论完备,实现简单,使 ...
- torch的拼接函数_从零开始深度学习Pytorch笔记(13)—— torch.optim
前文传送门: 从零开始深度学习Pytorch笔记(1)--安装Pytorch 从零开始深度学习Pytorch笔记(2)--张量的创建(上) 从零开始深度学习Pytorch笔记(3)--张量的创建(下) ...
- 【动手学深度学习PyTorch版】13 卷积层的填充和步幅
上一篇移步[动手学深度学习PyTorch版]12 卷积层_水w的博客-CSDN博客 目录 一.卷积层的填充和步幅 1.1 填充 1.2 步幅 1.3 总结 二.代码实现填充和步幅(使用框架) 一.卷积 ...
- 吴恩达 深度学习 编程作业(1-3)- Planar data classification with one hidden layer(平面花形状)
Python Basics with Numpy (optional assignment) Welcome to your first assignment. This exercise gives ...
最新文章
- 浪子回头,从学渣变成学霸,就了不起吗?
- cvBlob 作为静态库链接问题
- 数组中的逆序对,为什么要在第一个小于等于的时候计数?
- 记录 关于浏览器跨域和设置默认浏览器的问题
- CRM、DMP、CDP的区别
- SharePoint 2007 做Migration后用户处理
- git 放弃本地修改,强制拉取更新
- [转]我是如何走进黑客世界的?
- 纽约poi数据集_数据福利|微软城市计算、AI for Earth
- 页面加载完某个函数不工作 选择器也没错
- ubuntu16.04 wget java_linux centos ubuntu下载安装JDK wget方式下载JDK
- win10 Anaconda 安装教程
- 【暴力枚举】LeetCode 78. Subsets
- FreeRTOS基础教程第一章创建任务
- mix2线刷开发板救砖_小米MIX2官方原厂系统rom线刷刷机包降级包下载8.10.25版
- 关于单机winform数据库 数据存储
- 微信开发------微信公众号新老账户粉丝迁移问题
- 卸载rasing,瑞星
- 罗克韦尔AB PLC RSLogix5000中定时器指令使用方法介绍
- 解决linux网速慢问题