1. probability-概率

更多指在给定条件参数 $\theta$ 下，发生结果 $O$ 的可能性， $p(O/\theta )$ 更多关注的是结果的可能性

2. likelihood-似然

但在机器学习中，训练模型的时候，模型常常不知道 $\theta$ ，但是知道结果 $O$ 的；所以就出现了要求解最可能的 $\theta$ 的情况；这时候问题就变成了 $L(\theta/O )$ ，也就是likelihood，注意 $O$ 变成了已条件， $\theta$ 变成了未知。

3.log-likelihood 对数似然法

论文中提到的log-likelihood就是交叉熵代价函数（cross-entropy cost function）

参考资料

terminology - What is the difference between "likelihood" and "probability"? - Cross Validated

其它

Discrete Random Variables：离散随机变量

Continuous Random Variables：连续随机变量

在机器学习中，likelihood和probability的区别是什么？相关推荐

机器学习中的数学——点估计（四）：最大后验估计（Maximum Posteriori Probability，MAP）
分类目录:<机器学习中的数学>总目录相关文章: · 点估计(一):基础知识 · 点估计(二):矩估计 · 点估计(三):极大似然估计/最大似然估计(Maximum Likelihood ...
机器学习中L1正则化和L2正则化是什么？区别是什么？
机器学习中L1正则化和L2正则化是什么?区别是什么? 我们所说的正则化,就是在原来的loss function的基础上,加上了一些正则化项或者称为模型复杂度惩罚项. 结构风险最小化: 在经验风险最小化 ...
机器学习中为什么需要验证集，验证集与测试集的区别是什么？
目录 1.为什么需要验证集 2.验证集与测试集的区别 3.如何使用验证集 4.为什么验证集和测试集都需要? 参考链接 1.为什么需要验证集在机器学习中,训练模型时需要调节模型的参数来提高模型的性能, ...
envi最大似然分类_闲谈最大后验概率估计（MAP estimate）amp;极大似然估计（MLE）和机器学习中的误差分类...
上一篇文章中提到了一个有趣的实验,简单来说就是1-100中有若干个数字是"正确的",只告诉其中一部分"正确的"数字,去猜全部"正确的"数字. ...
机器学习中的损失函数（交叉熵损失、Hinge loss）
损失函数文章目录损失函数 1 交叉熵损失 1.1 从最大似然估计到交叉熵损失概率论中的MLE 机器学习中的MLE 交叉熵损失 1.2 多分类的交叉熵损失函数 1.3 比较 2. Hinge lo ...
机器学习中的数学——点估计（二）：矩估计
分类目录:<机器学习中的数学>总目录相关文章: · 点估计(一):基础知识 · 点估计(二):矩估计 · 点估计(三):极大似然估计/最大似然估计(Maximum Likelihood ...
机器学习中常见的损失函数_机器学习中最常见的损失函数
机器学习中常见的损失函数现实世界中的DS (DS IN THE REAL WORLD) In mathematical optimization and decision theory, a los ...
透彻理解机器学习中极大似然估计MLE的原理（附3D可视化代码)
文章目录相关资料一.什么是概率,什么是似然二.极大似然估计 Maximum Likelihood Estimation (MLE) 的含义 2.1 机器学习中的极大化似然函数 2.2 极大似然估 ...
机器学习中的先验、后验和似然
机器学习中的先验.后验和似然的概念理解 1.我自己的理解: 1)先验:统计历史上的经验而知当下发生的概率: 2)后验:当下由因及果的概率: 2.网上有个例子说的透彻: 1)先验--根据若干年的统计(经 ...

在机器学习中，likelihood和probability的区别是什么？

1. probability-概率

2. likelihood-似然

3.log-likelihood 对数似然法

参考资料

在机器学习中，likelihood和probability的区别是什么？相关推荐

最新文章

热门文章