生成模型与判别模型的区别与理解

一、判别方法与生成方法

监督学习方法可分为判别方法和生成方法。

判别方法（Discriminative approach）

由数据直接学习决策函数Y=f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型。判别方法关心的是对于给定的输入X，应该预测什么样的输出Y。基本思想是有限样本条件下建立判别函数，不考虑样本的产生模型，直接研究预测模型。典型的判别模型包括k近邻，感知级，决策树，支持向量机等。

生成方法（Generative approach）

由数据学习联合概率密度分布P(X,Y)，然后由P(Y|X)=P(X,Y)/P(X)求出条件概率分布P(Y|X)作为预测的模型，即生成模型。该方法表示了给定输入X与产生输出Y的生成关系。基本思想是首先建立样本的联合概率概率密度模型P(X,Y)，然后再得到后验概率P(Y|X)，再利用它进行分类。在这个过程需要求出训练数据的概率分布P(X)，所以只要在数据样本非常多的时候，得到的P(X)才能很好的描述训练数据真正的分布【比如抛硬币】。生成模型用于随机生成的观察值建模，特别是在给定某些隐藏参数情况下。典型的生成模型有：朴素贝叶斯和隐马尔科夫模型等。

二、判别模型与生成模型

1.从直观可知：

生成模型：源头导向型，关注数据时如何生成的，然后再对一个信号进行分类。（信号输入时，生成模型判断哪个类别最有可能产生这个信号，则这个信号就属于哪个类别。

判别模型：结果导向型，关注类别之间的差别，并不关心样本的数据时怎么生成的，根据样本之间的“分界线"来简单对给定的样本进行分类。

2.从公式上可知：

生成模型：学习时先得到P（X,Y)，根据公式继而得到P（Y|X)；预测时应用最大后验概率法（MAP）得到预测类别Y。

判别模型：直接学习得到P（Y|X)，再利用MAP得到Y；或者直接学习得到一个映射函数Y=F(X）

3.生成模型与判别模型的区别与联系

生成模型与判别模型的区别与理解相关推荐

生成模型与判别模型的区别
引入监督学习的任务就是学习一个模型(或者得到一个目标函数),应用这一模型,对给定的输入预测相应的输出.这一模型的一般形式为一个决策函数Y=f(X),或者条件概率分布P(Y|X). 监督学习方法又可以 ...
生成模型和判别模型直接的区别
作者:JasonDing 链接:https://www.jianshu.com/p/d195b887a32e 來源:简书简书著作权归作者所有,任何形式的转载都请联系作者获得授权并注明出处. 概率图分 ...
生成模型与判别模型区别
概念理解监督学习方法可分为两大类,即生成方法与判别方法,它们所学到的模型称为生成模型与判别模型. 判别模型:判别模型是学得一个分类面(即学得一个模型),该分类面可用来区分不同的数据分别属于哪一类: ...
生成模型与判别模型详解
本篇会详细讲解生成模型和判别模型的区别,篇幅稍长作者:zouxy09 来源:https://blog.csdn.net/zouxy09/article/details/8195017 决策函数Y=f ...
生成模型和判别模型学习
生成模型和判别模型在机器学习中,一般将学习方式分为监督式学习和非监督式学习方式. 回忆一下,监督学习的任务就是从数据中学习一个模型,应用这一模型,对给定的输入X预测相应的输出Y.这个模型的一般形式为 ...
生成模型 VS. 判别模型 Logistic 回归 VS. Softmax 回归
生成模型 VS. 判别模型从概率分布的角度考虑,对于一堆样本数据,每个均有特征Xi对应分类标记yi. 生成模型:学习得到联合概率分布P(x,y),即特征x和标记y共同出现的概率,然后求条件概率分布. ...
理解生成模型与判别模型
其它机器学习.深度学习算法的全面系统讲解可以阅读<机器学习-原理.算法与应用>,清华大学出版社,雷明著,由SIGAI公众号作者倾力打造. 书的购买链接书的勘误,优化,源代码资源导言我 ...
[work] 生成模型和判别模型的理解
转载自:https://blog.csdn.net/zouxy09/article/details/8195017 https://blog.csdn.net/lk7688535/article/de ...
生成模型和判别模型_生成模型和判别模型简介
生成模型和判别模型 Intro 介绍 Recently I gave a presentation at work, where I explained how I solved some probl ...

生成模型与判别模型的区别与理解

一、判别方法与生成方法

判别方法（Discriminative approach）

生成方法（Generative approach）

二、判别模型与生成模型

1.从直观可知：

2.从公式上可知：

3.生成模型与判别模型的区别与联系

生成模型与判别模型的区别与理解相关推荐

最新文章

热门文章