NPL与深度学习

深度学习是机器学习的一种方法。它一般指通过多个处理层来学习非线性函数。

什么是生成分类器？

生成分类器使用Bayes规则将给定类c的特征F的概率转换为对给定类F的特征c的预测。由分类器预测的类通常是产量最高的类P(c、F)。常用的生成分类器是Naive Bayes 分类器。它有两层（一个用于特征F和一个用于C类）。

基于生成分类器的深度学习

深度学习首先需要的是一个隐藏的层。因此，您可以在C层和F层之间再添加一层H以获得Hierarchical Bayesian分类器（HBC）。

在HBC中，你有两种方式计算P(c、F)：

第一个等式使用和（POS）的乘积来计算P（c | F）的值。第二个等式使用产品和（SOP）来计算P（c | F）的值。

PoS方程

作者发现了关于这两个方程的一些非常有趣的东西。

事实证明，如果使用第一个方程。则HBC简化为Naive Bayes分类器。这样的HBC只能学习线性(或二次)的决策处理。

如图1中所示的离散异函数。

可以看出，只一条直线是无法将黑点与白点分开。要想正确的区分它们只能通过非线性分类器。

如果您通过上图中的数据训练多项式Naive Bayes分类器，则会得到下图。

请注意，虚线区域表示类别1，清除区域表示类别0。

可以看出，不管线的角度如何，四个中的至少一个点将被错误分类。例如图中，{5,1}处的点错误归类为0。（清除区域表示类别0）。

但是使用POS HBC，则会得到相同的结果。

SOP方程

通过研究。作者发现，如果使用第二个方程，会发生一些令人惊奇的事情。

有了“产品和”方程，HBC可以进行深度学习。

SOP +多项分布

下图显示了由多项非线性HBC学习的决策处理。

整个图由穿过原点的两条直线组成。并将数据点分为两个必需的类别。

由于{1,1}和{5,5}处的点落入表示分类0的清晰圆锥区域，而其他两点落入代表分类1的虚线区域，所已四个点都被正确分类。

进而得出结论，多项非线性分层Bayes分类器可以学图1的非线性函数。

高斯分布

高斯非线性HBC学习的图像如下图所示。

图像由分类后的数据点的两条二次曲线组成。

所以说，高斯非线性HBC也可以学习图1的非线性函数。

结论

由于SOP HBC是多层的（具有一层隐藏节点），并且可以学习非线性决策。因此可以说它们具有深度学习的能力。

来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/31509949/viewspace-2154222/，如需转载，请注明出处，否则将追究法律责任。

转载于:http://blog.itpub.net/31509949/viewspace-2154222/

叮，关于NPL与深度学习的“干货”请查收！相关推荐

2019年上半年收集到的人工智能深度学习方向干货文章
2019年上半年收集到的人工智能深度学习方向干货文章随机森林VS神经网络:哪个更好? 深度学习--感知机讲解深度学习NN.CNN.RNN.和DNN你了解吗? 手工计算深度学习模型中的参数数量使用 ...
部分CIA的漏洞利用工具干货请查收
3月12日讯 CIA 辛辛苦苦几年攒的漏洞和工具"被"提交事件后,业内人士和记者都在仔细查看这些文件,各方都在关注事情进展. 相关阅读: 维基解密再曝美国情报机构惊天内幕批露CI ...
深度学习高能干货：手把手教你搭建MXNet框架
导读:相信很多程序员在学习一门新的编程语言或者框架时,都会先了解下该语言或者该框架涉及的数据结构,毕竟当你清晰地了解了数据结构之后才能更加优雅地编写代码,MXNet同样也是如此. 在MXNet框架中你 ...
深度学习技术干货免费听，AirPods2任性抽...520有场AI峰会不可错过！
从1936年5月,艾伦·图灵在<论数字计算在决断难题中的应用>里提出了"图灵机"模型设想 ,到1997年的5月,"深蓝"国际象棋超级计算机击败了棋王 ...
【深度学习】干货！小显存如何训练大模型
之前Kaggle有一个Jigsaw多语言毒舌评论分类[1]比赛,当时我只有一张11G显存的1080Ti,根本没法训练SOTA的Roberta-XLM-large模型,只能遗憾躺平.在这篇文章中,我将分 ...
叮，网络学习课程表模板请查收
假期余额向我们挥手告别,新的学习任务在招手微笑.课程的多少并不代表努力的结果,课程的松散并不代表学习的态度,希望大家都可以以梦为马,不负韶华.趁着青春的年华,踩着奋斗的尾巴.在最美的时代,发挥出自己的 ...
送给你的一份英语学习资料，请查收！
什么方法使0基础学生 3个月就能说一口流利英语? 一天晚上,他接到学生发来的短信: "老师,这三个月来,我严格按照你说的学习方法去做,没想到我英语提升那么快,现在已经能跟外国人交流自如.就在 ...
叮！您有一份工作汇报请查收
致每一位 LeanCloud 伙伴: 春节假期的结束意味着新一年的正式开始.我想总结一下 LeanCloud 过去一年的进展,以及对 2018 的计划和展望. 2017 年是 LeanCloud 成立 ...
126 篇殿堂级深度学习论文分类整理从入门到应用 | 干货
如果你有非常大的决心从事深度学习,又不想在这一行打酱油,那么研读大牛论文将是不可避免的一步.而作为新人,你的第一个问题或许是:" 论文那么多,从哪一篇读起?" 本文将试图解决这个问 ...

叮，关于NPL与深度学习的“干货”请查收！

NPL与深度学习

叮，关于NPL与深度学习的“干货”请查收！相关推荐

最新文章

热门文章