吴恩达教授机器学习课程笔记【三】广义线性模型(1)-指数族分布

本节为吴恩达教授机器学习课程笔记第三部分，广义线性模型（1）指数族分布，包括：指数族分布的一般形式，伯努利分布和高斯分布的指数族形式。
前两节学习的回归和分类都是广义线性模型的特例，为了更好地认识广义线性模型，首先看指数族分布。

1.指数族分布

指数族是可以写成下式形式的一类分布：

其中，η\etaη称为分布自然参数/特性参数，T(y)T(y)T(y)是充分统计量（通常T(y)=yT(y)=yT(y)=y），a(η)a(\eta)a(η)是一个对数分割函数，因此e−a(η)e^{-a(\eta)}e−a(η)通常用来确保分布的概率累加为1。
一组特定的T，a，b组合会确定一族分布，调整η\etaη的值会得到该族的不同分布。

下面来说明伯努利分布和高斯分布是指数组分布，伯努利分布可以写为如下形式：

其中:

得φ\varphiφ的值为：

对应于指数族分布，有：

下面看高斯分布，有：

对应地，有：

此外多项式分布、泊松分布都是指数族分布，接下来，我们来学习如何从这些分布中构建广义线性模型。

欢迎扫描二维码关注微信公众号深度学习与数学 [每天获取免费的大数据、AI等相关的学习资源、经典和最新的深度学习相关的论文研读，算法和其他互联网技能的学习，概率论、线性代数等高等数学知识的回顾]

吴恩达教授机器学习课程笔记【三】广义线性模型(1)-指数族分布相关推荐

吴恩达深度学习课程笔记（四）：卷积神经网络2 实例探究
吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究吴恩达深度学习课程笔记(四):卷积神经网络2 实例探究 2.1 为什么要进行实例探究 2.2 经典网络 LeNet-5 AlexNet VGG- ...
吴恩达深度学习课程笔记（初步认识神经网络）
吴恩达深度学习课程笔记1 课程主要内容 1.神经网络与深度学习介绍 2.Improving Deep Neural Networks:超参数调整,正则化,优化方法 3.结构化机器学习工程:比如如何分割 ...
吴恩达深度学习课程笔记－3
吴恩达深度学习课程笔记-3 src="http://nbviewer.jupyter.org/github/HuaGuo1992/Blog/blob/master/%E5%90%B4%E6% ...
吴恩达深度学习课程笔记之卷积神经网络（2nd week）
0 参考资料 [1] 大大鹏/Bilibili资料 - Gitee.com [2] [中英字幕]吴恩达深度学习课程第四课 - 卷积神经网络_哔哩哔哩_bilibili [3] 深度学习笔记-目录 ...
吴恩达《机器学习》笔记汇总
根据学习进度,将课程分为15部分进行笔记,具体内容如下: 吴恩达机器学习(一)-- 简介吴恩达机器学习(二)-- 线性回归吴恩达机器学习(三)-- Logisitic回归吴恩达机器学习(四)-- ...
吴恩达《机器学习》笔记（一）【线性回归梯度下降法】
通过在网易云课堂学习吴恩达先生的<机器学习>课程,为了巩固自己的学习且方便读者们共同交流学习,特此做此学习笔记,希望与大家共勉. 吴恩达<机器学习>课程链接:https://s ...
免费分享全套吴恩达深度学习课程笔记以及编程作业集合
分享吴恩达深度学习全套笔记笔记来源于吴恩达老师课程中口述翻译,并包含板书.可以取代看视频,做到更快速学习. (部分目录) (部分目录) (板书) 编程作业扫描二维码后台回复"0&quo ...
【机器学习吴恩达】CS229课程笔记notes3翻译-Part V支持向量机
CS229 课程笔记吴恩达 Part V 支持向量机这部分展现了支持向量机(SVM)学习算法.SVM是最好的监督学习算法之一.为了讲述SVM,我们需要首先谈论边界和用大的间隔分离数据.接下来,我们 ...
【AI】吴恩达斯坦福机器学习中文笔记汇总
1.吴恩达机器学习和深度学习课程的字幕翻译以及笔记整理参见: 以黄海广博士为首的一群机器学习爱好者发起的公益性质项目(http://www.ai-start.com). 2.黄海广博士公益项目介绍 h ...
【DeepLearning】吴恩达深度学习课程笔记思维导图
查看全文 http://www.taodudu.cc/news/show-4249537.html 相关文章: 吴恩达机器学习--反向传播算法 2018滴水LUA手游脚本制作实战视频教程 Unity3 ...

吴恩达教授机器学习课程笔记【三】广义线性模型(1)-指数族分布

1.指数族分布

吴恩达教授机器学习课程笔记【三】广义线性模型(1)-指数族分布相关推荐

最新文章

热门文章