Pattern Recognition And Machine Learning读书会前言
读书会成立属于偶然,一次群里无聊到极点,有人说Pattern Recognition And Machine Learning这本书不错,加之有好友之前推荐过,便发了封群邮件组织这个读书会,采用轮流讲课的方式,如果任务能分配下去就把读书会当作群员的福利开始进行,分配不下去就算了。后来我的几位好友:网神兄、戴玮博士、张巍博士、planktonli老师、常象宇博士纷纷出来支持这个读书会。待任务分配完,设置好主持人和机动队员,我认为就不需要再参与了,但进行不久,也充当机动队员讲了第二、六、九、十一章,并承担了所有的整理回顾工作。随着读书会的进行渐渐发现PRML这本书可以用惊艳二字来形容,每讲一章之前我们都花费大量时间精力做准备,然后用聊天的方式白话讲课,尽量做到通俗易懂,一章内容太多便分几次讲,讲的不满意便重新讲,一共讲课23次,加上整理回顾前后进行了两遍,历时一年半这份讲稿合集才与大家见面。以下是各章的简介:
第一章Introduction由西安交通大学常象宇博士主讲,深入浅出的介绍了机器学习的基本概念、学习理论、模型选择、维灾等。
第二章Probability Distributions的贝塔-二项式、狄利克雷-多项式共轭、高斯分布、指数族等很基础也很重要。出于各种原因我前后讲了三次,直到比较满意为止。
理解机器学习莫过于从最基础的线性模型开始,第三章 Linear Models for Regression由西北大学planktonli老师主讲,介绍了线性基函数模型、正则化方法、贝叶斯线性回归及其与核函数的联系等内容,为后面几章打下了良好基础。
第四章Linear Models for Classification仍由西北大学planktonli老师主讲,介绍了贝叶斯的marginalization概念、Fisher线性判别、感知机、分类器概率生成和判别模型的区别与联系、逻辑回归的最大似然参数估计、贝叶斯逻辑回归的Laplace近似推断等内容。
第五章Neural Networks由网神(新浪微博:@豆角茄子麻酱凉面)主讲,精彩内容有:神经网络做回归和分类的训练目标函数、BP误差后向传播的链式求导法则、正则化、卷积网络等。
第六章Kernel Methods,介绍了核函数的定义、构建方法,通过线性回归的Dual Representations推导说明由基于特征到基于样本学习的转换;最后是动感十足的高斯过程Gaussian Processes,包括GP的协方差矩阵形式、超参、预测等内容。
第七章Sparse Kernel Machines由工业界高手'网神'(新浪微博:@豆角茄子麻酱凉面)主讲。主要内容:推导了支持向量机(support vector machine)的Dual Representations;由KKT条件说明了解的稀疏性;为提高泛化能力增加松弛变量后的SVM;最后是加了先验有更稀疏解的RVM。
第八章Graphical Models由'网神'(新浪微博:@豆角茄子麻酱凉面)主讲,精彩内容有:贝叶斯网络和马尔科夫随机场的概念、联合概率分解、条件独立表示;图的概率推断inference。
第九章Mixture Models and EM,主要内容有:Kmeans算法;混合高斯模型以及EM(Expectation Maximization)算法在GMM中的应用;一般EM算法性质的推导和证明。
第十章的主要内容是变分推断(Variational Inference),由中科院自动化所戴玮博士(新浪微博:@戴玮_CASIA)前后分三次讲完。精彩内容有:为什么需要近似推断、变分推断用到的KL散度、根据平均场(Mean Field)思想的分解以及迭代求最优解的推导,最后用了三个例子来加深理解。
第十一章的主要内容是MCMC(Markov Chain Monte Carlo),包括:马尔科夫链平稳分布的定义及其充分条件:细致平稳条件的证明;Metropolis-Hastings及其接受率满足细致平稳条件的推导,接受率恒为1的Gibbs Sampling;最后是Slice Sampling、Hamiltonian MCMC。
第十二章连续隐变量,由中科院自动化所戴玮博士(新浪微博:@戴玮_CASIA)分三次讲完。精彩内容有:从最大方差和最小重构误差两个角度解释了PCA;包含连续隐变量的概率生成模型PPCA,其最大似然闭式解的推导以及EM求解方法;核PCA的变换;最后介绍了Autoencoder、非线性流形思想
第十三章Sequential Data,由中科院软件所张巍博士(新浪微博:@张巍_ISCAS)主讲,精彩内容有:Hidden Markov Models的数据生成过程及其参数的EM求解方法、HMM的预测和解码。
最后一章Combining Models,由'网神'(新浪微博:@豆角茄子麻酱凉面)主讲,精彩内容有:committees;Boosting、AdaBoost,并从最优化指数损失函数的角度对其步骤作了解释;最后是决策树和条件混合模型。
感谢以上PRML所有参讲人员,并对正在进行中的MLAPP(Machine Learning:A Probabilistic Perspective)读书会的参讲人员:黄浩军(新浪微博: @Copper_PKU)、余磊博士(新浪微博: @红烧鱼_机器学习)、SIAT(新浪微博: @priceton)、皮搋子狐狸(新浪微博: @unluckyAllen)、Zealot等人一并感谢。坚持把PRML这本书跟下来的同学也辛苦了。最后对QQ群、微博、微信等各个平台上所有参与和支持我们读书会的人表示感谢,有几次都想放弃了,是大家对机器学习的热情一直在推动着读书会前进。
读书会QQ群:一号群:177217565(已满) ;
二号群:424269692 加群时请在申请里用简短的话描述一模型或算法的关键思想。
微信平台请扫下面二维码:
PRML读书会讲稿PDF版本以及更多资源下载地址:http://vdisk.weibo.com/u/1841149974
PRML这本书结束了,但读书会仍会继续,最新动态请关注我的新浪微博:
@Nietzsche_复杂网络机器学习
转载于:https://www.cnblogs.com/Nietzsche/p/4255825.html
Pattern Recognition And Machine Learning读书会前言相关推荐
- PRML:Pattern Recognition And Machine Learning 相关资料整理与下载
Pattern Recognition And Machine Learning 相关资料整理与下载 前言 一.PRML英文原文 二.PRML中文翻译版 三.PRML勘误与附加评论 四.读者整理的笔记 ...
- 今天开始学Pattern Recognition and Machine Learning (PRML),章节1.6,Information Theory信息论简介
今天开始学Pattern Recognition and Machine Learning (PRML),章节1.6,Information Theory信息论简介 前面有朋友说写的东西太理论了,我想 ...
- 今天开始学模式识别与机器学习Pattern Recognition and Machine Learning (PRML),章节1.2,Probability Theory (下)
今天开始学Pattern Recognition and Machine Learning (PRML),章节1.2,Probability Theory (下) 今天把1.2写完,这一节讲了很多重要 ...
- 今天开始学模式识别与机器学习Pattern Recognition and Machine Learning (PRML)书,章节1.2,Probability Theory (上)
Pattern Recognition and Machine Learning (PRML)书,章节1.2,Probability Theory (上) 这一节是浓缩了整本书关于概率论的精华,突出一 ...
- 今天开始学模式识别与机器学习Pattern Recognition and Machine Learning 书,章节1.1,多项式曲线拟合(Polynomial Curve Fitting)
转载自:http://blog.csdn.net/xbinworld/article/details/8834155 Pattern Recognition and Machine Learning ...
- 今天开始学Pattern Recognition and Machine Learning (PRML),章节5.2-5.3,Neural Networks神经网络训练(BP算法)
这一篇是整个第五章的精华了,会重点介绍一下Neural Networks的训练方法--反向传播算法(backpropagation,BP),这个算法提出到现在近30年时间都没什么变化,可谓极其经典.也 ...
- Pattern Recognition And Machine Learning 第一章
目录 1 绪论 1.1 例子:多项式曲线拟合 1.2 概率论(参考) 1.2.1 概率密度(参考) 1.2.2 期望和协方差(参考.参考.参考) 1.2.3 贝叶斯概率(参考.参考) 1.2.4 高斯 ...
- pattern recognition and machine learning基本思想1:最大似然估计
在prml中,解决问题最常用的方法之一就是最大似然法,这里对该方法进行简单的介绍. Example 1: 高斯分布: Unknown 样本均值为 协方差矩阵 . 均值未知. 为样本点. 另求导公式等 ...
- Reading papers_6(Pattern Recognition And Machine Learning一书,ing...)
第一章,引论 本章是本书的纲领,有着统领全局的味道. 首先通过一个多项式曲线拟合的例子引出了本领域的一些概念,比如线性模型,过拟合,错误函数,模型比较和模型选择,最大似然,正则化,岭回归,权值衰减,验 ...
- 学习笔记-----《Pattern Recognition and Machine Learning》Christopher M. Bishop
Preface 模式识别这个词,以前一直不懂是什么意思,直到今年初,才开始打算读这本广为推荐的书,初步了解到,它的大致意思是从数据中发现特征,规律,属于机器学习的一个分支. 在前言中,阐述了什么是模式 ...
最新文章
- python列表按值排序_json的python排序列表(按值)
- 自定义mac的ll命令
- debian7get源,自动设置get源
- spring框架中JDK和CGLIB动态代理区别
- c语言全局变量和局部变量问题汇总
- 多元相关性分析_电子健康素养与中青年脑卒中患者健康行为的相关性分析
- 奇文:金庸小说中的第一高手是谁?
- JS自动让手机调出软键盘,进行输入
- Android AR场景拍照技术实现(有关键源代码)
- 热烈庆祝排名进入5000
- C++ Template用法总结
- 医疗 PACS 系统的海量影像数据归档实例
- matlab的发展历史,仿真的发展历程以及目前现状
- 全新的服务器debian/ubuntu---校准时间、更新apt,设置ssh远程访问
- 济南出台5G专项规划,十年布局5G基站18万处
- WEB前端之网页设计③----最新最全详解/如何在网页上创建表格
- 阿里云ECS开放指定端口步骤
- 台积电业绩惊人,但全球芯片行业衰退影响加剧,将加码中国市场
- h5获取当前浏览器ip和城市名称
- 开源的「变」与「恒」:七大开源基金会负责人尖峰对谈
热门文章
- matlab gui设计入门与实战,matlab gui编程教程
- 爬虫 爬取百思不得姐网站
- 用Sympy计算高次方程的判别式
- 解决:No routes matched location “/“
- Centos7.2+Coturn+SignalMaster 搭建WebRTC进行H5直播
- 智慧交通云计算中心解决方案
- 什么是集合竞价和连续竞价
- 黑客攻防之告别脚本小子-----精简实用渗透测试python小白入门
- 【offer谈判】如何做一朵盛世白莲花,让企业愿意为你花大价钱!
- 国内android第三方rom,安卓手机第三方rom大盘点,曾经火到不行,如今几乎全军覆没...