最近在学习李航写的统计学习方法概论, 每一章都用xmind理清了思路,括号里是书里的公式,第一次写博文,敬请指教~~~~

第一章 统计学习方法论

第二章 感知机

每个方法其实只需要着重掌握三要素和输入输出就可以了,主要看模型、策略和算法。

感知机主要是二类分类的线性分类模型。

看到后面会注意感知机和支持向量机的区别。

第三章 k近邻法

k近邻算是入门级别的机器学习的方法了。我们在上机器学习课的时候,老师也介绍这是基础的方法,主要核心思想是“物以类聚”,看训练集中离该输入最近的实例多数属于什么类别。

KNN主要掌握三要素,k值的选择、距离度量和分类决策规则。

注意在knn算法实现的部分,有提到kd树,平衡kd树和kd数的搜索的算法都比较重要,有利于KNN的实现。

第四章  朴素贝叶斯法

学习朴素贝叶斯法之前,最好看一下贝叶斯定理。

朴素贝叶斯法的精髓在于后验概率最大化,弄清后验概率的含义。

第五章     决策树

决策树主要抓住三个步骤:特征选择、决策树的生成和决策树的修剪。

一般决策树主要用于分类。

CART决策树也叫分类与回归决策树,注意掌握生成时最优切分变量和切分点的算法生成的思想。

《统计学习方法》——李航 学习大纲相关推荐

  1. 统计学习方法-李航(6)

    统计学习方法-李航(6) 分类问题 评价指标 标注问题 过程 学习 标注 回归问题 过程 分类问题 在监督学习中,当输出变量Y取有限个离散值时, 预测问题便成为分类问题. 分类问题包括学习和分类两个过 ...

  2. 统计学习方法-李航(5)

    统计学习方法-李航(5) 生成模型与判别模型 监督学习方法 生成方法(generative approach) 生成模型(generative model) 判别方法(discriminative a ...

  3. 统计学习方法-李航(4)

    统计学习方法-李航(第一章4) 泛化能力 泛化误差 泛化误差上界 考虑二分类问题的泛化误差上界 泛化误差上界定理 泛化误差上界定理证明 泛化能力 泛化误差 学习方法的泛化能力是指由该方法学习到的模型对 ...

  4. 统计学习方法-李航(3)

    统计学习方法-李航(第一章3) 模型评估与模型选择 训练误差与测试误差 过拟合与模型选择 例如:多项式拟合 正则化和交叉验证 正则化 例如:回归问题 交叉验证 简单交叉验证 S折交叉验证(S-fold ...

  5. 统计学习方法-李航(2)

    统计学习方法-李航(第一章2) 如何对经验风险进行矫正 经验风险最小化(ERM) 缺点 结构风险最小化 极大似然估计和贝叶斯估计(PR) 极大似然估计 贝叶斯估计 如何对经验风险进行矫正 在现实中,由 ...

  6. 统计学习方法-李航(1)

    统计学习方法-李航(第一章1) 第一章 统计学习概论 1.1 统计学习 1.2 监督学习 1.3 统计学习的三要素 第一章 统计学习概论 1.1 统计学习 1.统计学习是关于计算机基于数据构建概论统计 ...

  7. 机器学习理论《统计学习方法》学习笔记:第六章 逻辑斯谛回归与最大熵模型

    机器学习理论<统计学习方法>学习笔记:第六章 逻辑斯谛回归与最大熵模型 6 逻辑斯谛回归与最大熵模型 6.1 逻辑斯谛回归模型 6.1.1 逻辑斯谛分布 6.1.2 二项逻辑斯蒂回归模型 ...

  8. 机器学习理论《统计学习方法》学习笔记:第五章 决策树

    机器学习理论<统计学习方法>学习笔记:第五章 决策树 决策树 5.1 决策树模型与学习 5.1.1 决策树模型 5.1.2 决策树与if-then规则 5.1.3 决策树与条件概率分布 5 ...

  9. 机器学习理论《统计学习方法》学习笔记:第四章 朴素贝叶斯法

    机器学习理论<统计学习方法>学习笔记:第四章 朴素贝叶斯法 4 朴素贝叶斯法 4.1 朴素贝叶斯法的学习与分类 4.1.1 基本方法 4.1.2 后验概率最大化的含义 4.2 朴素贝叶斯法 ...

  10. 机器学习理论《统计学习方法》学习笔记:第三章 k近邻法

    机器学习理论<统计学习方法>学习笔记:第三章 k近邻法 3 k近邻法 3.1 K近邻算法 3.2 K近邻模型 3.2.1 模型 3.2.2 距离度量 3.2.3 K值的选择 3.2.4 分 ...

最新文章

  1. mysql 修改max_connections
  2. Java-Runoob-高级教程-实例-数组:01. Java 实例 – 数组排序及元素查找
  3. 用RAM存储器构造能够依次读取各存储单元内容的电路
  4. 概率统计:第七章 参数估计
  5. 团队作业5-Alpha版本测试报告(彼岸芳华队)
  6. 事件映射 消息映射_映射幻影收费站
  7. gensim将python dict字典形式的词向量导入到word2vec模型(同时适合gensim4.0+版本)
  8. url上传参 用requestmapping接受_14 个 Spring MVC 顶级技巧,随时用随时爽,一直用一直爽...
  9. 电信人的数据应用:销售指引系统
  10. 2020年——1024
  11. 2020年计算机二级access考试大纲,2020年全国计算机二级ACCESS考试分析与小结(7页)-原创力文档...
  12. python tornado 模板扩展
  13. 数组类型和多维数组的本质
  14. Python实现CART决策树
  15. html a3纸大小,A3和A4的纸大小都是多大的?
  16. 拼多多视频直播回放视频下载软件方法分享地瓜网络技术
  17. 群体智能与进化计算_液态大脑与固态大脑——圣塔菲最新群体智能文集
  18. 精读-软件测试的艺术之调试,极限测试和因特尔应用系统的测试
  19. windows10安装oracle数据库
  20. Golang连接kafka报错: Errorkafka: client has run out of available brokers to talk to

热门文章

  1. 英语单词: thunk
  2. 手写 redux-thunk
  3. 被花粉质疑Mate40系列品控 华为这张情怀牌还耐打吗?
  4. 【懒人必备】智能窗帘机器人,告别手动拉窗帘——软件功能实现篇
  5. 如何用Python执行常见的Excel和SQL任务
  6. C语言通用工具库之exit()和atexit()函数
  7. 汽车中的前置箱SGA是怎么进行内存管理的?
  8. 标注界址点号lisp_CAD工程图中标注序号的LISP程序
  9. MCMC法估计动力学模型参数
  10. swift 学习笔记[1]