机器学习西瓜书第一章总结

机器学习：研究如何通过计算的手段，利用经验改善系统自身的性能。
1.训练模型
数据集：一组数据记录的集合。
实例或样本：每条记录是关于一个事件或对象的描述。
属性：反映事件或对象在某方面的表现或性质的事项。
属性值：属性上的取值。
属性空间、样本空间或输入空间：属性张成的空间。
特征向量：在上述张开空间中每个样本都能找到自己对应的点，而每一个点都对应一个向量坐标。
属性值：属性上的取值。
学习或训练：从数据中学得模型的过程。
训练数据：这个过程通过执行某个学习算法来完成，训练过程中使用的数据。
训练样本：训练数据中的每个样本。
训练集：训练样本组成的集合。
假设：学得模型对应了关于数据的某种潜在的规律。
真相或真实：潜在规律自身。（学习过程就是为了找出或逼近真相）
学习器：模型。（可看作学习算法在给定数据和参数空间上的实例化）

2.预测模型（如果希望学得一个能帮助我们判断所得目标的模型，还需要要建立预测模型，我们需获得训练样本的结果信息）
标记：实例结果的信息。
样例：拥有标记信息的实例。
标记空间或输出空间：一般地用(xi,yi)表示第 i 个样例，其中yi∈Y ，是示例Xi的标记,Y
是所有标记的集合。
3.分类与回归
分类：若预测的是离散值，例如“好瓜” “坏瓜”，此类学习任务。
对只涉及两个类别的二分类" 任务，通常称其中一个类为正类,另一个类为反类;涉及多类别时，则称为多分类任务。
回归：若预测的是连续值，例如西瓜成熟度 0.95、0.37，此类学习任务。
测试：学习得模型后，使用其进行预测的过程。
测试样本：被预测的样本。
4.聚类
聚类：将训练集中的样本分成若干组，每组称为一个簇;这些自动形成的簇可能对应一些潜在的概念划分，
有助于了解内在规律，便于建立分析基(1).需说明的是，在聚类学习中，“本地人” “外地人"这样的概念我们事先是不知道的(2). 学习过程中使用的训练样本通常不拥有标记信息
5.学习任务分类
监督学习: 训练数据拥有标记信息（分类和回归）
无监督学习: 训练数据未拥有标记信息（聚类）
6.假设空间
泛化能力:学得模型适用于新样本的能力(具有强泛化能力的模型能很好地适用于整个样本空间)
独立同分布:通常假设样本空间中全体样本服从一个未知分布D.（训练样本越多，得到的关于 D 的信息越多,这样就越有可能通过学习获得具有强泛化能力的模型）

归纳: 是从特殊到一般的泛化过程，即从具体的事实归结出一般性规律。
（广义的归纳学习大体相当于从样例中学习）
（狭义的归纳学习则要求从训练数据中学得概念,因此亦称为“概念学习”或 “概念形成”）
演绎: 则是从一般到特殊的特化过程，从基础原理推演出具体状况。
7.归纳偏好
奥卡姆剃刀原则: 若有多个假设与观察一致, 则选最简单的那个
没有免费的午餐定理（简称NFL定理）：无论学习算法a多聪明、学习算法b多笨拙，它们的期望性能是相同的。

机器学习西瓜书第一章总结相关推荐

西瓜书第一章阅读笔记
西瓜书第一章阅读笔记第一章绪论 1.机器学习基本术语 2.归纳偏好 3.所有学习算法一样优秀? 4.补充资料第一章绪论 1.机器学习基本术语记录:对一个事件或对象的描述,也称为"示 ...
西瓜书第一章课后习题答案
第1章绪论 1.1 略 1.2 参考链接:西瓜书第一章习题 - 简书 (jianshu.com) 首先明确基本合取式有多少种,设西瓜的三个不同属性的特征分别为(A1,A2),(B1,B2,B3),( ...
机器学习西瓜书-1-2章
学习目标: 概览机器学习西瓜书 1.2章学习内容: 第一章绪论 1.1 基本术语 1.2 假设空间 1.3 归纳偏好 1.4 发展历程第二章模型评估与选择 2.1 经验误差与过拟合 2.2 评 ...
机器学习-西瓜书第一、二章
第一章:绪论基本概念数据集:所有数据的集合训练集:训练样本的集合属性(特征):某事物或对象在某方面表现的性质属性值:属性的取值属性空间/样本空间/输入空间:属性张成的空间泛化能力:学得模 ...
机器学习西瓜书各章详细目录定位
第一章绪论 1.1 引言(P1) 1.2 基本术语(P2) 1.3 假设空间(P4) 1.4 归纳偏好(P6) 1.5 发展历程(P10) 1.6 应用现状(P13) 1.7 阅读材料(P16) ...
西瓜书第一章课后题答案（一）
1.1 针对西瓜分类分题进行讲解属性: 3个属性色泽:(青绿,乌黑,浅白) 根蒂:(蜷缩,硬挺,稍蜷) 敲声:(浊响,清脆,沉闷) 假设空间: 属性所有可能取值组成的可能的样本假设空间的个数:4 ...
周志华-机器学习西瓜书-第三章习题3.3 编程实现对率回归
本文为周志华机器学习西瓜书第三章课后习题3.3答案,编程实现对率回归,数据集为书本第89页的数据使用tensorflow实现过程 # coding=utf-8 import tensorflow a ...
小白学机器学习西瓜书-第三章对数几率回归
小白学机器学习西瓜书-第三章对数几率回归 3.3 对数几率回归 3.3.1 对数几率函数 3.3.1 估计参数上一部分我们介绍了线性回归,包括简单的二元回归和多元回归,这两个主要解决的是拟合预测的问 ...
机器学习西瓜书（周志华）第七章贝叶斯分类器
第七章贝叶斯分类器 1. 贝叶斯决策论 1.1 先验分布 1.2 后验分布 1.3 似然估计 1.4 四大概率在贝叶斯分类中指代含义 1. 朴素贝叶斯 7. 课后练习参考答案 1. 贝叶斯决策论贝 ...

机器学习西瓜书第一章总结

机器学习西瓜书第一章总结相关推荐

最新文章

热门文章