全部笔记的汇总贴：《机器学习》西瓜书-读书笔记汇总贴

一、简介

机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能的学科。

二、术语

数据集：对单个样本特征进行描述的记录集合。每条记录时关于一个事件或对象的描述，称为“示例”或“样本”，反映事件或对象在某方面的表现或性质的事项称为“属性”或“特征”。

…（发现这块儿也没啥好说的，这些概念用多了就能明白在说啥，实在不懂就看看书吧）

三、假设空间

归纳（induction）与演绎（deduction）是科学推理的两大基本手段。前者是从特殊到一般的 “ 泛化 ” generalization）过程，即从具体的事实归结出一般性规律；后者则是从一般到特殊的 “特化” （specialization）过程，即从基础原理推演出具体状况。

我们可以把学习过程看作一个在所有假设（hypothesis）组成的空间中进行搜索的过程，搜索目标是找到与训练集 “ 匹配” （fit）的假设，即能够将训练集中判断正确的假设。

四、归纳偏好

对于一个具体的算法，我们需要选择一个模型，这个时候我们选择的算法偏好就会起到关键的作用。任何一个有效的机器学习算法必有其归纳偏好，否则它将被假设空间中看似在训练集上 “等效” 的假设所迷惑，而无法产生确定的学习结果。

“奥卡姆剃刀” （Occam’s razor）是一种常用的、自然科学研究中最基本的原则，即 “若有多个假设与观察一致，则选最简单的那个 ” 。有利于降低过拟合带来的模型在训练集上的效果优于测试集。

五、发展过程、应用现状及阅读材料

数据挖掘：发现数据之间的关系
计算机视觉：像人一样看懂世界
自然语言处理：像人一样看懂文字
机器人决策：像人一样具有决策能力

其他的看看课本，扩展阅读一下…

下一章传送门：西瓜书读书笔记（二）-模型评估与选择

西瓜书读书笔记（一）-绪论相关推荐

《机器学习》(周志华)西瓜书读书笔记
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录前言第1章绪论第2章模型评估与选择第3章线性模型第4章决策树第5章神经网络第6章神经网络第7章贝 ...
西瓜书读书笔记整理（二）—— 第一章绪论
第一章绪论第一章绪论 1.1 引言 1. 什么是机器学习 2. 机器学习的主要内容 3. 模型与模式 1.2 基本术语 1. 数据集 / 训练集 / 验证集 / 测试集 2. 示例 / 样本 3 ...
西瓜书读书笔记—绪论
文章目录机器学习典型的机器学习过程基本术语归纳偏好机器学习机器学习:致力于研究如果通过计算的手段,利用经验来改善系统自身的性能在计算机系统中,"经验" 通常以 &qu ...
《机器学习》西瓜书读书笔记
数学公式 Ⅱ ( ⋅ ) 是指示函数 , 若 ⋅ 为真则取 1 , 否则取 0 Ⅱ(·)是指示函数,若·为真则取1,否则取0 Ⅱ(⋅)是指示函数,若⋅为真则取1,否则取0 #第一章: ...
周志华西瓜书学习笔记(一)
周志华西瓜书学习笔记第一章绪论数据处理分为三个阶段:收集,分析,预测. 一.基本概念机器学习致力于研究如何通过计算的手段,利用经验来改善系统自身的性能. Mitchell给出的更形式化的定义为 ...
西瓜书学习笔记第2章（模型评估与选择）
西瓜书学习笔记第2章(模型评估与选择) 2.1经验误差与过拟合 2.2评估方法 2.2.1留出法(hold-out) 2.2.2交叉验证法(cross validation) 2.2.3自助法(boo ...
西瓜书--学习笔记1
西瓜书–学习笔记1 第一章 1.分类和回归是监督学习的代表,而聚类是无监督学习的代表. 2.归纳和演绎是科学推理的两大基本手段. 归纳:从特殊到一般的"泛化"过程,即从具体的事实归 ...
花书读书笔记（十一）-应用
全部笔记的汇总贴:<深度学习>花书-读书笔记汇总贴一.大规模深度学习快速的 CPU 实现 GPU 实现:是为图形应用而开发的专用硬件组件. 大规模的分布式实现:数据并行.模型并行.异步 ...
《西瓜书》笔记-第0章-引言
本人为某985学生,想在CSDN上发表一些自己的阅读笔记.阅读体会,一方面是为了整理自己所学知识,达到重新梳理,复习的作用,一方面是可能在一定程度上能够帮助网友们,非常希望志同道合的朋友们能发表一些意 ...
【机器学习】西瓜书学习笔记01
基于周志华<机器学习>一书所作笔记,得益于参加datawhale的学习小组,将知识读薄理解,输出以感悟,读厚以加深理解,从而形成自己的框架.希望大家也能一起进行开源学习,进一寸有一寸的欢喜 ...

西瓜书读书笔记（一）-绪论