统计学习-机器学习方法概论

机器学习的对象是：具有一定的统计规律的数据。
机器学习根据任务类型，可以划分为：
监督学习任务：从已标记的训练数据来训练模型。主要分为：分类任务、回归任务、序列标注任务。
无监督学习任务：从未标记的训练数据来训练模型。主要分为：聚类任务、降维任务。
半监督学习任务：用大量的未标记训练数据和少量的已标记数据来训练模型。
强化学习任务：从系统与环境的大量交互知识中训练模型。
机器学习根据算法类型，可以划分为：
传统统计学习：基于数学模型的机器学习方法。包括SVM、逻辑回归、决策树等。
这一类算法基于严格的数学推理，具有可解释性强、运行速度快、可应用于小规模数据集的特点。
深度学习：基于神经网络的机器学习方法。包括前馈神经网络、卷积神经网络、递归神经网络等。
这一类算法基于神经网络，可解释性较差，强烈依赖于数据集规模。但是这类算法在语音、视觉、自然语言等领域非常成功。
没有免费的午餐定理(No Free Lunch Theorem:NFL)：对于一个学习算法A，如果在某些问题上它比算法B好，那么必然存在另一些问题，在那些问题中B比A更好。因此不存在这样的算法：它在所有的问题上都取得最佳的性能。因此要谈论算法的优劣必须基于具体的学习问题。

一、基本概念

1. 1特征空间
1.输入空间：所有输入的可能取值；输出空间：所有输出的可能取值。特征向量表示每个具体的输入，所有特征向量构成特征空间。
2.特征空间的每一个维度对应一种特征。
3.可以将输入空间等同于特征空间，但是也可以不同。绝大多数情况下，输入空间等于特征空间。模型是定义在特征空间上的。

1. 2样本表示

统计学习-机器学习方法概论相关推荐

统计学习方法笔记_cbr：统计学习及监督学习概论
第一章笔记,统计学习及监督学习概论目录第一章笔记,统计学习及监督学习概论 1.1统计学习 1.统计学习的特点 2.统计学习的对象 3.统计学习的方法 4.统计学习的研究 1.2统计学习的分类 1. ...
《统计学习方法》读书笔记第1章: 统计学习及监督学习概论
第1章: 统计学习及监督学习概论统计学习(statistical learning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,也称为统计机器学习(statstic ...
机器学习——统计学习方法——第1章统计学习及监督学习概论
监督学习是从标注数据中学习模型的机器学习问题,是统计学习的重要组成部分. 1.1 统计学习统计学习的特点统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科. 特点 ...
【统计学习方法】统计学习及监督学习概论
1.1 统计学习 1.1.1统计学习的特点数据对统计学习很重要学习: 如果一个系统更能够通过执行某个过程改进它的性能 1.1.2 统计学习研究对象统计学习研究对象:数据数据的基本假设是同类数据 ...
统计学习及监督学习概论
1.统计学习简介:统计学习(statistical learning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科.统计学习由监督学习(supervised lear ...
《统计学习方法》(李航)第1章主要内容介绍(统计学习概述、分类、三要素)
PS:所写内容为本人读书笔记,如需看更详细内容请购买正版书籍. 第1章:统计学习及监督学习概论 1.1 统计学习概述统计学习:是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测和分析的学 ...
统计学习概论与ROC曲线
统计学习及监督学习概论第一节统计学习第二节统计学习的分类基本分类按模型分类第三节统计学习方法三要素 1. 模型 2. 策略 1. 损失函数和风险函数 2. 经验风险最小化与结构风险最小 ...
《统计学习方法第二版》学习笔记1——概论
第1章统计学习及监督学习概率论目录第1章统计学习及监督学习概率论前言 1 理论部分 1.1 统计学习 1.2 统计学习的分类 1.3 统计学习方法三要素 1.4 模型评估与模型选择 1.5 ...
统计学习与方法实战——统计学习方法概论
统计学习方法概论题统计学习方法概论实现统计学习方法的步骤统计学习方法三要素模型策略损失函数与风险函数定义常用损失函数经验风险最小化(ERM)与结构风险最小化(SRM) 模型评估与模型 ...

统计学习-机器学习方法概论

统计学习-机器学习方法概论

一、基本概念

统计学习-机器学习方法概论相关推荐

最新文章

热门文章