1.写在最前面

从零开始接触机器学习，寒假将做一系列Matlab的学习笔记，以此来记录一个通信工程的学生接触Matlab的全过程。

2.什么是机器学习

机器学习是针对数据的一种建模技术。这里的数据指信息，如文档、音频、图像等。“模型”则是机器学习的最终产品。机器学习的诞生就是为了解决那些难以得出解析模型的问题，其技术的核心思想就是在无法使用公式及定理得到满意结果时，利用训练数据来建立模型。

Created with Raphaël 2.3.0训练数据机器学习模型

3.机器学习面临的挑战

训练数据与输入数据之间存在差异时机器学习面临的结构性挑战，是机器学习所存在的一切问题的根源。
机器学习和深度学习均无法基于错误的训练数据来实现预期目标。因此，对于机器学习而言，获取能够充分反映实际领域数据特征的无偏训练数据至关重要。
泛化（generalization）是确保模型对于训练数据与输入数据能够获得一致性能的处理过程。机器学习能否成功很大程度上取决于泛化的有效程度。

3.1过拟合

泛化过程失效的主要诱因之一就是过拟合（overfitting)。示例如下图，

显然由训练数据的一般趋势可以反映出该模型是有问题的。我们仔细看数据点，会发现某些异常数据点穿过了边界进入另一分类所对应的区域。换言之，这些数据中包含一些噪声。问题是机器学习无法区分噪声。如果机器学习考虑包括噪声的所有数据，它将生成一个不合理的模型（如上图曲线）。
由此可知，训练数据不是完美无瑕的，其中可能包含不同程度的噪音。如果认为训练数据中的每一个元素都是准确的，并且精确匹配模型，将得到一个普适性较低的模型，即过拟合。
机器学习的本源特性是竭尽所能地从训练数据中抽象出一个优质模型，但适用于训练数据的模型可能无法有效地应用于实际数据。 这并不意味着应该有意降低模型对训练数据的准确性，那将会违背机器学习的基本原则。

3.2克服过拟合

有两种办法可以实现，为正则和验证。
正则化（Regularization）是一种构建极简模型的数值方法。精简后的模型能以较小的性能代价，避免过拟合的影响。简单曲线虽然未能正确划分部分数据点，但能更好地反映各分类的总体特征。
验证（validation）的存在为了确定由训练建立的模型是否存在过拟合，通过预留一部分训练数据来监控模型的性能，验证数据集不参与训练过程。

4.机器学习的类型

根据训练方法的不同，机器学期技术可以分为以下三种类型：
监督学习（supervised learning）
无监督学习（unsupervised learning）
增强学习（reinforcement learing）
监督学习与人类学习事物的过程非常相似。在监督学习中，每个训练数据集均由输入与标准输出构成的数据对构成，标准输出是模型对该输入应生成的预期结果。监督学习的学习过程即是对模型自身进行一系列修正，以降低模型依据输入所生成的输出与标准输入之间的差异的过程。如果模型训练得很完善，就能对输入训练数据生成该数据对应的标准输出。
监督学习最常见的两类应用是分类（classification）与回归（regression）分类问题所关注的就是寻找数据所属的类别，数据中的类别即作为对应输入的标准输出；回归则是预测数值。

Matlab机器学习入门（一）相关推荐

matlab机器学习入门---大纲
提示:本文章所属专栏主要教会大家如何用matlab进行机器学习,属于机器学习入门,原理较少,实操较多,想短时间内应用机器学习解题的可入文章目录前言一.matlab机器学习内容二.matlab机 ...
matlab 职坐标,机器学习入门之机器学习实战ByMatlab（四）二分K-means算法
本文主要向大家介绍了机器学习入门之机器学习实战ByMatlab(四)二分K-means算法,通过具体的内容向大家展现,希望对大家学习机器学习入门有所帮助.前面我们在是实现K-means算法的时候,提到 ...
回归素材(part7)--机器学习入门到实战-MATLAB实践应用
学习笔记,仅供参考,有错必纠文章目录机器学习入门到实战-MATLAB实践应用线性回归原理简单线性回归多元线性回归机器学习入门到实战-MATLAB实践应用线性回归原理简单线性回归
matlab 职坐标,机器学习入门之机器学习实战ByMatlab（三）K-means算法
本文主要向大家介绍了机器学习入门之机器学习实战ByMatlab(三)K-means算法,通过具体的内容向大家展现,希望对大家学习机器学习入门有所帮助.K-means算法属于无监督学习聚类算法,其计算步 ...
曲线聚类_机器学习入门必读：6种简单实用算法及学习曲线、思维导图
来源:大数据DT 本文约3500字,建议阅读7分钟本文为你介绍掌握机器领域知识的学习曲线.技术栈以及常用框架. [ 导读 ] 大部分的机器学习算法主要用来解决两类问题--分类问题和回归问题.在本文当 ...
机器学习入门必读：6种简单实用算法及学习曲线、思维导图
来源:大数据DT 本文约3500字,建议阅读7分钟本文为你介绍掌握机器领域知识的学习曲线.技术栈以及常用框架. [ 导读 ] 大部分的机器学习算法主要用来解决两类问题--分类问题和回归问题.在本文当 ...
机器学习入门系列二（关键词：多变量(非)线性回归，批处理，特征缩放，正规方程
机器学习入门系列二(关键词:多变量(非)线性回归,批处理,特征缩放,正规方程) 目录(?)[+] 一多变量的线性回归二批处理三特征缩放四正规方程五多变量非线性回归一.多变量的线性回归在#机 ...
机器学习入门系列三（关键词：逻辑回归，正则化）
机器学习入门系列三(关键词:逻辑回归,正则化) 目录(?)[+] 一逻辑回归逻辑回归假设表示决策边界代价函数其他优化方法多元分类二正则化一.逻辑回归 1.逻辑回归什么是逻辑回归问题, ...
机器学习入门学习资源
机器学习入门学习资源 [转载请注明出处]http://blog.csdn.net/guyuealian/article/details/51471085 这是一篇很难写的文章,因为我希望这篇文章能对学 ...
《机器学习入门实战》第 01 篇如何入门机器学习？
文章目录机器学习与数据挖掘传统入门方法的问题逆向学习方法专栏内容介绍目标人群专栏章节机器学习与数据挖掘如果你是一个想要入门数据科学的初学者,首先需要面对的就是各种相关的名词和概念.例如 ...

Matlab机器学习入门（一）

文章目录