ML笔记 00：机器学习类型深度学习和传统机器学习的区别

人工智能的核心是机器学习。机器学习是一门专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能的学科。机器学习涉及了很多的大学数学知识：概率论与数理统计、微积分、矩阵论、算法和复杂优化、复变函数、凸优化等，学习时还说有必要复习下相关数学知识的。

机器学习类型

监督学习

监督学习是一个单次决策的过程。监督学习可分为回归(Regression)和分类(Classification)问题。在回归问题中，我们会预测一个连续值。也就是说我们试图将输入变量和输出用一个连续函数对应起来；而在分类问题中，我们会预测一个离散值，我们试图将输入变量与离散的类别对应起来。监督学习的数据集用的是有标签的数据，典型应用：图像识别。

无监督学习

在无监督学习中，我们基本上不知道结果会是什么样子，但我们可以通过聚类的方式从数据中提取一个特殊的结构。在无监督学习中给定的数据是和监督学习中给定的数据是不一样的。在无监督学习中给定的数据没有任何标签或者说只有同一种标签。无监督学习里典型例子：聚类、降维。

强化学习

强化学习是一个多次决策的过程，可以形成一个决策链。强化学习数据集为空，需要算法需要尝试还有探索，目标是优化整个探索过程使其得到尽可能高的reward。强化学习的典型例子有：马科尔夫决策过程、动态规划。大名鼎鼎的AlphaGo Zero就是强化学习。

一张经典的机器学习类型图：

关于深度学习

深度学习，即Deep Learning，是一种学习算法。近几年深度学习在很多领域对传统机器学习实现了弯道超车，效果碾压，成为了机器学习中的当红炸子鸡。对比传统机器学习，有如下两个特点：

深度学习算法试图从数据中学习高层特征，这是深度学习与众不同的一部分，同时也是超越传统机器学习的重要一步。
深度学习和传统机器学习最重要的区别是它的性能随着数据量的增加而增强。如果数据很少，使用人工指定规则的传统机器学习可能会占据上风。

相对传统机器学习，很多场景深度学习反而用起来更加简单，不用那么费心思的抽取特征，数据和算力堆够，好好调调参，可能就会取得很好的效果了。

资料

程序员初学机器学习的四种方式
如何自学人工智能？ - 景略集智
深度学习概述教程 - Deep Learning Overview
一天搞懂深度学习 - 李宏毅
神经网络与深度学习
机器学习 - 周志华
机器学习速成课程 - 使用 TensorFlow API
CS109 Data Science - 哈佛
Deep Learning Spreads
Pattern Recognition and Machine Learning - 主要是传统机器学习
Deep Learning - Ian Goodfellow and Yoshua Bengio and Aaron Courville