1.1关于机器学习和深度学习

一.前景

二.机器学习

三.分类与回归问题

四.深度学习

五.CNN神经网络搭建介绍（针对图像识别）

已更新。

一.前景

人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。

二.机器学习

1.什么是机器学习？

为了实现人工智能，专门研究计算机如何模拟或实现人类的学习行为，以获得知识与技能。是通过以往的经验，即数据，学习数据内部的逻辑，并将学到的逻辑应用在新数据上，进行预测。它是人工智能的核心，是使计算机具有智能的根本途径。

2.机器指的是什么？

机器指的是计算机，是算法运行的物理载体，也可以把算法本身当做一个有输入和输出的机器。

3.那么让计算机去学习什么呢？

对于一个问题，设计一种算法，让算法能够提取数据中蕴含的规律，通过利用数据，训练出模型，然后使用模型预测的一种方法，这就叫机器学习。总之，就是利用计算机解决问题。此时，如果输入机器的数据是带有标签的，就称作有监督学习。如果数据是无标签的，就是无监督学习。

三.分类与回归问题

1.分类和回归问题是干嘛的？

分类和回归问题是将机器学习的问题分类。因为分类，所以是有标签的，称为监督学习。

2.分类问题

顾名思义，机器根据特征，分析输入的内容，判断它的类别。即定性分析，也称之为离散变量预测。

3.回归问题

机器根据特征，分析输入内容，预测其值。即定量分析，称之为连续变量预测。
（tip：纯数学意义上的——离散型随机变量指输入/出可以为确定值，连续型随机变量指取值可以为连续不断的值。但是实际测量中，回归问题的输入/出无法做到绝对的连续。可以理解为，分类问题将输出分为几个类别，这些类别是确定值。而回归问题则是预测值与实际值不需要绝对相等，在可控范围内即可。）

4.回归与分类问题的区别

①输出量不同--一个是类别，一个是有范围的值。

②定性与定量的不同
定性：进行性质上的区分定量：是以数量的形式进行区分。

5.分类与回归问题的相同

都有映射关系且都有损失函数。

6.回归与分类问题的转化

一个问题的解决往往无法被简单地归为一种，常常需要分类与回归同时使用。

7.损失函数

评定模型拟合好坏的函数，计算预测值与实际值的误差。

8.超参数

在机器学习的上下文，超参数是在开始学习的过程之前设置的参数。

9.超参数用来干嘛？

寻找到全局最优解（或者相比更好的局部最优解），使模型尽量拟合到最优。

四.深度学习

1.深度学习是什么？

深度学习是一种机器学习的研究方向，使机器学习更接近于人工智能。深度学习的基础，叫做神经网络，本身是一种机器学习算法。

五.CNN神经网络搭建介绍（针对图像识别）

输入→卷积层→池化层→全连接层→输出

1.卷积层

卷积层的功能是对输入数据进行特征提取。

①卷积核

卷积核类似一个·程序·，但是程序又是需要人为输入的信息。输入转换数据的方法。并利用这个方法进行特征提取。

② 卷积层参数

卷积核设定程序中需要的参数：卷积核的大小，步长，和填充......

2.池化层

与卷积层作用类似，在特征提取地同时简化数据。如：取区域最大值，最小值，平均值

3.全连接层

全连接层的作用则是对提取的特征进行非线性组合以得到输出，即全连接层本身不被期望具有特征提取能力，而是试图利用现有的高阶特征完成学习目标。

此外，对网络搭建进行优化可以进行的操作：

4.激活函数

它们将非线性特性引入到我们的网络中。在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数。引入激活函数是为了增加神经网络模型的非线性。没有激活函数的每层都相当于矩阵相乘。就算你叠加了若干层之后，无非还是个矩阵相乘罢了。

5.BN操作

1）加快训练速度，这样我们就可以使用较大的学习率来训练网络。

2）提高网络的泛化能力。

3）BN层本质上是一个归一化网络层，可以替代局部响应归一化层（LRN层）。

4）可以打乱样本训练顺序（这样就不可能出现同一张照片被多次选择用来训练）

补充算法

6.前向传播

简单来说，前向传播就是把上一层的输出设为下一层的输入，直至计算出输出。

7.反向传播

我的理解是对神经网络的训练和优化，该方法对网络中所有权重计算损失函数的梯度。这个梯度会反馈出最优化的方法，用来更新权值以最小化损失函数。

上图，横轴为权值，纵轴为损失。