很早之前接触了费曼学习法，费曼学习法是说“如果你真的想确保你对知识的理解没什么问题，就把它教给非专业的另一个人，如果他能听懂，就说明你真的理解了”。前段时间看卷积神经网络时特别想用下这一方法，但是确实是目前对这些概念也理解的不够清晰，有机会再讨论这些概念吧，今天简单谈谈机器学习中的最大似然估计。我理解的最大似然估计是机器学习的基础和基石，下面我们进入正文。

自从AlphaGo出现后，大数据，人工智能，机器学习等这些名词大家都越来越熟悉了，当然很早之前就很火了，只是AIphaGo加快了其进入大众的视野的脚步，机器学习，这个词看起来很牛，机器具有学习能力，听起来好酷，机器可以学习我们的语文数学课本，可以陪我们一起笑一起哭，当然目前这只是我们的畅想，我们来看下Tom M. Mitchell教授给出的机器学习的定义：

A computer program issaid to learn from experience E with respect to some class of tasks T andperformance measure P, if its performance at tasks in T, as measured by P,improves with experience E.[1]

谷歌加自己理解尝试翻译下：对于某类任务T和性能度量P，如果一个计算机程序在某些任务T上以P度量的性能随着经验E的增加而提高，那么我们称这个计算机程序是在从经验E中学习

比较抽象，简单理解就是一个程序如果基于已知数据能够改善性能或预测的准确度，那么这个程序就具有从数据中学习的能力。举个例子来理解下，为了便于理解有些词可能用的不太准确(比如5g的重量)。假设我桌子上有一堆花生和瓜子，我要用一个机器人把他们区分开来，任务(T)就是把花生和瓜子分开，性能指标(P)当然就是区分的准确率，开始这个机器人是随机分配的，那准确率基本上就是50%，跟没分一样。现在我建立一个模型，根据重量来区分花生和瓜子的模型，机器人具有重力感应，能够感受到手中物体的重量，现在机器人拿起了一个5g的物体，我告诉它这是花生，又拿起来一个6g的物体，我又告诉它是花生，拿起了一个2g的物体，我告诉它是瓜子，又拿起来一个1g的物体，我又告诉它是瓜子(经验E)…我的这个计算机程序就是比较我手中的物体重量与5g的大小关系，如果大于5g，判断为花生，小于5g判断为瓜子，经过这一判断重量我分类的性能大大提高了，那也就是说我的计算机程序是在从前面的经验中学习。

好的，原来这就是机器的学习，还以为像终结者里面一样高端呢。但其实很多丰富的东西也是从简单原理或思想出发的，其在图像识别、语音识别、产品推荐、模式识别等等都有非常多的应用。

接下来我们再来看似然函数，似然函数，既然是函数，那就具有函数的性质，那似然函数是谁关于谁的函数呢。先来看专业定义，似然函数是一种关于统计模型中的参数的函数，有点抽象，还是看个例子，考虑这样一个事件，抛一枚硬币100次，有50次正面朝上，那现在问抛这枚硬币一次正面朝上的概率是多少？理论上来说，一次正面朝上的概率可以是(0,1)这个区间内的任何值，那我抛一次每一个正面朝上的概率值都对应抛100次，50次正面朝上这一事件的每一个概率值。这个例子中似然函数是谁关于谁的函数呢，是抛100次，50次正面朝上这一事件的概率值关于抛一次正面朝上的概率值的函数。比较绕口，下面这个图像可能比较好理解

这个图像很清晰的表达了我这一例子的函数关系。其中横坐标表示抛一次正面朝上的概率P，纵坐标表示在一次正面朝上概率P的取值下，抛100次，50次正面朝上这一事件发生的可能性，从图中可以很清晰的看到，当一次正面朝上概率P=0.5时，发生这一事件的可能性最大，也就是我们的最大似然估计，最大似然值，当然这类函数这一点的导数为0，所以求解起来也比较简单。

那么现在问题来了，机器学习跟最大似然估计关系是什么。从前面机器学习的定义可以看出来，机器学习一直都在做这样一件事，优化模型改善预测值。那我的模型怎么优化，那就让预测的值跟真实值差距尽可能小，也就是让误差函数值最小，这个误差函数我们定义呢。似然函数给出了误差函数为什么这样定义的原因，而最大似然估计的值给出了误差函数最小的参数值。这个其实也比较好理解，因为你的目的就是找出最小误差对应的参数值，每一个参数值都一个误差值，而最大似然估计也是做了这样一件事情，找出现这种结果可能性最大的参数值。

参考文献：

[1] Mitchell, T. (1997). Machine Learning. McGraw Hill. p. 2