【机器学习周志华】读书笔记 P3 机器学习发展历程（选读）

机器学习是人工智能研究发展到一定阶段的必然产物。

20世纪50年代-20世纪70年代初：
人工智能研究处于推理期。
人们以为只要能赋予机器逻辑推理能力，机器就能具有智能。
但是人们逐渐意识到光有逻辑推理能力不够用。

20世纪70年代：
人工智能研究进入知识期。
要使机器具有智能，就必须设法使机器拥有知识。
但是事实上人总结知识然后教给计算机太过于困难。

20世纪80年代：
从样例中学习：
1983年将机器学习划分为：“机械学习”，“示教学习”，“类比学习”，“归纳学习”。
“机械学习” 即把外界输入的信息全部记录下来，在需要时原封不动的取出使用；
“示教学习和类比学习” 从指令中学习，通过观察和发现学习。
归纳学习 从样例中学习，即从训练样例中归纳出学习结果。其涵盖监督学习、无监督学习等，至今为主流机器学习思想。

20世纪90年代中期之前：
“从样例中学习”的另一个主流技术是基于神经网络的连接主义学习。
1986年著名的BP算法产生了深远的影响。

20世纪90年代中期：
“统计学习” 闪亮登场。代表性技术是支持向量机SVM。

21世纪初：
连接主义卷土重来，深度学习以其多层神经网络，在复杂的对象的应用中取得优越的性能。
深度学习技术设计的模型复杂度非常高，以至于只要下功夫去调参，参数调节好往往性能就是好。因此深度学习虽然缺乏严格的理论基础，但是显著降低了机器学习应用者的门槛。

深度学习热门的原因：
1）数据大了：
深度学习模型具有大量参数，若数据样本少，容易产生“过拟合”；
2）计算能力强了：
强大的计算设备，使得跑一个数据集不需要几月了。

【机器学习周志华】读书笔记 P3 机器学习发展历程（选读）相关推荐

西瓜书(机器学习周志华)读书笔记--第一章绪论
1.1 引言略 1.2 基本术语 1.2.1 数据集相关的基本概念假定我们收集了一批关于西瓜的数据,例如(色泽=青绿;根蒂=蜷缩;敲声=浊响), (色泽=乌黑;根蒂=稍蜷;敲声=沉闷), (色泽= ...
机器学习——周志华读书笔记
1.模型评估方法: 留出发:数据集分割为两部分,data=测试集+训练集:2/3~4/5作为训练集,其余测试集交叉验证:数据集分割为k组,k-1组为训练集,剩余1组为测试集.共k中情况,对k种情况的 ...
西瓜书入门辅助【机器学习周志华】一些关于机器学习的重要基础概念提炼
周志华. 机器学习 = Machine Learning. 清华大学出版社, 2016. Print. 文章目录周志华. 机器学习 = Machine Learning. 清华大学出版社, 2016 ...
【机器学习】周志华读书笔记第一章绪论
1..什么是机器学习? 引言部分关于各种情景,是基于经验做出的的预判,机器学习的本质任务是预测. 特征学习经验 =>从而做出有效的决策 def:① 机器学习是一门学科, ② ...
《机器学习》周志华读书笔记2（原创）
第2章模型评估与选择 p24-p51 2017-2-24 Fri Model selection模型选择:选用哪种学习算法.使用哪种参数配置 (理想的解决方案:对候选模型的泛化误差进行评估,再选择 ...
西瓜书周志华读书笔记
《机器学习》周志华学习笔记
<机器学习>周志华学习笔记第一章绪论 1.1 引言机器学习:致力于研究如何通过计算的手段,利用经验来改善系统自身的性能. 经验:"经验"通常以"数据& ...
小吴的《机器学习周志华》学习笔记第二章模型评估与选择
小吴的<机器学习周志华>学习笔记第二章模型评估与选择上一周我们介绍了第一章的基础概念,这一次将带来第二章的前三节.后面的2.4 比较检验与2.5 偏差与方差,涉及概率论与数理统计概 ...
小吴的《机器学习周志华》学习笔记第一章绪论
小吴的<机器学习周志华>学习笔记第一章绪论近一年时间接触到不少机器学习的知识,虽然断断续续学了一些,总感觉还没有入门(只学会了疯狂调包).因此,最近开始系统学习Machine Le ...
小吴的《机器学习周志华》学习笔记第二章 2.4 比较检验、2.5 偏差与方差
小吴的<机器学习周志华>学习笔记第二章 2.4 比较检验. 2.5 偏差与方差 2.4 比较检验上一周提到了实验的评价方法和性能量度,步骤简单可以看成:先使用某种实验评估方法测得学习 ...

【机器学习周志华】读书笔记 P3 机器学习发展历程（选读）

【机器学习周志华】读书笔记 P3 机器学习发展历程（选读）相关推荐

最新文章

热门文章