机器学习导论第二章--学习心得1

今天想写一些关于机器学习--监督学习的内容。

监督学习分为分类和回归两大问题。

一、分类

1、最简单的，0/1分类。

输入是训练集，输出是0/1。通过训练，计算机得到输入-输出的关系，确定一个假设类H（存在多种假设h(x)）。假设h(x)对实例x做出预测，根据预测结果得到假设h的误差。计算机要在这个假设类中找到最接近真实输出的假设（误差最小）。

这里要考虑一个泛化的问题，即我们的假设对不在训练集中的未来实例的分类准确率如何。

VC维：假定一个数据集包含N个点。这N个点可以用2的N次方种方法标记为正例(1)和负例(0)。因此，这N个数据点可以定义2的N次方中不同的学习问题。如果对于这些问题中的如何一个，我们能够找到一个假设h(属于H)将正例和负例分开，则我们就称H散列(shatter)N个点。

VC维度量的是假设类H的学习能力。

2、学习多类

输入训练集，输出有K个类，K>2

二、回归

根据输入-输出的映射关系，找到合适的假设模型，对未来的数据进行预测。

噪声：存在我们无法观测到的额外隐藏变量(训练集中没有的变量)。

1、模型选择。要求：假设的复杂性与潜在数据的函数的复杂性相当。

若假设复杂性高于函数的复杂性：过拟合。六次多项式拟合三次多项式

若假设复杂性低于函数的复杂性：欠拟合。直线拟合三次多项式

建立训练集、验证集、检验集

训练集：得到不同阶数的假设函数

验证集：求出所有假设函数中损失函数最小的那个假设函数（检验假设的泛化能力）

检验集：试验。

2、损失函数

预测值和真实值的差值的平方之和。也有绝对值之和

3、最优化过程

使损失函数最小化的过程。（梯度下降法、模拟退火、遗传算法）

机器学习导论第二章--学习心得1相关推荐

统计机器学习导论第二章答案
R语言学习笔记统计机器学习导论第二章部分习题文章目录 R语言学习笔记一.8题 8. This exercise relates to the College data set, which ca ...
《windows程序设计》第二章学习心得
Unicode简介 Unicode是ASCII字符编码的一个扩展.Unicode用的是16位字符编码,而不是像ASCII那样的7位编码. ------------------------------- ...
软件工程导论第二篇学习心得
通过这门课程,自己对于软件的认识更加深入.例如软件危机是指在计算机软件的开发和维护过程中所遇到的一系列严重问题.这些问题表现在以下几个方面: (1)用户对开发出的软件很难满意. (2)软件产品的质量往 ...
Hinton机器学习与神经网络课程的第二章学习笔记
Hinton机器学习与神经网络课程的第二章学习笔记该笔记为自己以后方便查阅,要是有大神感觉我的笔记有哪些地方记的有误差或者不对的话也欢迎指出文章目录 Hinton机器学习与神经网络课程的第二章学习 ...
201671010117 2016-2017-2 《Java程序设计》Java第二周学习心得
Java第二周学习心得这一周老师在周四进行了课堂测验,完全出乎我的意料,我以为老师会在前两周上课讲一下,由于我在课前没有好好准备,反转课堂来的有的措手不及,那些题很多很多都不会,也错了很多,班上有很 ...
计算机科学导论第二章,计算机科学导论第二章.doc
计算机科学导论第二章.doc (2页) 本资源提供全文预览,点击全文预览即可全文预览,如果喜欢文档就下载吧,查找使用更方便哦! 3.9 积分第二次作业 2.1 数值数据1. 计算机只识别二进制编 ...
计算机导论免费阅读小说,计算机导论第二章.ppt
计算机导论第二章.ppt (66页) 本资源提供全文预览,点击全文预览即可全文预览,如果喜欢文档就下载吧,查找使用更方便哦! 19.90 积分第二章计算机系统的组成 2.1 四大功能部件 2.2 ...
数据结构第二章学习总结
数据结构第二章学习总结在数据结构第二章,我们学习了线性表的两种结构顺序和链式结构,学习了他们的定义,不同,存储结构和逻辑结构,还有一些基本的操作. 在学习过程中,我发现了许多问题:①书上的大多数代码 ...
Linux_《Linux命令行与shell脚本编程大全》第二章学习总结
时间:2017年04月05日说明:本文部分内容均摘取自书籍<Linux命令行与shell脚本编程大全>,版权归原作者所有.<Linux命令行与shell脚本编程大全>(第三版 ...
统计学习方法第一章学习心得
统计学习方法第一章学习心得以下可能有不当之处,请各位朋友停步指正,先谢过各位. 上一帖子说道,统计学习方法的三要素: 模型.策略.算法. 模型:模型的假设空间策略:模型的选择准则,即:定义最优 ...

机器学习导论第二章--学习心得1

机器学习导论第二章--学习心得1相关推荐

最新文章

热门文章