机器学习——监督学习（一）

2.1由实例学习类

类学习：寻找一个涵盖所有的正例而不涵盖任何负例的描述

类识别器的蔬菜如：对识别结果有关键影响的特征

假设类：H{所有特征值的上下界作为元素组成}

最特殊假设：S覆盖所有正例且不包含所有负例的最小矩形

最一般假设：G覆盖所有正例且不包含所有负例的最大矩形

介于S~G之间的h均为无误差的有效假设，与训练集χ相容，这些h构成了解空间

C：实际类

边缘：h的边界和他相邻最近的实例（正例/负例）之间的差距。最大边缘：S与G中间

误差函数在最大边缘上的最小化：不仅仅返回0、1

诱导假设：h{设定的特征值的上下界作为元素组成}

经验误差：h的预测值不同于训练集χ中给定的预期值的训练示例所占的比例

误差函数：E(h|χ） = ∑(t = 1 ~ N) 1*（h（xt）！= rt）

泛化问题：对不在训练集中的未来实例分类的准确率问题

2.2VC维

N个点，存在pow（2，N）种表现形式，如果每种形式都能被H中的一种诱导假设h打散，则称H能散列N个点

H能散列的最多个点的数量X，即为H的vc值，VC(H) = X

直线的VC值为3，因为4个点的情况下，在（2,2）的情况无法将AD,BC两对对角线的点打散

而轴平行矩形的VC值为4，因为在5个点的情况下，在（4,1）的情况无法将ABCE与D打散

VC值度量的是假设类H的学习能力

2.3

机器学习——监督学习（一）相关推荐

机器学习-监督学习-logistic回归,softMax回归
本篇博文来总结一下回归模型里面两个非常重要的模型. logistic回归 softMAX回归 Logistic回归 logistics回归虽然有"回归"两字但是却是分类模型,并且是 ...
机器学习监督学习论文_NeurIPS 2020最佳机器学习论文奖
NeurIPS 会议在提交的大量论文和1903年被接受的论文中,有3篇被授予.今年获奖的论文有: 语言模型是学习者很少广义形式相关平衡的无悔学习动力学列子集选择和Nystrom方法的改进保证和多重 ...
机器学习----监督学习算法之决策树(Decision Tree)
感谢Jack-Cui大佬的知识分享机器学习专栏点击这里目录感谢Jack-Cui大佬的知识分享 0. 概述 1. 使用决策树做预测需要以下过程: 2. 决策树构建步骤 2.1 特征选择 2.1.1 ...
第一周-机器学习监督学习-无监督学习
这仅是本人在cousera上学习机器学习的笔记,不能保证其正确性,谨慎参考关系图: 监督学习(Supervised Learning): 回归预测(Regression:predict real-v ...
机器学习-监督学习及典型算法
文章目录监督学习(Supervised) 原理输入空间.特征空间.输出空间 KNN算法(K-Nearest Neighbor Classification) 支持向量机(SVM) 朴素贝叶斯分类( ...
机器学习——监督学习、非监督学习、半监督式学习、增强学习
机器学习的主要问题 supervised learing:监督学习 unsupervised learing:非监督学习 discrete:离散的 continuous:连续的 classificat ...
机器学习--监督学习以及无监督学习案例
监督学习以及无监督学习案例课件以吴恩达机器学习案例进行分享作为加深印象附上github链接: 吴恩达机器学习课程的教学文档. 监督学习监督学习是指我们给算法一个数据集,其中包含了正确答案,举个 ...
机器学习——监督学习和无监督学习的区别
前言机器学习分为:监督学习,无监督学习,半监督学习(也可以用hinton所说的强化学习)等. 在这里,主要理解一下监督学习和无监督学习. 监督学习(supervised learning) (1)从 ...
机器学习监督学习之分类算法---朴素贝叶斯代码实践
目录 1. 言论过滤器 1.1 项目描述 1.2 朴素贝叶斯工作原理: 1.2.1 词条向量 1.3 开发流程: 1.4 代码实现 1.4.1 创建样本 1.4.2 构建词汇表,用于建立词集向量 1 ...
机器学习监督学习之分类算法---朴素贝叶斯理论知识
感谢Jack-Cui大佬的知识分享机器学习专栏点击这里目录感谢Jack-Cui大佬的知识分享 0. 概述 1. 朴素贝叶斯理论 1.1 贝叶斯理论 1.1.1 相关计算公式:条件概率公式,贝叶斯 ...

机器学习——监督学习（一）

机器学习——监督学习（一）相关推荐

最新文章

热门文章