详解机器学习中的VC维

机器学习中的经典算法SVM（支持向量机）最初是由前苏联数学家Vladimir Vapnik 和 Alexey Chervonenkis 在 1963年提出的。二人合作完成的另外一个之于机器学习的重要贡献就是所谓的VC维（Vapnik-Chervonenkis dimension）。文献【2~3】是网上一个解释VC维这个概念的非常通俗的视频，本文主要据此整理而得。

一、Training Error 与 Test Error

如果你训练出来了一个Model，那么你该怎么评价它呢？文献【4】中介绍了几个常用的指标，包括Accuracy, Precision, Recall和F1-Score 。这些指标基本上都有准确率这样的意思，与之相反我们还可以定义错误率，或者称为误差（error）。显然，误差越大，准确率就越低，反之亦然。

所以当人们说想要得到一个好模型的时候，他的意思可以说是要得到一个准确率高的模型，这基本上等价于是说要得到一个误差小的模型。但是这里讲的误差，其实又分为训练误差（Training Error）和测试误差

详解机器学习中的VC维相关推荐

相对熵与交叉熵_详解机器学习中的熵、条件熵、相对熵、交叉熵
目录信息熵条件熵相对熵交叉熵总结一信息熵 (information entropy) 熵 (entropy) 这一词最初来源于热力学.1948年,克劳德·爱尔伍德·香农将热力学中的熵引 ...
详解机器学习中的熵、条件熵、相对熵、交叉熵
欢迎大家关注我们的网站和系列教程:http://www.tensorflownews.com/,学习更多的机器学习.深度学习的知识! 目录信息熵条件熵相对熵交叉熵总结一信息熵 (info ...
通俗易懂详解机器学习中的最大似然估计
讲解前看个例子: 例子(一个场景): 1.一个盒子里有很多小球,颜色有白色(用w表示)和黑色(用b表示). 条件:(1) 盒子里面小球很多,n个. (2) 只有2中颜色的小球 2. 从盒子里取出来10 ...
详解机器学习中常见的距离与Python实现
在机器学习的很多算法,尤其是与聚类相关的算法中你会碰到各种各样的距离,欧式距离.马氏距离.切比雪夫距离等会让初学者头疼,如果只看书的话,大多书上就一行公式带过,看完还是迷迷糊糊,今天本文就来盘一盘机器 ...
详解机器学习中 ROC曲线、AUC值、正确率、召回率
文章目录前言简介医学图像识别二分类问题 ROC 曲线如何画ROC曲线 AUC 前言简介在分类任务中,人们总是喜欢基于错误率来衡量分类器任务的成功程度.错误率指的是在所有测试样例中错分的样例比例 ...
What is the Softmax Function?详解机器学习中的Softmax函数【小白菜可懂】
目录定义公式计算 Softmax vs Sigmoid Softmax vs Sigmoid 计算 Softmax vs Argmax Softmax vs Argmax 计算应用神经网络中 ...
foreach php,详解PHP中foreach的用法和实例
本篇文章介绍了详解PHP中foreach的用法和实例,详细介绍了foreach的用法,感兴趣的小伙伴们可以参考一下. 在PHP中经常会用到foreach的使用,而要用到foreach,就必须用到数组. ...
JavaScript数组结构与算法——数组详解（中）
迭代器方法在上篇中,我们探讨了很多数组方法,接下来总结一下最后一组方法--迭代器方法.这些方法对数组的每个元素应用一个函数,可以返回一个值.一组值.或者一个新数组. 1.不生成新数组的迭代器方法以 ...
mysql的json函数与实例_Mysql实例详解Mysql中的JSON系列操作函数
<Mysql实例详解Mysql中的JSON系列操作函数>要点: 本文介绍了Mysql实例详解Mysql中的JSON系列操作函数,希望对您有用.如果有疑问,可以联系我们. MYSQL必读前言 ...

详解机器学习中的VC维

详解机器学习中的VC维相关推荐

最新文章

热门文章