SVC vs SVR

sklearn SVM中有:

sklearn.svm.SVC()

sklearn.svm.SVR()

一般来讲

support vector classify(SVC)支持分类机做二分类的,找出分类面,解决分类问题,我所追求的是把样本分成二类或者多类样本点的“最开”, 是要使到超平面最近的样本点的“距离”最大;找区分两类的超平面(hyper plane),使边际(margin)最大。如做cancer分类,做得病于不得病的分类。多说一句因为本人是做医学数据的,经常用到SVC来做分类。

详细可阅读:Search — scikit-learn 1.1.0 documentation

support vector regression(SVR)支持回归机做曲线拟合、函数回归 ,  它的目的是使所有的样本点离着超平面的总偏差最小,SVR则是要使到超平面最远的样本点的“距离”最小。。可以做预测,温度,天气,股票

详细可阅读:

Support Vector Regression (SVR) using linear and non-linear kernels — scikit-learn 1.1.0 documentation

原理出发:我们看图直白

优点:训练好的模型的算法复杂度是有支持向量(Support Vectors)的个数决定的而不是有数据的维度决定的。所有这样一来,SVM不太容易产生overfitting。训练集里面所有的费支持向量的点都被去重,重复训练的过程,结果还是会得到一样的模型。但是如果训练的支持向量的个数比较小,那么训练出的模型比较容易泛化。

Ps:什么是机器学习中的泛化? 其实可以根据泛化能力强弱可以分为四种:

欠拟合:模型过于简单,不能在训练集上获得足够低的误差;
拟合: 测试误差与训练误差差距较小;
过拟合:过分关注训练集细节,在训练集上表现良好,但不能泛化到新数据上;
不收敛:模型不是根据训练集训练得到的。

后来有了核函数,使得

sklearn SVM中有:sklearn.svm.SVC()sklearn.svm.SVR()

应用面就更加神通广大了。通过构造核函数使得运算结果等同于非线性映射,同时运算量要远远小于非线性映射。

SVC vs SVR相关推荐

  1. ML-支持向量:SVM、SVC、SVR、SMO原理推导及实现

    目录 1.导出目标 2拉格朗日转换 3对偶问题: 4求对偶问题 5 求b 6 得出模型 6.1 f(x)的约束条件: 7 核函数 7.1 软间隔 7.2 松弛变量: 7.3 KKT约束 8 SMO求a ...

  2. 机器学习:支持向量机SVM的SVC和SVR

    支持向量机SVM SVM的工作原理及分类 支持向量机的原理 线性可分的SVM 非线性可分的支持向量机 支持向量机分类SVC 支持向量机回归SVR SVR原理 SVR模型 时间序列曲线预测 SVM的工作 ...

  3. svr公式推导_ML-支持向量:SVM、SVC、SVR、SMO原理推导及实现

    目录 1.导出目标 2拉格朗日转换 3对偶问题: 因为是希望得出L最小时的一些参数w,b,a,但是目前很难一起求得最佳参数,所以换个思路.因为: 所以能够容易的计算出拉格朗日乘子a约束时的最坏情况是: ...

  4. 支持向量机SVM--sklearn.svm.SVC【机器学习笔记简摘】

    SVM 是一个非常优雅的算法,具有完善的数学理论,常用于数据分类,也可以用于数据的回归预测中,由于其优美的理论保证和利用核函数对于线性不可分问题的处理技巧, 在上世纪90年代左右,SVM 曾红极一时. ...

  5. SVM讲的成体系的,自圆其说较好的一篇,上午没读完,KKT第二部分不等式有疑问没弄懂,复制后继续读完

    https://www.jiqizhixin.com/articles/2018-10-17-20 贪心科技原创 2018/10/17 16:26 我i智能来源 学习SVM,这篇文章就够了!(附详细代 ...

  6. 一文读懂支持向量机SVM(附实现代码、公式)

    来源:机器学习算法与Python学习 本文约11000字,建议阅读10+分钟. 本文以简单实例化形式记录学习SVM的过程,力图帮助新手级学习者少走弯路. 支持向量机(SVM),一个神秘而众知的名字,在 ...

  7. Sklearn 损失函数如何应用到_Sklearn全复习(下)(持续更新)

    这是一篇根据我个人需要的复习笔记 本来想一篇写下的结果发现太多了自己找起来都好累 干脆分成两半 上半部分包括:Decision Tree/Random Forest/Preprocessing and ...

  8. 【教程】利用libsvm-mat建立分类模型model参数解密【by faruto】

    原文地址:http://www.matlabsky.com/thread-12649-1-1.html 建议大家看这篇帖子之前先看一下以下几篇帖子: 如何使用libsvm进行分类[by faruto] ...

  9. LIBSVM -- A Library for Support Vector Machines--转

    原文地址:http://www.csie.ntu.edu.tw/~cjlin/libsvm/index.html Chih-Chung Chang and Chih-Jen Lin  Version ...

  10. libsvm 使用介绍

    一.介绍: LIBSVM是台湾大学林智仁(Chih-Jen Lin)副教授等开发设计的一个简单.易于使用和快速有效的SVM模式识别与回归的软件包,他不但提供了编译好的可在Windows系列系统的执行文 ...

最新文章

  1. EasyUI –tree、combotree学习总结
  2. monty python life of brian-电影Life of Brian 万世魔星
  3. linux 界面工具 qt,Qt主窗口中的工具栏
  4. OpenCV图像数据访问,查询表和时间消耗测试
  5. 在 ASP.NET 2.0 中上载文件 —— 解决文件大小限制
  6. GDI与OpenGL与DirectX之间的区别
  7. 定时器Timer的实现
  8. linux下用户及用户组的管理
  9. vlc插件怎么用 wpf_使用Vlc.DotNet在我的WPF项目中添加vlc的问题。
  10. Windows 10 开发日记(二)-- 手势顺序调研
  11. Android Studio 主题、字体大小的设置
  12. 利用JS实现简单的注册界面验证小案例
  13. linux英文转换成中文
  14. [精简]托福核心词汇60
  15. 范式的判定——数据库考试复习
  16. 【mininet 0x02】如何使用mn工具来操作mininet
  17. TabLayout 的使用 更改下划线的长度,和一个奇葩的问题
  18. pdf分割拆分——speedpdf帮您免费在线将PDF拆分成多个文件
  19. Ucenter的UClinet和UC_Server编码不一致无法登陆解决方法
  20. 示波器的各种文件存储方式与分析

热门文章

  1. 云计算发展现状及未来趋势
  2. 企业网站建设如何选择企业cms系统
  3. golang 单元测试进阶篇
  4. 小白python爬虫入门实例2—— 翻页爬取京东商城商品数据
  5. python四分位数_python 计算箱线图、中位数、上下四分位数等
  6. 绝妙一招 教你如何拍出烟雾缥缈的作品
  7. 如何写出一篇高质量的数据分析报告?
  8. 电商平台接入手机支付宝支付(服务商授权模式,可直接付款给卖家)
  9. python爬虫图书信息并存入数据库,以及安装工具库
  10. 百度街景瓦片下载器1.1.5