python支持向量机回归_用Python实现支持向量机并处理Iris数据集
SVM全称是Support Vector Machine，即支持向量机，是一种监督式学习算法。它主要应用于分类问题，通过改进代码也可以用作回归。所谓支持向量就是距离分隔面最近的向量。支持向量机就是要确保这些支持向量距离超平面尽可能的远以保证模型具有相当的泛化能力。
当训练数据线性可分时，通过硬间隔最大化，学习一个线性分类器，即线性可分支持向量机；当训练数据近似线性可分时，通过软间隔最大化，也学习一个线性分类器，即线性支持向量机；当训练数据线性不可分时，通过使用核技巧，将低维度的非线性问题转化为高维度下的线性问题，学习得到非线性支持向量机。
所谓核技巧就是将低维数据映射到高维空间的办法。如果原始数据是有限维的，那么一定存在一个高维特征空间使样本可分。
支持向量机的一些证明推导公式不在这里说明。我简单说明一下支持向量机在Python中的实现。
在Python中sklearn算法包已经实现了所有基本机器学习的算法。直接from sklearn import svm就可以调用该算法。
以Iris数据集为例，从UCI数据库（archive.ics.uci.edu）中下载的data文件比较工整，无需做进一步处理可以直接使用。
从网上其他地方下载下来的csv格式数据集可能比较混乱，如下图：
这种有样本序号有列名的数据集需要预处理一下才方便做实验。处理时需要导入pandas，将csv格式转换成便于处理的DataFrame格式。
其中names是设置列名称。
然后是使用drop方法消除原数据集中的第一行（列名称）以及第一列（样本序号）。
其中('a',axis=1)代表消除的是列名称为a的一整列。(0 ,axis=0)代表消除第0行。
最后使用to_csv方法输出文件即可处理完毕。
其中'newiris.csv'是指生成文件名，sep指的是分割符号（空格为\t），index为行索引（即序列号），header为列名称。
处理结果如下：
接下来开始SVM实验。首先读取我们刚才处理好的数据集。具体方法是使用numpy中的loadtxt方法此方法可以读取txt、csv、data格式的数据。
第一个位置path指的文件路径，dtype指的是读出来的数据类型，delimiter指的是分隔符，converters指的是将数据列与转换函数进行映射的字典。
我们数据的第五列显然不是float类型，因此要写一个函数进行转换。
读取后的结果如下：
接下来需要将读取到的数据集特征指标与结果分开，并划分为训练集与测试集，此处为了方便作图只取了前两列特征值做实验：
其中size指的是样本数量，若此数小于1表示样本比例，大于1的整数表示样本数量。random_state指的是随机数的种子。
准备好后就可以开始训练SVM了。
kernel指的是核函数rbf是高斯核。高斯核的gamma值越小，分类界面越连续；gamma值越大，分类界面越“散”，分类效果越好，但有可能会过拟合。linear为线性核。线性核C越大分类效果越好，但有可能会过拟合。
decision_function_shape有两个取值，一个是ovr，即一个类别与其他类别进行划分；另一个是ovo，即将类别两两之间进行划分，用二分类的方法模拟多分类的结果。
最后用测试集去查看分类准确度，此处可以直接调用score方法查看准确度，也可以调用sklearn中metrics的accuracy_scor方法查看。两者没有区别。
结果为0.7333333。结果不尽如人意但可以慢慢改参数改进。
最后绘制图片：
可以看到绿点几乎可以被很好的区分，但是蓝点和红点存在不易区分的地方。这时候调整核技巧或者将更多的特征属性加入学习可能会有更好的效果。
python支持向量机回归_用Python实现支持向量机并处理Iris数据集相关推荐
- python 套索回归_适用于python的自适应套索
python 套索回归 This is my second post on the series about penalized regression. In the first one we tal ...
- python 时间序列预测_使用Python进行动手时间序列预测
python 时间序列预测 Time series analysis is the endeavor of extracting meaningful summary and statistical ...
- python 概率分布模型_使用python的概率模型进行公司估值
python 概率分布模型 Note from Towards Data Science's editors: While we allow independent authors to publis ...
- python svr回归_机器学习入门之机器学习之路：python支持向量机回归SVR 预测波士顿地区房价...
本文主要向大家介绍了机器学习入门之机器学习之路:python支持向量机回归SVR 预测波士顿地区房价,通过具体的内容向大家展现,希望对大家学习机器学习入门有所帮助. 支持向量机的两种核函数模型进行预 ...
- python支持向量机回归_支持向量机回归的Scikitlearn网格搜索
我正在学习交叉验证网格搜索,并遇到了这个youtube playlist,教程也作为ipython笔记本上传到了github.我试图在同时搜索多个参数部分重新创建代码,但我使用的不是knn,而是支持向 ...
- python svr回归_使用sklearn库中的SVR做回归分析
sklearn中的回归有多种方法,广义线性回归集中在linear_model库下,例如普通线性回归.Lasso.岭回归等:另外还有其他非线性回归方法,例如核svm.集成方法.贝叶斯回归.K近邻回归.决 ...
- python做logistic回归_用Python做Logistic回归
为什么写这篇文章 本人初学python,碰巧做的东西需要用一下Logistic回归,自觉这个很基础的东西应该已经有很多比较好的实现了,于是我就很自觉地问了下度娘.结果大囧==..出来的相关结果少得可怜 ...
- python sklearn 归一化_数据分析|Python特征工程（5）
OX00 引言 数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已.由此可见,特征工程在机器学习中占有相当重要的地位.在实际应用当中,可以说特征工程是机器学习成功的关键. 特征做不好,调 ...
- python集群_使用Python集群文档
python集群 Natural Language Processing has made huge advancements in the last years. Currently, variou ...
最新文章
- 两难！到底用Apache BeanUtils还是Spring BeanUtils？
- docker 启动mongodb
- 当Swin Transformer遇上DCN，清华可变形注意力Transformer模型优于多数ViT
- java第九章实验报告_2019JAVA第九次实验报告
- java 死锁的检测与修复_调查死锁–第4部分：修复代码
- EF 线程内唯一对象
- NumberUtils的 isParsable(String)和isCreatable(String)方法
- djano 字段不重复_硬不硬你说了算！近 40 张图解被问千百遍的 TCP 3 次握手和 4 次挥手面试题...
- 可视化编程真的有那么糟糕？
- 关闭windows自动更新小妙招
- 动态规划之《高楼扔鸡蛋》问题详解 LeetCode 887.鸡蛋掉落
- hp388服务器安装linux,hpe dl388 g10服务器安装centos7.6
- 万豪环保系列之《紫外线消毒器》
- 三维图形变换：三维几何变换，投影变换（平行/ 透视 投影）
- Android 系统开发
- ‘underscore系列之throttle“‘
- word2003和word2007如何添加和删除脚注
- 基于MPLS的虚拟专用网络 应用场景
- 计算机毕业设计JavaHTML5运河古城网站(源码+系统+mysql数据库+lw文档）
- markdown文档规范练习