线性分类器与非线性分类器的区别及优势

线性分类器:模型是参数的线性函数,分类平面是(超)平面;
非线性分类器:模型分界面可以是曲面或者超平面的组合。
典型的线性分类器有感知机,LDA,逻辑斯特回归,SVM(线性核);
典型的非线性分类器有朴素贝叶斯(有文章说这个本质是线性的,http://dataunion.org/12344.html),kNN,决策树,SVM(非线性核)

线性分类器判别简单、易实现、且需要的计算量和存储量小。

为解决比较复杂的线性不可分样本分类问题,提出非线性判别函数。:超曲面,非线性判别函数计算复杂,实际应用上受到较大的限制。在线性分类器的基础上,用分段线性分类器可以实现复杂的分类面。解决问题比较简便的方法是采用多个线性分界面将它们分段连接,用分段线性判别划分去逼近分界的超曲面。

特征比数据量还大时,选择什么样的分类器

如果训练集很小,那么高偏差/低方差分类器(如朴素贝叶斯分类器)要优于低偏差/高方差分类器(如k近邻分类器),因为后者容易过拟合。然而,随着训练集的增大,低偏差/高方差分类器将开始胜出(它们具有较低的渐近误差),因为高偏差分类器不足以提供准确的模型。你也可以认为这是生成模型与判别模型的区别。

对于维度很高的特征,你是选择线性分类器还是非线性分类器。

选择非线性分类器。

对于维度很低的特征,你是选择线性分类器还是非线性分类器。

选择线性分类器。

总结:
如果分类面是二维平面,就选择线性分类器,如果是曲面,就选择非线性分类器。

比较详细的博客可参见:
http://www.doc88.com/p-9975445807186.html

机器学习面试问题10相关推荐

  1. 机器学习面试:这25个实用又有深度的问题

    机器学习面试可以有趣且有深度么? 这是你的机器学习系统? --嗯对呀!把数据倒进这堆线性代数,然后在另一端迎接答案. 那答案是错的怎么办? --搅一搅,拌一拌,答案就会越来越对了... 大多数数据科学 ...

  2. [机器学习] 面试常见问题+解析汇总

    机器学习面试题的分类 The first really has to do with the algorithms and theory behind machine learning. You'll ...

  3. BAT机器学习面试1000题系列(第1~305题

    1 请简要介绍下SVM,机器学习 ML模型 易SVM,全称是support vector machine,中文名叫支持向量机.SVM是一个面向数据的分类算法,它的目标是为确定一个分类超平面,从而将不同 ...

  4. BAT机器学习面试1000道

    本文转载自: https://blog.csdn.net/sinat_35512245/article/details/78796328 1.请简要介绍下SVM. SVM,全称是support vec ...

  5. BAT机器学习面试1000题系列(第150~279题)

    首页 博客 学院 下载 GitChat TinyMind 论坛 问答 商城 VIP 活动 招聘 ITeye CSTO 写博客 发Chat leadai的博客 RSS订阅 转 BAT机器学习面试1000 ...

  6. 【转】BAT机器学习面试1000题系列(1~50)

    BAT机器学习面试1000题系列 整理:July.元超.立娜.德伟.贾茹.王剑.AntZ.孟莹等众人.本系列大部分题目来源于公开网络,取之分享,用之分享,且在撰写答案过程中若引用他人解析则必注明原作者 ...

  7. BAT机器学习面试1000题系列(详细版)

    BAT机器学习面试1000题系列 置顶 2017年12月14日 15:19:15 阅读数:20913 几点声明: 1.本文的内容全部来源于七月在线发布的BAT机器学习面试1000题系列: 2.文章中带 ...

  8. 太给力了!40000字整理了机器学习面试200题!

    来源:CSDN 刷题,是面试前的必备环节.本文作者总结了往年BAT机器学习面试题,干货满满,值得收藏. 1.请简要介绍下SVM. SVM,全称是support vector machine,中文名叫支 ...

  9. 机器学习面试经验--2017年持续更新

    机器学习面试经验--2017年持续更新 搜狐面试算法实习生 岗位搜狐后台开发(机器学习NLP) 10:00--11:10 1.首先自我介绍,blabla简单介绍了一下本科研究生学校专业方向,面试官开始 ...

最新文章

  1. 修改ubuntu的sources.list源
  2. 学习笔记1(第五周)
  3. LeetCode 1737. 满足三条件之一需改变的最少字符数(计数)
  4. 傲游浏览器语言怎么切换 傲游浏览器语言切换方法简述
  5. matlab的syntax简记
  6. mysql与oracle存储过程_MySQL与Oracle差异比较之五存储过程Function
  7. 将java对象转换成json字符串_将java对象转换成json字符串
  8. 思科与华为设备OSPF配置命令对比
  9. 向前差分格式 matlab,热传导方程向前差分格式的matlab程序
  10. photoshop第九章:文字和场景效果的制作
  11. 爱心的数学函数方程_数学表白函数—心形线
  12. makefile中的隐含规则
  13. 版权符号©的输入方法
  14. 有趣的23000----整理(09)C,D词根
  15. php+date+timezoe,ffmpeg.php
  16. 怎样在线制作视频二维码?多种类型二维码一键生成技巧
  17. three.js 笔记 --- 渲染图片 和 渲染obj,mtl文件
  18. 基于最小割的分割算法(Min-Cut Based Segmentation)
  19. 图文混排模板HTML
  20. python中def什么时候用_在python中解析日期而不使用defau

热门文章

  1. P4113 [HEOI2012]采花
  2. CentOS6 安装Sendmail + Dovecot + Squirrelmail
  3. 选择排序算法-C程序设计
  4. php常用的的字符串转换
  5. 今天升级Xcode 7.0 bata发现网络访问失败。
  6. VS 2008 和 .NET 3.5 Beta 2 发布了
  7. 新手如何入门PyTorch
  8. shiro 与spring的集成
  9. SSRS 动态设置分组依据及行组个数
  10. mysql_query