拓端tecdat|R语言线性分类判别LDA和二次分类判别QDA实例
R语言实例链接：http://tecdat.cn/?p=5689
原文出处：拓端数据部落公众号
一、线性分类判别
对于二分类问题，LDA针对的是：数据服从高斯分布，且均值不同，方差相同。
概率密度：
p是数据的维度。
分类判别函数：
可以看出结果是关于x的一次函数：wx+w0，线性分类判别的说法由此得来。
参数计算：
二、二次分类判别
对于二分类问题，QDA针对的是：数据服从高斯分布，且均值不同，方差不同。
数据方差相同的时候，一次判别就可以，如左图所示;但如果方差差别较大，就是一个二次问题了，像右图那样。
从sklearn给的例子中，也容易观察到：
QDA对数据有更好的适用性，QDA判别公式：
三、Fisher判据
A-Fisher理论推导
Fisher一个总原则是：投影之后的数据，最小化类内误差，同时最大化类间误差
其中，分别对应投影后的类均值。对应投影后的类内方差。
重写类内总方差、类间距离：
准则函数重写：
容易求解：
其中常借助SVD求解：Sw = U∑VT，Sw-1 = U∑-1VT,借助特征值分解也是可以的。
参考文献
1.用SPSS估计HLM层次线性模型模型
2.R语言线性判别分析（LDA），二次判别分析（QDA）和正则判别分析（RDA）
3.基于R语言的lmer混合线性回归模型
4.R语言Gibbs抽样的贝叶斯简单线性回归仿真分析
5.在r语言中使用GAM（广义相加模型）进行电力负荷时间序列分析
6.使用SAS，Stata，HLM，R，SPSS和Mplus的分层线性模型HLM
7.R语言中的岭回归、套索回归、主成分回归：线性模型选择和正则化
8.R语言用线性回归模型预测空气质量臭氧数据
9.R语言分层线性模型案例
拓端tecdat|R语言线性分类判别LDA和二次分类判别QDA实例相关推荐
- 拓端tecdat|R语言逻辑回归（Logistic回归）模型分类预测病人冠心病风险
最近我们被客户要求撰写关于冠心病风险的研究报告,包括一些图形和统计输出. 相关视频:R语言逻辑回归(Logistic回归)模型分类预测病人冠心病风险 逻辑回归Logistic模型原理和R语言分类预测冠 ...
- 拓端tecdat|R语言向量误差修正模型 (VECMs)分析长期利率和通胀率影响关系
最近我们被客户要求撰写关于向量误差修正模型的研究报告,包括一些图形和统计输出. 向量自回归模型估计的先决条件之一是被分析的时间序列是平稳的.但是,经济理论认为,经济变量之间在水平上存在着均衡关系,可以 ...
- 拓端tecdat|R语言线性回归和时间序列分析北京房价影响因素可视化案例
最近我们被客户要求撰写关于北京房价影响因素的研究报告,包括一些图形和统计输出. 目的 房价有关的数据可能反映了中国近年来的变化: 人们得到更多的资源(薪水),期望有更好的房子 人口众多 独生子女政策: ...
- 拓端tecdat|R语言用LOESS(局部加权回归)季节趋势分解（STL）进行时间序列异常检测
最近我们被客户要求撰写关于LOESS(局部加权回归)的研究报告,包括一些图形和统计输出. 这篇文章描述了一种对涉及季节性和趋势成分的时间序列的中点进行建模的方法.我们将对一种叫做STL的算法进行研究, ...
- R语言——线性判别分析（LDA）
R语言--线性判别分析* 线性判别分析是一种经典的线性学习方法,在二分类问题上最早由Fisher在1936年提出,亦称Fisher线性判别.线性判别的思想非常朴素:给定训练样例集,设法将样例投影到一条 ...
- qda二次判别_R语言线性分类判别LDA和二次分类判别QDA实例
R语言实例链接:http://tecdat.cn/?p=5689 一.线性分类判别 对于二分类问题,LDA针对的是:数据服从高斯分布,且均值不同,方差相同. 概率密度: p是数据的维度. 分类判别函数 ...
- R语言线性判别分析（LDA），二次判别分析（QDA）和正则判别分析（RDA）
判别分析包括可用于分类和降维的方法.线性判别分析(LDA)特别受欢迎,因为它既是分类器又是降维技术.二次判别分析(QDA)是LDA的变体,允许数据的非线性分离.最后,正则化判别分析(RDA)是LDA和 ...
- R语言使用caret包的train函数构建惩罚判别分析模型（pda）构建分类模型、trainControl函数设置交叉验证参数、自定义调优评估指标
R语言使用caret包的train函数构建惩罚判别分析模型(pda)构建分类模型.trainControl函数设置交叉验证参数.自定义调优评估指标.tuneLength参数和tuneGrid参数超参数 ...
- R语言机器学习Caret包（Caret包是分类和回归训练的简称）、数据划分、数据预处理、模型构建、模型调优、模型评估、多模型对比、模型预测推理
R语言机器学习Caret包(Caret包是分类和回归训练的简称).数据划分.数据预处理.模型构建.模型调优.模型评估.多模型对比.模型预测推理 目录
- 【视频】什么是Bootstrap自抽样及应用R语言线性回归预测置信区间实例|数据分享
最近我们被客户要求撰写关于Bootstrap的研究报告,包括一些图形和统计输出. 自抽样统计是什么以及为什么使用它? 本文将自抽样方法与传统方法进行比较,并了解它为何有用.并在R语言软件中通过对汽车速 ...
最新文章
- 又一壮举！GPT-3首次完成剧本创作，AI解决创造性问题的能力正迅速提升
- java抽象的理解_Java中抽象类的理解
- python神奇时钟项目_Python Tkinter 数字时钟小项目
- 利用Docker一键部署若依前后端分离项目详细教程
- android targetapi23,Android Studio 3.0+上的Kapt问题（TargetApi）
- 数据仓库入门（实验6）添加层次结构
- 为什么双重检查锁模式需要 volatile ？
- 记录一下weui文档地址
- Centos无法卸载时处理办法
- tailf、tail -f、tail -F三者区别
- Hibernate（6）——映射类型
- html中咋样上传照片,如何通过html上传照片（自定义上传图标）
- 十、Linux开发板控制LED灯设备
- TZOJ 3244 Happy YuYu's Birthday(数学几何)
- qq部落android,QQ部落安卓版
- 2019，入职互联网公司的好时机，你抓住了没？
- 浅析PowerBuilder下动态SQL语句
- 第10次Scrum会议（10/22）【欢迎来怼】
- 2017-2018-2 20179204《网络攻防实践》linux基础
- 22-09-02 西安 JVM 类加载器、栈、堆体系、堆参数调优、GC垃圾判定、垃圾回收算法、对象的finalize机制