机器学习问题方法总结
机器学习问题方法总结
机器学习问题方法总结
|
大类 |
名称 |
关键词 |
|
有监督分类 |
决策树 |
信息增益 |
|
分类回归树 |
Gini指数，Χ2统计量，剪枝 |
|
|
朴素贝叶斯 |
非参数估计，贝叶斯估计 |
|
|
线性判别分析 |
Fishre判别，特征向量求解 |
|
|
K最邻近 |
相似度度量：欧氏距离、街区距离、编辑距离、向量夹角、Pearson相关系数 |
|
|
逻辑斯谛回归（二值分类） |
参数估计（极大似然估计）、S型函数 |
|
|
径向基函数网络 |
非参数估计、正则化理论、S型函数 |
|
|
对偶传播网络 |
无导师的竞争学习、有导师的Widrow-Hoff学习 |
|
|
学习向量量化网络 |
一个输出层细胞跟几个竞争层细胞相连 |
|
|
误差反向传播网络 |
S型函数、梯度下降法 |
|
|
支持向量机（二值分类） |
二次规化，Lagrange乘数法，对偶问题，最优化，序列最小优化，核技巧 |
|
|
单层感知器 |
只具有线性可分的能力 |
|
|
双隐藏层感知器 |
足以解决任何复杂的分类问题 |
|
|
无监督分类 |
KMeans |
质心 |
|
CHAMELONE |
图划分，相对互连度，相对紧密度 |
|
|
BIRCH |
B树，CF三元组 |
|
|
DBScan |
核心点，密度可达 |
|
|
EM算法(高斯混合模型) |
参数估计（极大似然估计） |
|
|
谱聚类 |
图划分，奇异值求解 。全局收敛 |
|
|
自组织映射网络 |
无导师的竞争学习 |
|
|
回归分析 |
一般线性回归 |
参数估计，最小二乘法，一般不用于分类而用于预测 |
|
逻辑斯谛回归（二值分类） |
参数估计（极大似然估计），S型函数 |
|
|
关联规则挖掘 |
FP-Tree |
频繁1项集，FP-Tree，条件模式基，后缀模式 |
|
降维 |
主成分分析 |
协方差矩阵，奇异值分解 |
|
推荐 |
协同过滤 |
稀疏向量的相似度度量 |
|
方法细分 |
应用场所 |
||||
|
参数估计 |
极大似然估计 |
线性回归。假设误差满足均值为0的正态分布,从而转化为最小二乘法 |
|||
|
Logistic回归。梯度下降迭代法求似然函数的极值 |
|||||
|
高斯混合模型。 |
|||||
|
非参数估计 |
径向基函数网络 |
||||
|
独立性检验 |
无参数假设检验 |
χ2检验 |
特征词选取，分类回归树的终止条件 |
||
|
秩和检验 |
|||||
|
相关性检验 |
Pearson相关系数（假设x,y成对地从正态分布中取得） |
基于向量空间模型的文本分类，用户喜好推荐系统 |
|||
|
Spearman秩相关系数（无参数假设检验） |
|||||
|
最优化方法 |
无约束最优化方法 |
梯度下降法 |
极大似然估计（回归分析、GMM） 支持向量机 线性判别分析 |
||
|
牛顿迭代法及其变种 |
|||||
|
有约束时通过Lagrange乘数法转换成无约束问题 |
|||||
|
求特征值/特征向量 |
幂法 |
线性判别分析 |
降维 |
||
|
奇异值分解（仅针对对称矩阵） |
主成分分析 |
||||
|
谱聚类 |
|||||
|
信息论 |
信息增益 |
特征词选择 |
|||
|
决策树 |
|||||
|
互信息 |
特征词选择 |
||||
|
交叉熵 |
特征词选择，稀有事件建模仿真，多峰最优化问题 |
||||
|
核函数 |
多项式核函数 |
SVM RBF网络 |
|||
|
高斯核函数（径向基函数） |
|||||
|
双极性核函数 |
|||||
|
单极性Sigmoid函数 |
Logistic回归 |
||||
|
BP神经网络 |
|||||
|
协方差 |
Pearson相关系数 |
||||
|
PCA |
|||||
|
EM算法 |
高斯混合模型 |
||||
|
向前向后算法 |
|||||
|
基函数 |
高斯混合模型 |
||||
|
径向基函数网络 |
|||||
|
平滑算法 |
拉普拉斯平滑 |
贝叶斯分类 隐马尔可夫模型 |
|||
|
Good-Turing平滑 |
|||||
|
隐马尔可夫模型 |
评估问题—向前算法 |
||||
|
解码问题—Viterbi算法 |
中文分词，词性标注 |
||||
|
学习问题—BaumWelch算法 |
|||||
Cover定理指出：将复杂的模式分类问题非线性地映射到高维空间将比投影到低维空间更可能线性可分。 所以SVM和RBF网络都试图把样本从低维空间映射到高维空间再进行分类。
好笑的是，另一些方法则是把输入样本从高维降到低维后再进行分类或回归分析，如PCA、SOFM网络、LDA、谱聚类，它们认为样本在低维特征空间有更清晰的表达，更容易发现规律。
机器学习问题方法总结相关推荐
- 新闻上的文本分类：机器学习大乱斗 王岳王院长 王岳王院长 5 个月前 目标 从头开始实践中文短文本分类，记录一下实验流程与遇到的坑 运用多种机器学习（深度学习 + 传统机器学习）方法比较短文本分类处
新闻上的文本分类:机器学习大乱斗 王岳王院长 5 个月前 目标 从头开始实践中文短文本分类,记录一下实验流程与遇到的坑 运用多种机器学习(深度学习 + 传统机器学习)方法比较短文本分类处理过程与结果差 ...
- OpenCV3 Java 机器学习使用方法汇总
原文链接:OpenCV3 Java 机器学习使用方法汇总 前言 按道理来说,C++版本的OpenCV训练的版本XML文件,在java中可以无缝使用.但要注意OpenCV本身的版本问题.从2.4 到3 ...
- [机器学习]正则化方法 -- Regularization
一.参数方法和非参数方法 在讲正则化之前,需要介绍2个概念.机器学习的方法,可以大致分成两类. 参数方法(Parametric Methods) 通过训练来确定一组参数.当我们参数的值定下来,可以说预 ...
- c++实现决策树分类汽车评估数据集_R有监督机器学习-分类方法
当我们说机器学习的的时候,我们在说什么? 来源于mlr3包的作者:https://mlr3book.mlr-org.com/basics.html 上图解释了完整的机器学习流程,包括构建任务.准备训练 ...
- 机器学习——验证方法
机器学习--验证方法 1 .验证的引入 1.1 机器学习中的数据集划分 在机器学习中,我们的训练机器学习模型的目标是得到一个泛化误差小的模型,也就是说在没有参加训练的样本中获得最优的性能.通常情况下, ...
- AI+CFD：面向空天动力的科学机器学习新方法与新范式
西北工业大学航天学院副院长秦飞为大家带来的演讲主题是:AI+CFD,面向空天动力的科学机器学习新方法与新范式. 它主要分为三部分: 空天动力背景以及数字化智能化的趋势. 空天动力全生命周期的数字孪生. ...
- 让机器听声音识别男女（机器学习的方法）
让机器听声音识别男女(机器学习的方法) 浏览更多内容,可访问:http://www.growai.cn 写在前面 欢迎您关注作者知乎:ML与DL成长之路 推荐关注公众号:AI成长社,ML与DL的成长圣 ...
- 第七十四篇：机器学习优化方法及超参数设置综述
第七十四篇:机器学习优化方法及超参数设置综述 置顶 2019-08-25 23:03:44 廖佳才 阅读数 207更多 分类专栏: 深度学习 版权声明:本文为博主原创文章,遵循 CC 4.0 BY-S ...
- 熟练掌握R语言的Meta分析全流程和不确定性分析，并结合机器学习等方法讲解Meta分析在文献大数据的延伸应用
Meta分析是针对某一科研问题,根据明确的搜索策略.选择筛选文献标准.采用严格的评价方法,对来源不同的研究成果进行收集.合并及定量统计分析的方法,最早出现于"循证医学",现已广泛应 ...
最新文章
- php设定错误和异常处理可使用的函数
- CSharpGL(43)环境映射(Environment Mapping)-天空盒(Skybox)反射(Reflection)和折射(Refraction)...
- linux c之assert函数使用总结
- 【linux高级程序设计】（第十三章）Linux Socket网络编程基础 2
- python实现一个简单的加法计算器_Python简易项目 加减计算器的实现
- python 发送邮件附件很慢_Python SMTP 发送带附件电子邮件
- oracle 中的参数 optimizer_mod的各个参数的意义
- Ubuntu的 g++ gcc版本升降级
- django.db.utils.OperationalError: (1049, Unknown database 'djangodb')
- cmw500综合测试仪使用_辽宁优质继电器综合测试仪供应商-广州炫通电气科技
- mysql 组复制详解_MySQL 5.7: 使用组复制(MySQL Group Replication)
- android 高音质 播放器,安卓音质最强音乐播放器—Rockbox
- Matlab绘制跳动的心
- mysql集群 MySQL Cluster
- SpringMVC配置自定义过滤器
- python 图书管理_Python-图书管理系统
- 2019年昆明理工大学计算机设计大赛,昆明理工大学计算中心网站
- react 谷歌地图_谷歌地图与React
- python设置windows桌面壁纸
- StataJournal来啦！随便看(2001-2020)更新到2020年第2期