最近邻学习基础知识

根据分类的定义可知：分类包含两个阶段：训练阶段和工作阶段。

积极学习

到目前为止，我们前面介绍的所有机器学习技术都有显式的训练过程，都是在训练阶段就对训练样本进行学习处理，构建起分类模型，这类机器学习技术统称为“积极学习” (eager learning)。

消极学习

这一章我们将要介绍的最近邻学习，没有显式的训练过程，在训练阶段只是把训练样本保存起来，建模工作延迟到工作阶段才进行处理，这类机器学习技术统称为“消极学习”(lazy learning)

最近邻学习基本思想

其实就是找到离待测样本最接近的k个样本，并统计他们的label，比如投票，哪个票数多就选哪个label作为样本的label。

最近邻学习常见问题

近邻索引为题

在决策树的叶子结点上进行K-近邻索引

维度灾害问题

两种解决办法，属性加权和属性选择

邻域大小问题

后验概率问题

计算效率问题

归纳偏置问题

对不同属性增加权值来实现。

最近邻算法的改进——距离加权

机器学习08：最近邻学习相关推荐

干货丨机器学习和深度学习概念入门
对于很多初入学习人工智能的学习者来说,对人工智能.机器学习.深度学习的概念和区别还不是很了解,有可能你每天都能听到这个概念,也经常提这个概念,但是你真的懂它们之间的关系吗?那么接下来就给大家从概念和特 ...
k均值例子数据挖掘_人工智能、数据挖掘、机器学习和深度学习的关系
一.人工智能人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器. 实际应用比如:机器视觉,指纹识别,人脸识别,视网膜识别,虹膜识别,掌纹识 ...
终于有人把自然语言处理、机器学习、深度学习和AI讲明白了
导读:本文将带你了解自然语言处理的概念.应用,以及与机器学习.深度学习和人工智能之间的关系. 作者:卡蒂克·雷迪·博卡(Karthiek Reddy Bokka).舒班吉·霍拉(Shubhangi H ...
python系列文章(基础，应用，后端，运维，自动化测试，爬虫，数据分析，可视化，机器学习，深度学习系列内容)
python基础教程 python基础系列教程--Python的安装与测试:python解释器.PyDev编辑器.pycharm编译器 python基础系列教程--Python库的安装与卸载 pyth ...
机器学习和深度学习引用量最高的20篇论文（2014-2017）
转载自: https://blog.csdn.net/hll174/article/details/69808435 机器学习和深度学习的研究进展正深刻变革着人类的技术,本文列出了自 2014 年以来 ...
机器学习，深度学习相关介绍
最近看了周志华老师的书,主要内容如下,涉及到很多机器学习的知识点: by [2017.12.29 更新 denny shenzhen 59888745@qq.com] 1.线性模型: 线性回归:多 ...
基于机器学习与深度学习的金融风控贷款违约预测
基于机器学习与深度学习的金融风控贷款违约预测目录一.赛题分析 1. 任务分析 2. 数据属性 3. 评价指标 4. 问题归类 5. 整体思路二.数据可视化分析 1. 总体数据分析 2. 数值型数 ...
用于Java开发机器学习和深度学习的Vector API(翻译)
本文介绍了用于Java开发机器学习和深度学习的Vector API 英语原文链接 https://software.intel.com/en-us/articles/vector-api-develo ...
机器学习、深度学习面试知识点汇总
作者丨Oldpan 来源丨oldpan博客编辑丨极市平台导读本文总结了一些秋招面试中会遇到的问题和一些重要的知识点,适合面试前突击和巩固基础知识. 前言最近这段时间正临秋招,这篇文章是老潘在那 ...

机器学习08：最近邻学习