knn算法，利用numpy简单实现

首先明确概念：
回归：预测体重、预测房价、预测损失。结果是不容易确定的。

分类：预测男女、预测是否能通过考试结果是容易确定的。

我的理解：回归针对连续的数据、分类针对离散的数据。 回归连续、分类离散。

classfication和regression的区别：
回归的是求topk的value求平均值；

分类是求topk中出现最多的类别。

例子：预测房价（回归例子）

根据经度、维度->预测房屋价格

numpy中数组的特性：广播效应

减法时会自动匹配每一行/列

例如：

思路：

拿到feature(影响结果的影响因子)与预测的作差平方和开方得到欧式距离然后利用argsort得到下标的升序排序，通过label访问下标的值+k值预测求得平均值。

包装成函数看看：

注意：不管是feature/label还是predictPoint这些都是np下的数组才能使用广播响应。

为什么这里不使用归一化？

因为数据之间差异太大，使得处理后的数据不集中不好获得理想预测结果。

可以使用标准化来解决一下：

数据标准化的格式，仔细看看有点复杂但是Python的第三库已经写好了！

# mean std 再到result。。。

最后的最后，分享给大家：
数学的学习方法：

试着去理解原理、理解数学背后的原理；

避免抽象数学和理论数学；

结论不靠数学公式证明，靠的是编写程序实验证明。

原理->应用

knn算法，利用numpy简单实现相关推荐

KNN算法原理与简单实现
KNN算法原理与简单实现 K最近邻(k-Nearest Neighbor,KNN)分类算法,是最简单的机器学习算法之一,涉及高等数学知识近乎为0,虽然它简单,但效果很好,是入门机器学习的首选算法.但很 ...
KNN算法原理及简单改进
KNN算法 1. 什么是KNN算法简单来说,就是根据周围几个邻居的类别来判断自己的类别 1.1 KNN概念 KNN算法全称K Nearest Neighbor 定义:如果一个样本在特征空间中的k个最 ...
knn算法python理解与预测_理解KNN算法
KNN主要包括训练过程和分类过程.在训练过程上,需要将训练集存储起来.在分类过程中,将测试集和训练集中的每一张图片去比较,选取差别最小的那张图片. 如果数据集多,就把训练集分成两部分,一小部分作为验证 ...
计算机视觉--KNN算法和稠密SIFT实现图像识别（手势识别）
KNN算法一.KNN算法概述 kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别,则该样本也属于这个类别,并具有这个类别上样本的特性.该方法在确定分类决策上只依 ...
knn算法python代码iris_KNN算法原理及代码实现
如何选择K值首先让我们理解K值到底如何影响KNN算法.如果我们有很多蓝色点和红色点数据,使用不同K值,最终的分类效果大概如下图.我们发现随着K值的增大,分界面越来越平滑. 一般在机器学习中我们要将 ...
KNN算法详解及实现
KNN算法详解及实现 k近邻法(k-nearest neighbor,k-NN)是一种基本的分类和回归方法,是监督学习方法里的一种常用方法.k近邻算法假设给定一个训练数据集,其中的实例类别已定.分类时 ...
kNN算法与手写数字识别
kNN算法简介 kNN算法采用测量不同特征值之间的距离来进行分类. 工作原理:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别.存在一个 ...
knn算法python代码_KNN 算法原理及代码实现
在本文中,我们将讨论一种广泛使用的分类技术,称为K最近邻(KNN).我们的重点主要集中在算法如何工作以及输入参数如何影响预测结果. 内容包括: 何时使用KNN算法? KNN算法原理如何选择K值 KN ...
【机器学习】KNN算法实现手写板字迹识别
文章目录 [机器学习]KNN算法实现手写板字迹识别 1. 前言 2. 实验背景 3. 测试过程 3.1 手写板及测试数据的制作 3.2 加载训练数据并进行KNN模型搭建 3.3 结果预测 4. 总结 ...

knn算法，利用numpy简单实现

knn算法，利用numpy简单实现相关推荐

最新文章

热门文章