机器学习笔记(六):数据归一化 | 凌云时刻
凌云时刻 · 技术
导读:上一篇笔记的主要内容是机器学习算法中的一些主要概念,比如训练数据集、测试数据集,分类准确度,超参数。这一篇笔记会继续讲解另一主要概念:数据归一化。另外会具体用代码实现第一篇笔记中介绍过的线性回归算法。
作者 | 计缘
来源 | 凌云时刻(微信号:linuxpk)
数据归一化
大家先看看上面表格中的样本数据,两个样本的肿瘤大小相差有5倍,从医学角度来讲这个差距已经是非常大了,但从实际数值差距来讲并不是很大。再看看发现时间,两个样本之间相差100天,在数值上的差距远远大于肿瘤大小的差距。所以如果使用kNN算法,用欧拉距离计算的话,两个样本发现时间之差远远大于肿瘤大小之差,所以就会主导样本间的距离,这个显然是有问题的,对预测的结果是有偏差的。
所以我们就需要对样本数据进行数据归一化,将所有的数据映射到同一尺度。比较简便的方式就是最值归一化,既用下面的公式把所有数据映射到0-1之间:
最值归一化虽然简便,但是是有一定适用范围的,那就是适用于样本数据有明显分布边界的情况,比如学生的考试分数,从0到100分,或者像素值,从0到255等。假如像人的月收入这种没有边界的样本数据集,就不能使用最值归一化了,此时就需要用到另外一个数据归一化的方法均值方差归一化,该方法就是把所有数据归一到均值为0方差为1的分布中,公式如下:
就是将每个值减去均值,然后除以方差,通过均值方差归一化后的数据不一定在0-1之间,但是他们的均值为0,方差为1。
下面我们来分别实现一下这两个数据归一化方法。先来看看最值归一化的实现:
|
可以看到最值归一化后数据都在0到1之间。我们再来看看均值方差归一化的实现:
|
如何对测试数据集进行归一化
之前我们说过会对样本数据进行拆分,拆分为训练数据和测试数据,对于训练数据我们可以直接使用最值归一化或均值方法归一化,但是对测试数据我们就不能直接使用归一化的方法了,因为测试数据其实充当了真实环境中需要预测的数据,很多时候需要预测的数据只有一组,这时候我们是没办法对一组数据进行归一化的,因为无法得到均值和方差,所以我们需要结合归一化后训练数据归一化测试数据:(x_test - mean_train) / std_train
。那么我们就需要保存训练数据归一化后的数据,此时我们就可以用到Scikit Learn提供的数据归一化的对象Scalar
。
Scalar
的使用流程和机器学习算法的使用流程很像,输入训练数据集,进行fit
操作,这里的fit
操作就不是训练模型了,而是进行数据归一化处理,然后是transform
,既对需要预测的数据进行归一化。我们来看看如何使用:
|
封装自己的数据归一化方法
|
这样我们就封装好了自己的均值方差归一化的方法,另外,Scikit Learn也提供了最值归一化的对象MinMaxScaler
,使用流程都是一样的,大家也可是试试看。
总结
这一篇笔记主要介绍了kNN算法实现逻辑以外的概念,但也是机器学习中非常重要的一些概念,以后也会经常看到它们的身影。通过四篇笔记的介绍,我们知道kNN算法是一个解决多分类问题的算法,而且算法实现相对比较简单,但效果很强大。下一篇我们来实现第一篇笔记中介绍过的线性回归法。
END
往期精彩文章回顾
机器学习笔记(五):超参数
机器学习笔记(四):kNN算法
机器学习笔记(三):NumPy、Matplotlib、kNN算法
机器学习笔记(二):矩阵、环境搭建、NumPy
机器学习笔记(一):机器的学习定义、导数和最小二乘
Kafka从上手到实践 - 实践真知:搭建Kafka相关的UI工具
Kafka从上手到实践 - Kafka集群:启动Kafka集群
Kafka从上手到实践 - Kafka集群:Kafka Listeners
Kafka从上手到实践 - Kafka集群:配置Broker
Kafka从上手到实践:搭建Zookeeper集群
长按扫描二维码关注凌云时刻
每日收获前沿技术与科技洞见
机器学习笔记(六):数据归一化 | 凌云时刻相关推荐
- sklearn 笔记:数据归一化(StandardScaler)
1 StandardScaler原理 去均值和方差归一化.且是针对每一个特征维度来做的,而不是针对样本. ,其中μ为所有样本数据的均值,σ为所有样本数据的标准差. 2 用sklearn 实现数据归一化 ...
- 机器学习中的数据归一化、最值归一化、均值方差归一化(标准化)
文章目录 为什么要进行数据归一化 什么是数据归一化 最值归一化(Normalization) 最值归一化的适用性 均值方差归一化(Standardization) 为什么要这么归一化呢? 均值方差归一 ...
- 数学建模国赛:python机器学习基础之数据归一化、去除空值
首先我们要明确为什么要将数据归一化或者说是标准化,因为不同数据范围相差太大,不好比较,所以要消除不同量纲单位带来的影响,归一化后各数据指标处于同一数量级,适合进行综合对比评价 想要数据集或者有什么不明 ...
- 机器学习笔记六——特征工程之数据预处理
特征工程之数据预处理 1. 处理缺失值 2. 处理异常值 2.1 异常值检测 2.2异常值处理 3.离散特征的连续化处理 4.连续特征的离散化处理 5. 处理类别不平衡问题 6. 图片数据扩充 数据预 ...
- 机器学习笔记六:K-Means聚类,层次聚类,谱聚类
前面的笔记搞了那么多的数学,这篇来一点轻松的,提前适应一下除了监督问题以外的非监督学习.这篇笔记有没有前面那么多的数学了,要讲的聚类算是无监督的学习方式. 一.一般问题 聚类分析的目标是,创建满足于同 ...
- 机器学习笔记(六)数据分类
如果有看不懂一定要评论或者私聊,因为很多时候我感觉一些东西可有可无,这些笔记基本上是为了考研啊,很多教材也都是好几遍刷的,有代码就是我做某个项目正好用到.有很多人初学就看一些博客的很烦,我也是这么走来 ...
- 李宏毅机器学习笔记六——Gradient Descent
视频来源: 李宏毅机器学习(2017)_哔哩哔哩 (゜-゜)つロ 干杯~-bilibili https://www.bilibili.com/video/av10590361/?p=6 使用GD的注意 ...
- Asp.net控件开发学习笔记(六)----数据回传
在Asp.net中,利用Http Post的回传机制意味着可以再客户端存储状态并且可以在服务器接收.Asp.net中大部分控件都提供了存储自身状态的功能并且在自身状态改变时引发对应事件.IPostDa ...
- [云炬python3玩转机器学习笔记] 3-12 数据加载和简单的数据探索
读取数据和简单的数据探索 In [1]: import numpy as np In [2]: import matplotlib as mpl import matplotlib.pyplot as ...
- [机器学习笔记] 将数据拆分成训练集和测试集的几种方法
问题描述: 一般情况下, 我们习惯将原始数据中的80% 作为训练集, 20% 作为测试集(当数据量足够大的时候,也可以将10% 作为测试集. 数据量较小时,如果每次都是随机划分训练集,执行多次训练后, ...
最新文章
- MSMQ: C# MSMQ编程问题
- 简单免杀绕过和利用上线的 GoCS
- graduation wishes from professor Youmin Xi
- python 读取word 题库_Python-docx 读取word.docx内容
- Memory Limits for Windows and Windows Server Releases
- C#多线程和异步(二)——Task和async/await详解
- 208. 实现 Trie (前缀树)
- asp.net网站编码测试
- PL/SQL 结构与实例
- CWE视图层级关系解析:节点关系查询
- MySQL 如何查找并删除重复行
- c语言界面飞机图形代码,求个用最简单的的代码来实现图形界面…
- java通过JNI接口调用C语言-初级
- 硅谷之火何时才能引燃中国的OS
- 计算机教学能力大赛实施报告模板,“现代信息技术在课堂教学中的运用”实施情况总结...
- Frechlet Inception Distance(FID)快速入门、使用、代码
- MATLAB句柄和saveas用法
- Java流程控制语句-顺序结构
- JAVA修改运行内存
- Three.js显示物体的运动轨迹