标准化、归一化、规范化区别

规范化包括标准化、正则化、归一化
“规范化”(normalization)是将不同变化范围的值映射到相同的固定范围中，常见的是[0,1],此时亦称“归一化”

规范化定义的操作很广，一个数据集随便加减某个数（shift），随便乘除某个数（scale），或者这两个操作进行组合，都可以是规范化。

标准化(standardization)：将数据处理成均值为0，方差为1的一批数据，处理后数据的取值范围是 ( + ∞ , − ∞ ) \left (+\infty, -\infty \right ) (+∞,−∞)

归一化(normaliation)：是将数据的范围归整到（0，1）或者（-1，1）。

归一化与标准化分别应何时使用：
（1）如果对输出结果范围有要求，用归一化。
（2）如果数据较为稳定，不存在极端的最大最小值，用归一化。
（3）如果数据存在异常值和较多噪音，用标准化，可以间接通过中心化避免异常值和极端值的影响。

归一化和标准化都属于四种Feature scaling（特征缩放）：
Rescaling（min-max normalization）：
x ′ = x − m i n ( x ) m a x ( x ) − m i n ( x ) {x}'=\frac{x-min\left ( x \right )}{max\left ( x \right )-min\left ( x \right )} x′=max(x)−min(x)x−min(x)
Mean normalization :
x ′ = x − m e a n ( x ) m a x ( x ) − m i n ( x ) {x}'=\frac{x-mean\left ( x \right )}{max\left ( x \right )-min\left ( x \right )} x′=max(x)−min(x)x−mean(x)
Standardization(Z-score normalization):
x ′ = x − m e a n ( x ) σ {x}'=\frac{x-mean\left ( x \right )}{\sigma } x′=σx−mean(x)
Scaling to unit length :
x ′ = x ∣ ∣ x ∣ ∣ {x}'=\frac{x}{||x|| } x′=∣∣x∣∣x

注意：
(batch normalization,BN)先使得mini-batch的均值为0方差为1，这明明是标准化standardization，BN的论文却也将其称为normalization。所以，正如前边所说，使得均值为0，方差为1，其实就是shift和scale的组合操作，是normalization的一种。

标准化、归一化、规范化区别相关推荐

一篇文章告诉你标准化和归一化的区别？
一篇文章告诉你标准化和归一化的区别? 2019-02-28 17:12:39 融融网融融网阅读量:484 进一步推进企业的标准化工作,使之发展水平适应经济全球化下市场竞争的要求,促进企业综合实力的提升 ...
数据处理之标准化/归一化方法
数据处理之标准化/归一化方法归一化方法(Normalization Method) 1.把数变为(0,1)之间的小数主要是为了数据处理方便提出来的,把数据映射到0-1范围之内处理,更加便捷快速,应 ...
机器学习——标准化/归一化的目的、作用和场景
对每个特征进行归一化处理,使得每个特征的取值缩放到0~1之间.这样做有两个好处: 模型训练更高效. 特征前的权重大小可代表该变量对预测结果的贡献度(因为每个特征值本身的范围相同). (一)归一化的作用 ...
pandas数据预处理(标准化归一化、离散化/分箱/分桶、分类数据处理、时间类型数据处理、样本类别分布不均衡数据处理、数据抽样)
1. 数值型数据的处理 1.1 标准化&归一化数据标准化是一个常用的数据预处理操作,目的是处理不同规模和量纲的数据,使其缩放到相同的数据区间和范围,以减少规模.特征.分布差异等对模型的影响. ...
什么是标准化，规范化，系统化？
在我们的日常生活和工作中,常会用到"标准化,规范化,系统化"这些词汇,我们在使用这些词汇时究竟有没有真正理解它们的含义?这些词都是动词,当我们在使用这些词汇时,是否知道究竟意味着要 ...
机器学习中数据预处理——标准化/归一化方法（scaler）
由于工作问题比较忙,有两周没有总结一下工作学习中遇到的问题. 这篇主要是关于机器学习中的数据预处理的scaler变化. 工作中遇到的问题是:流量预测问题,拿到的数据差距非常大,凌晨的通话流量很少几乎为 ...
向后转动作要领_标准化、规范化训练：立正、稍息、跨立、蹲下、向左向右转、向后转的动作要领是什么？...
标准化.规范化训练:立正.稍息.跨立.蹲下.向左向右转.向后转的动作要领是什么? 234游戏网友提出于 2019-07-19 02:34:27 标准化.规范化训练:立正.稍息.跨立.蹲下.向左向右转 ...
机器学习——标准化/归一化的目的和作用
机器学习--标准化/归一化的目的.作用和场景 (一)归一化的作用在机器学习领域中,不同评价指标(即特征向量中的不同特征就是所述的不同评价指标)往往具有不同的量纲和量纲单位,这样的情况会影响到数据分析 ...
【思维导图】【标准化、规范化文件】《使用MEEG进行神经成像数据分析和共享的最佳实践》【脑机接口入门第一篇必备文章】
文档原始下载链接:OSF Preprints | Best Practices in Data Analysis and Sharing in Neuroimaging using MEEG 参考文献 ...

标准化、归一化、规范化区别

标准化、归一化、规范化区别相关推荐

最新文章

热门文章