如何使用Python进行异常检测?我来教你呀~

异常检测可以作为异常值分析的一项统计任务来处理。但是如果我们开发一个机器学习模型，它可以像往常一样自动化，可以节省很多时间。

异常检测有很多用例。信用卡欺诈检测、故障机器检测或基于异常特征的硬件系统检测、基于医疗记录的疾病检测都是很好的例子。还有更多的用例。异常检测的应用只会越来越多。

在本文中，我将解释在Python中从头开始开发异常检测算法的过程。

公式和过程

与我之前解释过的其他机器学习算法相比，这要简单得多。该算法将使用均值和方差来计算每个训练数据的概率。

如果一个训练实例的概率很高，这是正常的。如果某个训练实例的概率很低，那就是一个异常的例子。对于不同的训练集，高概率和低概率的定义是不同的。我们以后再讨论。

如果我要解释异常检测的工作过程，这很简单。

使用以下公式计算平均值：

这里m是数据集的长度或训练数据的数量，而xix^ixi是一个单独的训练例子。如果你有多个训练特征，大多数情况下都需要计算每个特征能的平均值。

使用以下公式计算方差：

这里，mu是上一步计算的平均值。

现在，用这个概率公式计算每个训练例子的概率。

不要被这个公式中的求和符号弄糊涂了！这实际上是Sigma代表方差。

如果大家在学习中遇到困难，想找一个python学习交流环境，可以加入我们的python圈，裙号930900780，可领取python学习资料，会节约很多时间，减少很多遇到的难题。

稍后我们将实现该算法时，你将看到它的样子。

我们现在需要找到概率的临界值。正如我前面提到的，如果一个训练例子的概率很低，那就是一个异常的例子。

低概率有多大？

这没有普遍的限制。我们需要为我们的训练数据集找出这个。

我们从步骤3中得到的输出中获取一系列概率值。对于每个概率，通过阈值的设置得到数据是否异常

然后计算一系列概率的精确度、召回率和f1分数。

精度可使用以下公式计算

召回率的计算公式如下：

在这里，True positives（真正例）是指算法检测到一个异常的例子的数量，而它真实情况也是一个异常。

False Positives（假正例）当算法检测到一个异常的例子，但在实际情况中，它不是异常的，就会出现误报。

False Negative（假反例）是指算法检测到的一个例子不是异常的，但实际上它是一个异常的例子。

从上面的公式你可以看出，更高的精确度和更高的召回率总是好的，因为这意味着我们有更多的真正的正例。但同时，假正例和假反例起着至关重要的作用，正如你在公式中看到的那样。这需要一个平衡点。根据你的行业，你需要决定哪一个对你来说是可以忍受的。

一个好办法是取平均数。计算平均值有一个独特的公式。这就是f1分数。f1得分公式为：

这里，P和R分别表示精确性和召回率。

我不想详细说明为什么这个公式如此独特。因为这篇文章是关于异常检测的。

根据f1分数，你需要选择你的阈值概率。

异常检测算法

我将使用Andrew Ng的机器学习课程的数据集，它具有两个训练特征。我没有在本文中使用真实的数据集，因为这个数据集非常适合学习。它只有两个特征。在任何真实的数据集中，都不可能只有两个特征。

有两个特性的好处是可以可视化数据，这对学习者非常有用。请随意从该链接下载数据集，然后继续：

github.com/rashida048/…

首先，导入必要的包

import pandas as pd
import numpy as np
复制代码

导入数据集。这是一个excel数据集。在这里，训练数据和交叉验证数据存储在单独的表中。所以，让我们把训练数据带来。

df = pd.read_excel('ex8data1.xlsx', sheet_name='X', header=None)
df.head()
复制代码

让我们将第0列与第1列进行比较。

plt.figure()
plt.scatter(df[0], df[1])
plt.show()
复制代码

你可能通过看这张图知道哪些数据是异常的。

检查此数据集中有多少个训练示例：

m = len(df)
复制代码

计算每个特征的平均值。这里我们只有两个特征：0和1。

s = np.sum(df, axis=0)
mu = s/m
mu
复制代码

输出：

0    14.112226
1    14.997711
dtype: float64
复制代码

根据上面“公式和过程”部分中描述的公式，让我们计算方差：

vr = np.sum((df - mu)**2, axis=0)
variance = vr/m
variance
复制代码

输出：

0    1.832631
1    1.709745
dtype: float64
复制代码

现在把它做成对角线形状。正如我在概率公式后面的“公式和过程”一节中所解释的，求和符号实际上是方差

var_dia = np.diag(variance)
var_dia
复制代码

输出：

array([[1.83263141, 0.        ],[0.        , 1.70974533]])
复制代码

计算概率：

k = len(mu)
X = df - mu
p = 1/((2*np.pi)**(k/2)*(np.linalg.det(var_dia)**0.5))* np.exp(-0.5* np.sum(X @ np.linalg.pinv(var_dia) * X,axis=1))
p
复制代码

训练部分已经完成。

下一步是找出阈值概率。如果概率低于阈值概率，则示例数据为异常数据。但我们需要为我们的特殊情况找出那个阈值。

对于这一步，我们使用交叉验证数据和标签。

对于你的案例，你只需保留一部分原始数据以进行交叉验证。

现在导入交叉验证数据和标签：

cvx = pd.read_excel('ex8data1.xlsx', sheet_name='Xval', header=None)
cvx.head()
复制代码

标签如下：

cvy = pd.read_excel('ex8data1.xlsx', sheet_name='y', header=None)
cvy.head()
复制代码

我将把'cvy'转换成NumPy数组，因为我喜欢使用数组。不过，数据帧也不错。

y = np.array(cvy)
复制代码

输出：

# 数组的一部分
array([[0],[0],[0],[0],[0],[0],[0],[0],[0],
复制代码

这里，y值0表示这是一个正常的例子，y值1表示这是一个异常的例子。

现在，如何选择一个阈值？

我不想只检查概率表中的所有概率。这可能是不必要的。让我们再检查一下概率值。

p.describe()
复制代码

输出：

count    3.070000e+02
mean     5.905331e-02
std      2.324461e-02
min      1.181209e-23
25%      4.361075e-02
50%      6.510144e-02
75%      7.849532e-02
max      8.986095e-02
dtype: float64
复制代码

如图所示，我们没有太多异常数据。所以，如果我们从75%的值开始，这应该是好的。但为了安全起见，我会从平均值开始。

因此，我们将从平均值和更低的概率范围。我们将检查这个范围内每个概率的f1分数。

首先，定义一个函数来计算真正例、假正例和假反例：

def tpfpfn(ep):tp, fp, fn = 0, 0, 0for i in range(len(y)):if p[i] <= ep and y[i][0] == 1:tp += 1elif p[i] <= ep and y[i][0] == 0:fp += 1elif p[i] > ep and y[i][0] == 1:fn += 1return tp, fp, fn
复制代码

列出低于或等于平均概率的概率。

eps = [i for i in p if i <= p.mean()]
复制代码

检查一下列表的长度

len(eps)
复制代码

输出：

133
复制代码

根据前面讨论的公式定义一个计算f1分数的函数：

def f1(ep):tp, fp, fn = tpfpfn(ep)prec = tp/(tp + fp)rec = tp/(tp + fn)f1 = 2*prec*rec/(prec + rec)return f1
复制代码

所有函数都准备好了！

现在计算所有epsilon或我们之前选择的概率值范围的f1分数。

f = []
for i in eps:f.append(f1(i))
f
复制代码

输出：

[0.14285714285714285,0.14035087719298248,0.1927710843373494,0.1568627450980392,0.208955223880597,0.41379310344827586,0.15517241379310345,0.28571428571428575,0.19444444444444445,0.5217391304347826,0.19718309859154928,0.19753086419753085,0.29268292682926833,0.14545454545454545,
复制代码

这是f分数表的一部分。长度应该是133。

f分数通常在0到1之间，其中f1得分越高越好。所以，我们需要从刚才计算的f分数列表中取f的最高分数。

现在，使用“argmax”函数来确定f分数值最大值的索引。

np.array(f).argmax()
复制代码

输出：

131
复制代码

现在用这个索引来得到阈值概率。

e = eps[131]
e
复制代码

输出：

6.107184445968581e-05
复制代码

找出异常实例

我们有临界概率。我们可以从中找出我们训练数据的标签。

如果概率值小于或等于该阈值，则数据为异常数据，否则为正常数据。我们将正常数据和异常数据分别表示为0和1，

label = []
for i in range(len(df)):if p[i] <= e:label.append(1)else:label.append(0)
label
复制代码

输出：

[0,0,0,0,0,0,0,0,0,0,
复制代码

这是标签列表的一部分。

我将在上面的训练数据集中添加此计算标签：

df['label'] = np.array(label)
df.head()
复制代码

我在标签为1的地方用红色绘制数据，在标签为0的地方用黑色绘制。以下是结果。

有道理吗？

是的，对吧？红色的数据明显异常。

结论

我试图一步一步地解释开发异常检测算法的过程，我希望这是可以理解的。如果你仅仅通过阅读就无法理解，我建议你运行每一段代码。那就很清楚了。

最后多说一句，想学习Python可联系小编，这里有我自己整理的整套python学习资料和路线，想要这些资料的都可以进q裙930900780领取。

本文章素材来源于网络，如有侵权请联系删除。

如何使用Python进行异常检测?我来教你呀~相关推荐

PyOD是一种基于Python的异常检测工具箱。它提供了一系列流行的异常检测算法，可以用于识别各种异常情况，例如离群值、孤立点和噪声数据。在本文中，将介绍PyO...
PyOD是一种基于Python的异常检测工具箱.它提供了一系列流行的异常检测算法,可以用于识别各种异常情况,例如离群值.孤立点和噪声数据.在本文中,将介绍PyOD的简介.安装和使用方法. 一.简介 P ...
视频异常检测算法 python_使用Python进行异常检测
作者|Rashida Nasrin Sucky 编译|VK 来源|Towards Datas Science 异常检测可以作为异常值分析的一项统计任务来处理.但是如果我们开发一个机器学习模型,它可以像 ...
使用Python进行异常检测
异常检测是异常值分析中的一项统计任务,但是如果我们开发一个机器学习模型来自动化地进行异常检测,可以节省很多时间. 异常检测有很多用例,包括信用卡欺诈检测.故障机器检测.基于异常特征的硬件系统检测.基于 ...
python进行异常检测工具_异常检测以及开源工具简介
图1 异常检测什么是异常点异常点是指其值与其他值存在显著不同的数据点.以时间序列为例,时间序列中的异常点,其时间超过了该序列的正常范围,而不考虑数据点之间的时间关系.换句话说,即使将所有数据点都视 ...
用python做视觉检测系统_教你用 Python 做一个物体检测系统
在本文中,我们将了解物体检测技术是什么以及可以用来解决此领域问题的几种不同方法,接着深入研究在Python中如何构建我们自己的对象检测系统.在本文结束时,您将拥有足够的知识来独自迎接不同的物体检测挑战 ...
python遇到异常跳过_教你使用Python遇到的异常的处理方式！
错误与异常 1.区分错误与异常两种错误(都必须改正):语法错误(代码不规范,格式不对或缺少符号).逻辑错误(逻辑不通) 异常:程序运行时发生错误的信号 2.异常处理与注意事项异常处理:程序员特意去 ...
python检测异常数据_用Python中从头开始的实现完整的异常检测算法
利用概率的异常检测算法异常检测可以作为离群分析的统计任务来对待. 但是,如果我们开发一个机器学习模型,它可以自动化,并且像往常一样可以节省大量时间. 有很多异常检测用例. 信用卡欺诈检测,故障机器检 ...
使用Python+Pycaret进行异常检测
异常检测提供了在数据中发现模式.偏差和异常的途径,这些模式.偏差和异常不限于模型的标准行为.随着数据呈指数级增长,分析数据并得出形成重要业务决策基础的见解已成为一种普遍趋势.我们不仅需要分析数据,还需 ...
独家 | 在Python中使用广义极端学生化偏差（GESD）进行异常检测（附链接）
作者:Shaleen Swarup 翻译:欧阳锦校对:王可汗本文约1700字,建议阅读5分钟本文从理论和实践角度介绍了使用广义极端学生化偏差(GESD)进行异常检测的方法,展示了Python代码示例和 ...

如何使用Python进行异常检测?我来教你呀~

如何使用Python进行异常检测?我来教你呀~相关推荐

最新文章

热门文章