本文小編為大家詳細(xì)介紹“Python如何實(shí)現(xiàn)異常檢測”，內(nèi)容詳細(xì)，步驟清晰，細(xì)節(jié)處理妥當(dāng)，希望這篇“Python如何實(shí)現(xiàn)異常檢測”文章能幫助大家解決疑惑，下面跟著小編的思路慢慢深入，一起來學(xué)習(xí)新知識吧。

創(chuàng)新互聯(lián)公司專業(yè)為企業(yè)提供定陶網(wǎng)站建設(shè)、定陶做網(wǎng)站、定陶網(wǎng)站設(shè)計、定陶網(wǎng)站制作等企業(yè)網(wǎng)站建設(shè)、網(wǎng)頁設(shè)計與制作、定陶企業(yè)網(wǎng)站模板建站服務(wù)，十余年定陶做網(wǎng)站經(jīng)驗(yàn)，不只是建網(wǎng)站，更提供有價值的思路和整體網(wǎng)絡(luò)服務(wù)。

異常檢測算法

我將使用Andrew Ng的機(jī)器學(xué)習(xí)課程的數(shù)據(jù)集，它具有兩個訓(xùn)練特征。我沒有在本文中使用真實(shí)的數(shù)據(jù)集，因?yàn)檫@個數(shù)據(jù)集非常適合學(xué)習(xí)。它只有兩個特征。在任何真實(shí)的數(shù)據(jù)集中，都不可能只有兩個特征。

首先，導(dǎo)入必要的包

import pandas as pd  import numpy as np

導(dǎo)入數(shù)據(jù)集。這是一個excel數(shù)據(jù)集。在這里，訓(xùn)練數(shù)據(jù)和交叉驗(yàn)證數(shù)據(jù)存儲在單獨(dú)的表中。所以，讓我們把訓(xùn)練數(shù)據(jù)帶來。

df = pd.read_excel('ex8data1.xlsx', sheet_name='X', header=None) df.head()

讓我們將第0列與第1列進(jìn)行比較。

plt.figure() plt.scatter(df[0], df[1]) plt.show()

你可能通過看這張圖知道哪些數(shù)據(jù)是異常的。

檢查此數(shù)據(jù)集中有多少個訓(xùn)練示例：

m = len(df)

計算每個特征的平均值。這里我們只有兩個特征：0和1。

s = np.sum(df, axis=0) mu = s/m mu

輸出：

0    14.112226 1    14.997711 dtype: float64

根據(jù)上面“公式和過程”部分中描述的公式，讓我們計算方差：

vr = np.sum((df - mu)**2, axis=0) variance = vr/m variance

輸出：

0    1.832631 1    1.709745 dtype: float64

現(xiàn)在把它做成對角線形狀。正如我在概率公式后面的“公式和過程”一節(jié)中所解釋的，求和符號實(shí)際上是方差

var_dia = np.diag(variance) var_dia

輸出：

array([[1.83263141, 0.        ],        [0.        , 1.70974533]])

計算概率：

k = len(mu) X = df - mu p = 1/((2*np.pi)**(k/2)*(np.linalg.det(var_dia)**0.5))* np.exp(-0.5* np.sum(X @ np.linalg.pinv(var_dia) * X,axis=1)) p

訓(xùn)練部分已經(jīng)完成。

下一步是找出閾值概率。如果概率低于閾值概率，則示例數(shù)據(jù)為異常數(shù)據(jù)。但我們需要為我們的特殊情況找出那個閾值。

對于這一步，我們使用交叉驗(yàn)證數(shù)據(jù)和標(biāo)簽。

對于你的案例，你只需保留一部分原始數(shù)據(jù)以進(jìn)行交叉驗(yàn)證。

現(xiàn)在導(dǎo)入交叉驗(yàn)證數(shù)據(jù)和標(biāo)簽：

cvx = pd.read_excel('ex8data1.xlsx', sheet_name='Xval', header=None) cvx.head()

標(biāo)簽如下：

cvy = pd.read_excel('ex8data1.xlsx', sheet_name='y', header=None) cvy.head()

我將把'cvy'轉(zhuǎn)換成NumPy數(shù)組，因?yàn)槲蚁矚g使用數(shù)組。不過，數(shù)據(jù)幀也不錯。

y = np.array(cvy)

輸出：

# 數(shù)組的一部分 array([[0],        [0],        [0],        [0],        [0],        [0],        [0],        [0],        [0],

這里，y值0表示這是一個正常的例子，y值1表示這是一個異常的例子。

現(xiàn)在，如何選擇一個閾值？

我不想只檢查概率表中的所有概率。這可能是不必要的。讓我們再檢查一下概率值。

p.describe()

輸出：

count    3.070000e+02 mean     5.905331e-02 std      2.324461e-02 min      1.181209e-23 25%      4.361075e-02 50%      6.510144e-02 75%      7.849532e-02 max      8.986095e-02 dtype: float64

如圖所示，我們沒有太多異常數(shù)據(jù)。所以，如果我們從75%的值開始，這應(yīng)該是好的。但為了安全起見，我會從平均值開始。

因此，我們將從平均值和更低的概率范圍。我們將檢查這個范圍內(nèi)每個概率的f1分?jǐn)?shù)。

首先，定義一個函數(shù)來計算真正例、假正例和假反例：

def tpfpfn(ep):     tp, fp, fn = 0, 0, 0     for i in range(len(y)):         if p[i] <= ep and y[i][0] == 1:             tp += 1         elif p[i] <= ep and y[i][0] == 0:             fp += 1         elif p[i] > ep and y[i][0] == 1:             fn += 1     return tp, fp, fn

列出低于或等于平均概率的概率。

eps = [i for i in p if i <= p.mean()]

檢查一下列表的長度

len(eps)

輸出：

133

根據(jù)前面討論的公式定義一個計算f1分?jǐn)?shù)的函數(shù)：

def f1(ep):     tp, fp, fn = tpfpfn(ep)     prec = tp/(tp + fp)     rec = tp/(tp + fn)     f1 = 2*prec*rec/(prec + rec)     return f1

所有函數(shù)都準(zhǔn)備好了！

現(xiàn)在計算所有epsilon或我們之前選擇的概率值范圍的f1分?jǐn)?shù)。

f = [] for i in eps:     f.append(f1(i)) f

輸出：

[0.14285714285714285,  0.14035087719298248,  0.1927710843373494,  0.1568627450980392,  0.208955223880597,  0.41379310344827586,  0.15517241379310345,  0.28571428571428575,  0.19444444444444445,  0.5217391304347826,  0.19718309859154928,  0.19753086419753085,  0.29268292682926833,  0.14545454545454545,

這是f分?jǐn)?shù)表的一部分。長度應(yīng)該是133。

f分?jǐn)?shù)通常在0到1之間，其中f1得分越高越好。所以，我們需要從剛才計算的f分?jǐn)?shù)列表中取f的最高分?jǐn)?shù)。

現(xiàn)在，使用“argmax”函數(shù)來確定f分?jǐn)?shù)值最大值的索引。

np.array(f).argmax()

輸出：

131

現(xiàn)在用這個索引來得到閾值概率。

e = eps[131] e

輸出：

6.107184445968581e-05

找出異常實(shí)例

我們有臨界概率。我們可以從中找出我們訓(xùn)練數(shù)據(jù)的標(biāo)簽。

如果概率值小于或等于該閾值，則數(shù)據(jù)為異常數(shù)據(jù)，否則為正常數(shù)據(jù)。我們將正常數(shù)據(jù)和異常數(shù)據(jù)分別表示為0和1，

label = [] for i in range(len(df)):     if p[i] <= e:         label.append(1)     else:         label.append(0) label

輸出：

[0,  0,  0,  0,  0,  0,  0,  0,  0,  0,

這是標(biāo)簽列表的一部分。

我將在上面的訓(xùn)練數(shù)據(jù)集中添加此計算標(biāo)簽：

df['label'] = np.array(label) df.head()

我在標(biāo)簽為1的地方用紅色繪制數(shù)據(jù)，在標(biāo)簽為0的地方用黑色繪制。以下是結(jié)果。

讀到這里，這篇“Python如何實(shí)現(xiàn)異常檢測”文章已經(jīng)介紹完畢，想要掌握這篇文章的知識點(diǎn)還需要大家自己動手實(shí)踐使用過才能領(lǐng)會，如果想了解更多相關(guān)內(nèi)容的文章，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道。

分享標(biāo)題：Python如何實(shí)現(xiàn)異常檢測
網(wǎng)站鏈接：http://aaarwkj.com/article16/psoegg.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供營銷型網(wǎng)站建設(shè)、搜索引擎優(yōu)化、服務(wù)器托管、網(wǎng)站制作、軟件開發(fā)、App開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)