本文小編為大家詳細(xì)介紹“Python怎么實現(xiàn)數(shù)據(jù)清洗”,內(nèi)容詳細(xì),步驟清晰,細(xì)節(jié)處理妥當(dāng),希望這篇“Python怎么實現(xiàn)數(shù)據(jù)清洗”文章能幫助大家解決疑惑,下面跟著小編的思路慢慢深入,一起來學(xué)習(xí)新知識吧。
創(chuàng)新互聯(lián)建站致力于網(wǎng)站建設(shè),網(wǎng)站制作設(shè)計,營銷網(wǎng)頁按需網(wǎng)站制作,外貿(mào)網(wǎng)站建設(shè),企業(yè)網(wǎng)站建設(shè),小程序開發(fā),網(wǎng)站SEO優(yōu)化,網(wǎng)站設(shè)計制作案例豐富,是成都做網(wǎng)站公司和建站公司,歡迎咨詢。
這里數(shù)據(jù)清洗需要用到的庫是pandas庫,下載方式還是在終端運行 : pip install pandas.
首先我們需要對數(shù)據(jù)進(jìn)行讀取
import pandas as pd data = pd.read_csv(r'E:\PYthon\用戶價值分析 RFM模型\data.csv') pd.set_option('display.max_columns', 888) # 大于總列數(shù) pd.set_option('display.width', 1000) print(data.head()) print(data.info())
第3行是對數(shù)據(jù)進(jìn)行讀取,pandas庫里面有讀取函數(shù)調(diào)用即可,csv格式是讀取寫入速度最快的。
第4,5行是為了讀取的實話顯示全部的列,是因為很多列的話pycharm會把中間一些列隱藏掉,所以我們這為了他不隱藏就加這兩行代碼。
第6行是顯示表頭,我們可以看到有什么字段,列名
第7行是顯示表的基本信息,每一列有多少數(shù)據(jù),字段是什么類型的數(shù)據(jù)。非空的數(shù)據(jù)有多少,所以我們第一步就可以看得到基本那一列有空值了。
data.info()后我們可以看到大部分?jǐn)?shù)據(jù)都有541909行,所以我們大致猜到是Description ,CustomerID 列漏結(jié)果了
# 空值處理 print(data.isnull().sum()) # 空值中和,查看每一列的空值 # 空值刪除 data.drop(columns=['Description'], inplace=True) print(data.info()) data.isnull()判斷是否為空。data.isnumll().sum()計算空值數(shù)量。
第5行進(jìn)行空值刪除,這里先刪除Description列的空值,inplace=True意思是對數(shù)據(jù)進(jìn)行修改,如果沒有inplace=True,則不對data進(jìn)行修改,打印數(shù)據(jù)還是和之前一樣,或者重新定義一個變量進(jìn)行賦值。
由于這一列空值數(shù)據(jù)比較少,這一列數(shù)據(jù)對我們數(shù)據(jù)分析沒有那么重要,所以我們選擇刪除這一整列。
我們這個表是對客戶進(jìn)行篩選的,所以以CustomerID為準(zhǔn),強(qiáng)制刪除其他列
# CustomerID有空值 # 刪除所有列的空值 data.dropna(inplace=True) # print(data.info()) print(data.isnull().sum()) # 由于CustomerID為必須字段,所以強(qiáng)制刪除其他列,以CustomerID為準(zhǔn)
這里我們先對其他字段進(jìn)行類型轉(zhuǎn)換
類型轉(zhuǎn)換
# 轉(zhuǎn)換為日期類型 data['InvoiceDate'] = pd.to_datetime(data['InvoiceDate']) # CustomerID 轉(zhuǎn)換為整型 data['CustomerID'] = data['CustomerID'].astype('int') print(data.info())
以上我們處理了空值,接下來我們處理異常值。
查看表的基本數(shù)據(jù)分布可以使用describe
print(data.describe())
可以看到數(shù)據(jù)Quantity 列中最小值為-80995.這列明顯有異常值,所以需要對這一列進(jìn)行異常值篩選。
只需要大于0的值。
data = data[data['Quantity'] > 0] print(data)
打印一下就只有397924行了。
# 查看重復(fù)值 print(data[data.duplicated()])
有5194行重復(fù)值,這里的重復(fù)值是完全重復(fù)的,所以是沒用的數(shù)據(jù)我們可以進(jìn)行刪除。
# 刪除重復(fù)值 data.drop_duplicates(inplace=True) print(data.info())
刪除后對原來的表進(jìn)行保存,再去查看一下表的基本信息
現(xiàn)在還剩下392730條數(shù)據(jù)。數(shù)據(jù)到這一步就完成了數(shù)據(jù)清洗。
讀到這里,這篇“Python怎么實現(xiàn)數(shù)據(jù)清洗”文章已經(jīng)介紹完畢,想要掌握這篇文章的知識點還需要大家自己動手實踐使用過才能領(lǐng)會,如果想了解更多相關(guān)內(nèi)容的文章,歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道。
新聞名稱:Python怎么實現(xiàn)數(shù)據(jù)清洗
鏈接地址:http://aaarwkj.com/article48/godihp.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供域名注冊、品牌網(wǎng)站制作、企業(yè)建站、App設(shè)計、網(wǎng)站收錄、面包屑導(dǎo)航
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)