新聞中心
這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
創(chuàng)新互聯(lián)Python教程:python如何做數(shù)據(jù)清洗?
1.數(shù)據(jù)清洗的代碼:

import pandas as pd
import numpy as np
# 創(chuàng)建空的df,保存測試數(shù)據(jù)
test_df = pd.DataFrame({'K1':['C1','C1','C2','C3','C4','C2','C1'],'K2':['A','A','B','C','D',np.NaN,np.NaN]})
# 按K1列進行分組,組內(nèi)進行unique操作(去除重復(fù)元素,返回元組或列表)
test_df_unique = pd.DataFrame(test_df.groupby(['K1'])['K2'].agg('unique'))
# 自定義函數(shù)判斷元組中是否含有nan
def has_nan(list):
flag = False
for x in list:
if x is np.NaN:
flag = True
break
return flag
# 自定義函數(shù)判斷元組中是否不含有nan
def no_nan(list):
flag = True
for x in list:
if x is np.NaN:
flag = False
break
return flag
# 獲取k2列含有nan的數(shù)據(jù)
test_df_unique_has_nan = test_df_unique[test_df_unique['K2'].apply(has_nan)]
# 獲取k2列不含有nan的數(shù)據(jù)
test_df_unique_no_nan = test_df_unique[test_df_unique['K2'].apply(no_nan)]
# 管理測試數(shù)據(jù),獲取源數(shù)據(jù)
test_df_get = test_df[test_df['K1'].isin(test_df_unique_has_nan.index.tolist())]
test_df_alone = test_df[test_df['K1'].isin(test_df_unique_no_nan.index.tolist())]
# 去除含nan的重復(fù)數(shù)據(jù)
test_df_get_nonan = test_df_get[~test_df_get['K2'].isna()]
# 組合數(shù)據(jù)
result = test_df_get_nonan.append(test_df_alone)
# 去重,得到最終結(jié)果
result_save = result.drop_duplicates(subset=['K1','K2'],keep='last')
# 結(jié)果落地
result_save.to_excel('C:/Users/zhen/Desktop/數(shù)據(jù)清洗之去重.xlsx')2、測試數(shù)據(jù):
3、結(jié)果:
分享名稱:創(chuàng)新互聯(lián)Python教程:python如何做數(shù)據(jù)清洗?
文章分享:http://www.dlmjj.cn/article/dhcijso.html


咨詢
建站咨詢
