新聞中心
Pandas 中的merge()方法無疑是數(shù)據(jù)科學(xué)家在其數(shù)據(jù)科學(xué)項(xiàng)目中最常用的方法之一。

創(chuàng)新互聯(lián)建站是一家專業(yè)提供成武企業(yè)網(wǎng)站建設(shè),專注與網(wǎng)站設(shè)計(jì)制作、網(wǎng)站建設(shè)、H5技術(shù)、小程序制作等業(yè)務(wù)。10年已為成武眾多企業(yè)、政府機(jī)構(gòu)等服務(wù)。創(chuàng)新互聯(lián)專業(yè)網(wǎng)站設(shè)計(jì)公司優(yōu)惠進(jìn)行中。
該方法源自 SQL 中的表連接思想并擴(kuò)展到在 Python 環(huán)境中連接表,該方法基于一列或多列中的匹配值合并兩個(gè) Pandas DataFrame。
如下圖所示:
連接表的圖解概述
Merge()方法的直觀特性使其成為Pandas用戶合并數(shù)據(jù)框的理想選擇。
但是,在運(yùn)行時(shí)方面,Pandas 中有一個(gè)相對更好的替代方法,甚至已經(jīng)超過該 merge()方法了。
合并表的方法
方法一:使用merge()
如上所述,在 Pandas 中合并 DataFrame 的傳統(tǒng)和最常見的方法是使用該merge()方法。
df = pd.merge(df1, df2,
how = "left",
left_on = "df1_col_name",
right_on = "df2_col_name")
如上面的代碼塊所示,該方法接受兩個(gè)DataFrames, df1和df2。
此外,我們使用 how? 參數(shù)指定我們希望執(zhí)行的連接類型(在上面的例子中是 left)。
最后,我們用left_on?參數(shù)指定要考慮與第一個(gè)DataFrame(df1) 的值匹配的列,用right_on參數(shù)指定與第二個(gè)DataFrame(df2)的值匹配的列。
方法二:使用 join()
Join()? 方法在目標(biāo)上與 Pandas 中的 merge() 方法相似,但在實(shí)現(xiàn)上有一些區(qū)別。
Join()?方法在df2和df1的索引上執(zhí)行查找。然而,merge()方法主要用于使用列中的條目進(jìn)行連接。
Join()?方法默認(rèn)執(zhí)行的是左鍵連接。而merge()方法在其默認(rèn)行為中采用了內(nèi)聯(lián)接。
連接索引值的表
下面的代碼塊演示了該join()方法。
df = df1.join(df2, how = "inner")
如上所述,join()方法執(zhí)行了一個(gè)索引查詢來連接兩個(gè)DataFrame。也就是說,對應(yīng)于相同索引值的行被合并。
因此,在使用join()?方法時(shí),你應(yīng)該首先設(shè)置你希望執(zhí)行join的列作為DataFrame的索引,然后再調(diào)用join()方法。
df1.set_index("df1_col_name", inplace = True)
df2.set_index("df2_col_name", inplace = True)
df = df1.join(df2, how = "inner")實(shí)驗(yàn)驗(yàn)證
為了評估 Pandas 中 merge()? 方法的運(yùn)行時(shí)性能,我們將把它與 join() 方法進(jìn)行比較。
具體來說,我們將創(chuàng)建兩個(gè)假的DataFrames,并使用 merge() ?和 join() 這兩種方法進(jìn)行連接。
本實(shí)驗(yàn)的實(shí)現(xiàn)如下。
首先,我們將整數(shù)的值設(shè)置為(-high, +high)?。我們將比較兩種方法在不同大小的DataFrame上的表現(xiàn),行數(shù)為 rows_list?,列數(shù)為 n_columns。最后,我們將重復(fù)運(yùn)行每個(gè)實(shí)驗(yàn)。
high = 10000
rows_list = [(i+1)*1_000_000 for i in range(10)]
n_columns = 5
repeat = 5
該create_df 方法接受一系列參數(shù)并返回一個(gè)隨機(jī)數(shù)據(jù)框。
def create_df(n_rows, n_columns, col_names):
data = np.random.randint(low = -high, high = high, size = (n_rows, n_columns))
return pd.DataFrame(data, columns = col_names)
在下面的代碼中,我們測量了merge()? 方法和 join()? 方法在同一個(gè)DataFrame df1? 和 df2 上的運(yùn)行時(shí)間。
result = []
for n_rows in rows_list:
sum_time_merge1 = 0
sum_time_merge2 = 0
for _ in range(repeat):
df1 = create_df(n_rows, n_columns, [f"col_{i}" for i in range(n_columns)])
df2 = create_df(n_rows, n_columns, [f"Col_{i}" for i in range(n_columns)])
## Method 1
start = time()
df = pd.merge(df1, df2, how = "left", left_on = "col_0", right_notallow="Col_0")
sum_time_merge1 += (time()-start)
## Method 2
start = time()
df1.set_index("col_0", inplace = True)
df2.set_index("Col_0", inplace = True)
df = df1.join(df2)
sum_time_merge2 += (time()-start)
result.append([df1.shape[0], sum_time_merge1/repeat, sum_time_merge2/repeat])
注意,要使用join()方法,你應(yīng)該首先將列作為DataFrame的索引。
結(jié)果
Join vs Merge 方法的實(shí)驗(yàn)結(jié)果
藍(lán)色線圖描述了merge()?方法的運(yùn)行時(shí)間,黃色線圖表示join()方法的運(yùn)行時(shí)間。
我們將行數(shù)從 100 萬變化到 1000 萬,注意到兩種方法的運(yùn)行時(shí)間都與行數(shù)呈正相關(guān)。
然而,與傳統(tǒng)的merge()?方法相比,join()方法的運(yùn)行時(shí)間有明顯的改善。
隨著行數(shù)的增加,兩種方法的運(yùn)行時(shí)間的差異也在增加。這表明你應(yīng)該始終使用join()方法來合并DataFrames,特別是在較大的數(shù)據(jù)集的情況下。
寫在最后
最后,在這篇文章中,我們比較了Pandas的merge()?和join()方法在一個(gè)假的DataFrame上的性能。
實(shí)驗(yàn)結(jié)果表明,使用join()?方法在索引列上進(jìn)行合并,在運(yùn)行時(shí)間上比merge()方法高效——提供了高達(dá)4到5倍的性能提升。
名稱欄目:再見!不再使用Pandas中的Merge方法
網(wǎng)站鏈接:http://www.dlmjj.cn/article/dhojdii.html


咨詢
建站咨詢
