新聞中心
這篇文章給大家分享的是有關(guān)如何使用Hadoop存檔工具的內(nèi)容。小編覺得挺實(shí)用的,因此分享給大家做個(gè)參考,一起跟隨小編過來看看吧。
每個(gè)文件按塊方式存儲(chǔ), 每個(gè)塊的元數(shù)據(jù)存儲(chǔ)在namenode的內(nèi)存中
Hadoop存檔文件或HAR文件是一個(gè)更高效的文件存檔工具,它將文件存入HDFS塊,在減少內(nèi)存使用的同時(shí),允許對文件進(jìn)行透明地訪問
Hadoop存檔文件可以用作MapReduce的輸入
使用Hadoop存檔工具
Hadoop存檔是通過archive工具根據(jù)一組文件創(chuàng)建而來的,該存檔工具運(yùn)行一個(gè)MapReduce作業(yè)來并行處理所有的輸入文件
使用archive
hadoop archive -archiveName files.har /my/files /my
第一個(gè)選項(xiàng)是存檔文件的名稱,這里是第一個(gè)參數(shù) file.har
第二個(gè)參數(shù)是需要存檔的文件
第三個(gè)參數(shù)是HAR文件的輸出目錄
列出HAR文件中的文件
hadoop fs -ls /my/files.har
遞歸列出HAR文件中的文件
hadoop fs -lsr /my/files.har
其他文件系統(tǒng)中引用HAR文件,則需要使用不同的URI路徑格式,示例如下
hadoop fs -lsr 不足 新建一個(gè)存檔文件會(huì)創(chuàng)建原始文件的一個(gè)副本 一旦創(chuàng)建,不能修改 InputFormat不知道文件已經(jīng)存檔
感謝各位的閱讀!關(guān)于“如何使用Hadoop存檔工具”這篇文章就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,讓大家可以學(xué)到更多知識,如果覺得文章不錯(cuò),可以把它分享出去讓更多的人看到吧!
當(dāng)前標(biāo)題:如何使用Hadoop存檔工具-創(chuàng)新互聯(lián)
轉(zhuǎn)載注明:http://www.dlmjj.cn/article/jched.html