建站
咨詢
售后
建站咨詢
新聞中心
Hadoop和Spark兩者都是大數(shù)據(jù)框架，但是各自存在的目的不盡相同，Hadoop和Spark都是并行計算，兩者都是用MR模型進行計算，下面為大家詳細講解一下Hadoop和Spark異同。
創(chuàng)新互聯(lián)是一家專注于成都網(wǎng)站設計、做網(wǎng)站與策劃設計,銀海網(wǎng)站建設哪家好?創(chuàng)新互聯(lián)做網(wǎng)站,專注于網(wǎng)站建設十余年,網(wǎng)設計領(lǐng)域的專業(yè)建站公司;建站業(yè)務涵蓋:銀海等地區(qū)。銀海做網(wǎng)站價格咨詢:18980820575
解決問題的層面不一樣
首先，Hadoop和Apache Spark兩者都是大數(shù)據(jù)框架，但是各自存在的目的不盡相同。Hadoop實質(zhì)上更多是一個分布式數(shù)據(jù)基礎(chǔ)設施: 它將巨大的數(shù)據(jù)集分派到一個由普通計算機組成的集群中的多個節(jié)點進行存儲，意味著您不需要購買和維護昂貴的服務器硬件，Hadoop還會索引和跟蹤這些數(shù)據(jù)，讓大數(shù)據(jù)處理和分析效率達到前所未有的高度；Spark，則是那么一個專門用來對那些分布式存儲的大數(shù)據(jù)進行處理的工具，它并不會進行分布式數(shù)據(jù)的存儲。
兩者可合可分
Hadoop除了提供了一個為大家所共識的HDFS分布式數(shù)據(jù)存儲功能之外，還提供了叫做MapReduce的數(shù)據(jù)處理功能，所以我們完全可以拋開Spark，使用Hadoop自身的MapReduce來完成數(shù)據(jù)的處理；Spark也不是非要依附在Hadoop身上才能生存，但如上所述，畢竟它沒有提供文件管理系統(tǒng)，所以它必須和其他的分布式文件系統(tǒng)進行集成才能運作，這里我們可以選擇Hadoop的HDFS,也可以選擇其他的基于云的數(shù)據(jù)系統(tǒng)平臺，但Spark默認來說還是被用在Hadoop上面的，畢竟大家都認為它們的結(jié)合是最好的。
Spark數(shù)據(jù)處理速度秒殺MapReduce
Spark因為其處理數(shù)據(jù)的方式不一樣，會比MapReduce快上很多，MapReduce是分步對數(shù)據(jù)進行處理的: “從集群中讀取數(shù)據(jù)，進行一次處理，將結(jié)果寫到集群，從集群中讀取更新后的數(shù)據(jù)，進行下一次的處理，將結(jié)果寫到集群，等等” Booz Allen Hamilton的數(shù)據(jù)科學家Kirk Borne如此解析；反觀Spark，它會在內(nèi)存中以接近“實時”的時間完成所有的數(shù)據(jù)分析：“從集群中讀取數(shù)據(jù)，完成所有必須的分析處理，將結(jié)果寫回集群，最終完成” ，Spark的批處理速度比MapReduce快近10倍，內(nèi)存中的數(shù)據(jù)分析速度則快近100倍，如果需要處理的數(shù)據(jù)和結(jié)果需求大部分情況下是靜態(tài)的，且你也有耐心等待批處理的完成的話，MapReduce的處理方式也是完全可以接受的，但如果你需要對流數(shù)據(jù)進行分析，比如那些來自于工廠的傳感器收集回來的數(shù)據(jù)，又或者說你的應用是需要多重數(shù)據(jù)處理的，那么你也許更應該使用Spark進行處理，大部分機器學習算法都是需要多重數(shù)據(jù)處理的，此外，通常會用到Spark的應用場景有以下方面：實時的市場活動，在線產(chǎn)品推薦，網(wǎng)絡安全分析，機器日記監(jiān)控等。
災難恢復
兩者的災難恢復方式迥異，但是都很不錯。因為Hadoop將每次處理后的數(shù)據(jù)都寫入到磁盤上，所以其天生就能很有彈性的對系統(tǒng)錯誤進行處理;Spark的數(shù)據(jù)對象存儲在分布于數(shù)據(jù)集群中的叫做彈性分布式數(shù)據(jù)集(RDD: Resilient Distributed Dataset)中,這些數(shù)據(jù)對象既可以放在內(nèi)存，也可以放在磁盤，所以RDD同樣也可以提供完成的災難恢復功能。
網(wǎng)站名稱：簡單介紹一下Hadoop和Spark異同
本文URL：http://www.dlmjj.cn/article/ccsogic.html
