日本综合一区二区|亚洲中文天堂综合|日韩欧美自拍一区|男女精品天堂一区|欧美自拍第6页亚洲成人精品一区|亚洲黄色天堂一区二区成人|超碰91偷拍第一页|日韩av夜夜嗨中文字幕|久久蜜综合视频官网|精美人妻一区二区三区

RELATEED CONSULTING
相關(guān)咨詢
選擇下列產(chǎn)品馬上在線溝通
服務(wù)時間:8:30-17:00
你可能遇到了下面的問題
關(guān)閉右側(cè)工具欄

新聞中心

這里有您想知道的互聯(lián)網(wǎng)營銷解決方案
Ubuntu系統(tǒng)搭建單機(jī)Spark注意事項

對于Spark而言,如果大家只是想摸一下、熟悉熟悉而已,可以搭建單機(jī)的Spark,大致步驟如下(我使用VMWare下的ubuntu 14.04,暫不考慮安全問題,在root下運行):

創(chuàng)新互聯(lián)建站專注于企業(yè)營銷型網(wǎng)站、網(wǎng)站重做改版、當(dāng)涂網(wǎng)站定制設(shè)計、自適應(yīng)品牌網(wǎng)站建設(shè)、H5場景定制、商城網(wǎng)站建設(shè)、集團(tuán)公司官網(wǎng)建設(shè)、外貿(mào)網(wǎng)站建設(shè)、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁設(shè)計等建站業(yè)務(wù),價格優(yōu)惠性價比高,為當(dāng)涂等各大城市提供網(wǎng)站開發(fā)制作服務(wù)。

1、安裝Ubuntu 14.04,注意裝好后需要禁用防火墻(ufw disable),安裝SSH 服務(wù)器,啟用root用戶

2、下載安裝JDK-1.8、scala 2.11.8(需要和spark的jar版本配合下,這個其實不是很必要,練習(xí)用)、spark、maven(build用,這里的scala版本需要和spark的一致,否則可能出現(xiàn)ClassNotDef異常)

3、在.profile中配置環(huán)境變量,如:

export SPARK_HOME=/root/spark-2.2.0-bin-Hadoop2.7

export SPARK_LOCAL_HOST=192.168.162.132

export SPARK_MASTER_HOST=192.168.162.132

4、啟動spark:

$SPARK_HOME/sbin/start-master.sh

# 在單機(jī)情況下也必須啟動,否則沒有worker

$SPARK_HOME/sbin/start-slave.sh

5、使用maven編譯一個示例程序(當(dāng)然sbt也可以)

6、提交你的測試程序,如下:

$SPARK_HOME/spark-submit --class "類名" --master spark://IP:Port 打包文件名

另外,注意的一點是需要在/etc/hosts和/etc/hostname中正確配置主機(jī)名,否則可能出現(xiàn)IOException


網(wǎng)頁標(biāo)題:Ubuntu系統(tǒng)搭建單機(jī)Spark注意事項
瀏覽路徑:http://www.dlmjj.cn/article/djdsjid.html