亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 服務器 > Linux服務器 > 正文

Linux中安裝配置hadoop集群詳細步驟

2024-09-05 23:03:42
字體:
來源:轉載
供稿:網友

一. 簡介

參考了網上許多教程,最終把hadoop在ubuntu14.04中安裝配置成功。下面就把詳細的安裝步驟敘述一下。我所使用的環境:兩臺ubuntu 14.04 64位的臺式機,hadoop選擇2.7.1版本。(前邊主要介紹單機版的配置,集群版是在單機版的基礎上,主要是配置文件有所不同,后邊會有詳細說明)

二. 準備工作

2.1 創建用戶

創建用戶,并為其添加root權限,經過親自驗證下面這種方法比較好。

 sudo adduser hadoop sudo vim /etc/sudoers # 修改內容如下: root ALL = (ALL)ALLhadoop ALL = (ALL)ALL

給hadoop用戶創建目錄,并添加到sudo用戶組中,命令如下:

 sudo chown hadoop /home/hadoop # 添加到sudo用戶組 sudo adduser hadoop sudo

最后注銷當前用戶,使用新創建的hadoop用戶登陸。

2.2 安裝ssh服務

ubuntu中默認是沒有裝ssh server的(只有ssh client),所以先運行以下命令安裝openssh-server。安裝過程輕松加愉快~

sudo apt-get install ssh openssh-server

2.3 配置ssh無密碼登陸

直接上代碼:執行完下邊的代碼就可以直接登陸了(可以運行ssh localhost進行驗證)

cd ~/.ssh  # 如果找不到這個文件夾,先執行一下 "ssh localhost" ssh-keygen -t rsa cp id_rsa.pub authorized_keys

注意:

這里實現的是無密登陸自己,只適用與hadoop單機環境。如果配置Hadoop集群設置Master與Slave的SSH無密登陸可以參考我的另一篇博文.

 三. 安裝過程

3.1 下載hadoop安裝包

有兩種下載方式:

1. 直接去官網下載:

http://mirrors.hust.edu.cn/apache/hadoop/core/stable/hadoop-2.7.1.tar.gz

2. 使用wget命令下載:

 

復制代碼 代碼如下:

wget http://mirrors.hust.edu.cn/apache/hadoop/core/stable/hadoop-2.7.1.tar.gz

 

3.2 配置hadoop

1. 解壓下載的hadoop安裝包,并修改配置文件。我的解壓目錄是(/home/hadoop/hadoop-2.7.1),即進入/home/hadoop/文件夾下執行下面的解壓縮命令。

tar -zxvf hadoop-2.7.1.tar.gz

2. 修改配置文件:(hadoop2.7.1/etc/hadoop/)目錄下,hadoop-env.sh,core-site.xml,mapred-site.xml.template,hdfs-site.xml。

(1). core-site.xml 配置:其中的hadoop.tmp.dir的路徑可以根據自己的習慣進行設置。

<configuration><property><name>hadoop.tmp.dir</name><value>file:/home/hadoop/hadoop/tmp</value><description>Abase for other temporary directories.</description></property><property><name>fs.defaultFS</name><value>hdfs://localhost:9000</value></property></configuration>

(2). mapred-site.xml.template配置:

<configuration><property><name>mapred.job.tracker</name><value>localhost:9001</value></property></configuration>

(3). hdfs-site.xml配置: 其中dfs.namenode.name.dir和dfs.datanode.data.dir的路徑可以自由設置,最好在hadoop.tmp.dir的目錄下面。

注意:如果運行Hadoop的時候發現找不到jdk,可以直接將jdk的路徑放置在hadoop-env.sh里面,具體如下:

export JAVA_HOME="/opt/java_file/jdk1.7.0_79",即安裝java時的路徑。

<configuration><property><name>dfs.replication</name><value>1</value></property><property><name>dfs.namenode.name.dir</name><value>file:/home/hadoop/hadoop/tmp/dfs/name</value></property><property><name>dfs.datanode.data.dir</name><value>file:/home/hadoop/hadoop/tmp/dfs/data</value></property></configuration>

配置完成后運行hadoop。

四. 運行hadoop

4.1 初始化HDFS系統

在hadop2.7.1目錄下執行命令:

bin/hdfs namenode -format

出現如下結果說明初始化成功。

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

4.2 開啟 NameNode 和 DataNode 守護進程

在hadop2.7.1目錄下執行命令:

sbin/start-dfs.sh

成功的截圖如下:

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

4.3 使用jps命令查看進程信息:

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

若出現如圖所示結果,則說明DataNode和NameNode都已經開啟。

4.4 查看web界面

在瀏覽器中輸入 http://localhost:50070 ,即可查看相關信息,截圖如下

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

至此,hadoop的環境就已經搭建好了。

 五. 運行wordcount demo

1.  在本地新建一個文件,里面內容隨便填:例如我在home/hadoop目錄下新建了一個haha.txt文件,里面的內容為" hello world! "。

2. 然后在分布式文件系統(hdfs)中新建一個test文件夾,用于上傳我們的測試文件haha.txt。在hadoop-2.7.1目錄下運行命令:

# 在hdfs的根目錄下建立了一個test目錄bin/hdfs dfs -mkdir /test# 查看HDFS根目錄下的目錄結構bin/hdfs dfs -ls /

結果如下:

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

3. 將本地haha.txt文件上傳到test目錄中;

# 上傳bin/hdfs dfs -put /home/hadoop/haha.txt /test/# 查看bin/hdfs dfs -ls /test/

結果如下:

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

4. 運行wordcount demo;

# 將運行結果保存在/test/out目錄下bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar wordcount /test/haha.txt /test/out# 查看/test/out目錄下的文件bin/hdfs dfs -ls /test/out

結果如下:

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

運行結果表示:運行成功,結果保存在part-r-00000中。

5. 查看運行結果;

# 查看part-r-00000中的運行結果bin/hadoop fs -cat /test/out/part-r-00000

結果如下:

linux,hadoop安裝配置,搭建hadoop集群,hadoop集群配置

至此,wordcount demo 運行結束。

六. 總結

配置過程遇到了很多問題,最后都一一解決,收獲很多,特此把這次配置的經驗分享出來,方便想要配置hadoop環境的各位朋友~

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持VEVB武林網。


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
欧美有码在线观看视频| 国产精品96久久久久久又黄又硬| 欧美大胆在线视频| 亚洲午夜精品久久久久久久久久久久| 91精品啪在线观看麻豆免费| 日韩av在线免费| 欧美在线欧美在线| 色综合久久久久久中文网| 91精品国产99| 亚洲激情在线观看视频免费| 欧美成人免费小视频| 亚洲福利影片在线| 亚洲bt欧美bt日本bt| 国产精品成人免费视频| 午夜精品久久久99热福利| 尤物yw午夜国产精品视频明星| 久久久久久久久久久成人| 国产精品视频yy9099| 成人乱色短篇合集| 91成人在线观看国产| 亚洲男人av在线| 国产成人久久精品| 国产91在线播放| 中文字幕视频一区二区在线有码| 国产精品午夜一区二区欲梦| 啊v视频在线一区二区三区| www日韩欧美| 日韩av不卡在线| 欧美一区二区大胆人体摄影专业网站| 91色中文字幕| 日韩在线激情视频| 日韩高清电影免费观看完整| 国产精品极品美女在线观看免费| 亚洲国产欧美久久| 亚洲人成电影网| 国产欧美日韩综合精品| 日韩免费不卡av| 欧美另类69精品久久久久9999| 日韩美女激情视频| 岛国视频午夜一区免费在线观看| 色妞久久福利网| 国产精品一区二区三| 欧美xxxx18国产| 亚洲一级一级97网| 欧美激情精品久久久久久黑人| 久久久女女女女999久久| 一级做a爰片久久毛片美女图片| 一区二区三区黄色| 欧美性猛交xxxx免费看久久久| 黑人与娇小精品av专区| 精品少妇一区二区30p| 亚洲香蕉成视频在线观看| 亚洲日韩第一页| 青青久久av北条麻妃黑人| 日韩成人在线观看| 国产欧美在线视频| 亚洲黄页网在线观看| 欧美午夜视频一区二区| 成人免费网站在线看| 欧美性xxxxx极品娇小| 中文字幕日韩欧美在线视频| 91亚洲精品视频| 国产在线观看一区二区三区| 久久躁狠狠躁夜夜爽| 成人中文字幕+乱码+中文字幕| 青青草国产精品一区二区| 国产精品久久久久免费a∨| 欧美精品在线极品| 日韩精品极品视频| 欧美疯狂xxxx大交乱88av| 国产精品久久久久久久久久久久久| 成人性生交xxxxx网站| 日韩在线视频中文字幕| 亚洲欧美激情四射在线日| 日韩一区av在线| 久久免费国产精品1| 欧美黄网免费在线观看| 91久久在线观看| 欧美老女人性视频| 中文字幕亚洲无线码在线一区| 精品国产视频在线| 日韩www在线| 4438全国成人免费| 国产精品久久久久福利| 日韩经典中文字幕在线观看| 日韩中文字幕在线视频| 热久久美女精品天天吊色| 国产精品福利无圣光在线一区| 国产亚洲精品久久久久久牛牛| 亚洲国产第一页| 精品无人区太爽高潮在线播放| 亚洲精品之草原avav久久| 少妇av一区二区三区| 欧美乱大交xxxxx另类电影| 亚洲天堂开心观看| 国产精品亚洲第一区| 亚洲天堂av高清| 久久亚洲影音av资源网| 精品成人av一区| 欧美性视频精品| 亚洲美女www午夜| 亚洲一区二区三区xxx视频| 欧美激情喷水视频| 亚洲一区二区三区视频| 亚洲欧美一区二区精品久久久| 青青久久av北条麻妃黑人| 欧美日韩国产中文精品字幕自在自线| 亚洲а∨天堂久久精品喷水| 国产91精品视频在线观看| 久久久精品在线观看| 成人黄色中文字幕| 国模视频一区二区三区| 国产精品激情av在线播放| 正在播放亚洲1区| 久久精品国产69国产精品亚洲| 2019中文字幕免费视频| 九九精品在线观看| 亚洲欧美中文日韩v在线观看| 日本一区二区不卡| 日韩精品在线私人| 国产亚洲精品久久久优势| 日韩av在线直播| 久久精品这里热有精品| 亚洲精品久久7777777| 国产精品吹潮在线观看| 欧美一区在线直播| 亚洲电影免费观看高清完整版在线观看| 亚洲欧洲成视频免费观看| 美女啪啪无遮挡免费久久网站| 亚洲精品第一页| 欧美精品久久一区二区| 国产精品久久久久久久久久小说| 97久久久久久| 亚洲精品动漫久久久久| 精品久久香蕉国产线看观看亚洲| 亚洲欧美制服第一页| 国语自产精品视频在线看抢先版图片| 欧美一级大片在线免费观看| 这里只有精品在线播放| 成人中心免费视频| 亚洲一级免费视频| 欧美自拍视频在线| 欧美最猛性xxxxx亚洲精品| 欧美乱人伦中文字幕在线| 色妞色视频一区二区三区四区| 国产精品88a∨| 国产成人精品在线| 91国产在线精品| 日韩精品一二三四区| 51精品在线观看| 亚洲视频专区在线| 伊人激情综合网| 国模精品视频一区二区三区| 萌白酱国产一区二区| 国产大片精品免费永久看nba| 亚洲成人久久网| 色午夜这里只有精品| 久久久国产精品亚洲一区| 成人网在线免费观看| 国产精品视频大全| 欧美精品在线免费观看| 91精品国产91久久久久久吃药| 国产精品久久久| 亚洲自拍偷拍在线|