Hadoop單機模式安裝方法深入剖析
本節和大家一起學習一下Hadoop單機模式安裝方法,Hadoop單機模式安裝主要有九個步驟,相信通過本節的介紹大家對Hadoop的安裝方法有進一步的了解,讓我們一起來學習Hadoop單機模式吧。
Hadoop單機模式安裝
實驗平臺:Ubuntu9.04,Hadoop0.20,JDK1.6
step1.ssh的安裝設置
由于Hadoop用ssh通信,因此先進行免密碼登錄設定,
$apt-getinstallssh
$ssh-keygen-trsa-P''-f~/.ssh/id_rsa
$cat~/.ssh/id_rsa.pub>>~/.ssh/authorized_keys
$sshlocalhost
完成后請登入確認不用輸入密碼,(第一次登入需按enter鍵,第二次就可以直接登入到系統。
~$sshlocalhost
~$exit
~$sshlocalhost
~$exit
step2.安裝java
由于SunJavaRuntime是執行Hadoop必備的工具,因此我們需要安裝JRE或JDK。這里我們直接安裝JDK,因為后面寫程序仍舊需要用到JDK所提供的編譯程序。目前Ubuntu9.04提供的JDK套件最新版本為SunJava(TM)DevelopmentKit(JDK)6,套件名稱為sun-java6-jdk。并建議刪除原本的「gcj」。
~$sudoapt-getpurgejava-gcj-compat
~$sudoapt-getinstallsun-java6-binsun-java6-jdksun-java6-jre
step3.下載安裝Hadoop
?Hadoop單機模式時請至下載Hadoop0.20,并解開壓縮文件到/opt路徑。
?$tarzxvfhadoop-0.20.0.tar.gz
?$sudomvhadoop-0.20.0/opt/
?$sudochown-Rhadoop:hadoop/opt/hadoop-0.20.0
?$sudoln-sf/opt/hadoop-0.20.0/opt/hadoop
step4.設定hadoop-env.sh
?進入hadoop目錄,做進一步的設定。我們需要修改兩個檔案,第一個是hadoop-env.sh,需要設定JAVA_HOME,HADOOP_HOME,PATH三個環境變量。
/opt$cdhadoop/
/opt/hadoop$cat>>conf/hadoop-env.sh<<EOF
貼上以下信息
exportJAVA_HOME=/usr/lib/jvm/java-6-sun
exportHADOOP_HOME=/opt/hadoop
exportPATH=$PATH:/opt/hadoop/bin
EOF
step5.設定hadoop配置文件
- ?編輯/opt/hadoop/conf/core-site.xml
- <configuration>
- <property>
- <name>fs.default.name</name>
- <value>hdfs://localhost:9000</value>
- </property>
- <property>
- <name>hadoop.tmp.dir</name>
- <value>/tmp/hadoop/hadoop-${user.name}</value>
- </property>
- </configuration>
- ?編輯/opt/hadoop/conf/hdfs-site.xml
- <configuration>
- <property>
- <name>dfs.replication</name>
- <value>1</value>
- </property>
- </configuration>
- ?編輯/opt/hadoop/conf/mapred-site.xml
- <configuration>
- <property>
- <name>mapred.job.tracker</name>
- <value>localhost:9001</value>
- </property>
- </configuration>
step6.格式化HDFS
?Hadoop單機模式安裝過程中需要格式化HDFS。以上我們已經設定好Hadoop單機測試的環境,接著讓我們來啟動Hadoop相關服務,格式化namenode,secondarynamenode,tasktracker
?$cd/opt/hadoop
?$source/opt/hadoop/conf/hadoop-env.sh
?$hadoopnamenode-format
step7.啟動Hadoop
?接著用start-all.sh來啟動所有服務,包含namenode,datanode,
/opt/hadoop$bin/start-all.sh
執行畫面如:
startingnamenode,loggingto/opt/hadoop/logs/hadoop-hadooper-namenode-vPro.out
localhost:startingdatanode,loggingto/opt/hadoop/logs/hadoop-hadooper-datanode-vPro.out
localhost:startingsecondarynamenode,loggingto/opt/hadoop/logs/hadoop-hadooper-secondarynamenode-vPro.out
startingjobtracker,loggingto/opt/hadoop/logs/hadoop-hadooper-jobtracker-vPro.out
step8.安裝完畢測試
?啟動之后,可以檢查以下網址,來觀看服務是否正常。Hadoop管理接口HadoopTaskTracker狀態HadoopDFS狀態
?http://localhost:50030/-Hadoop管理接口
注:已安裝測試成功,參考修改于http://trac.nchc.org.tw/cloud/wiki/Hadoop_Lab1,感謝NCHC。本節關于Hadoop單機模式安裝介紹到這里。
【編輯推薦】