成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Cloudera實現Hadoop過程中Hadoop設置揭秘

開發 架構 Hadoop
Hadoop這個名詞相信大家應該有所了解,那么關于Hadoop的實現你是否熟悉,這里就向大家介紹一下利用Cloudera 實現Hadoop方面的內容,歡迎大家一起來學習。

本節接著上節介紹Cloudera 實現Hadoop 的方法,本節主要介紹一下對Hadoop的相關設置,相信通過本節的介紹大家對Cloudera 實現Hadoop 方法有一定的了解。

設置主節點的Hadoop

設置JAVA_HOME

Hadoop的JAVA_HOME是在文件/etc/conf/hadoop-env.sh中設置,具體設置如下:
sudo vi /etc/conf/hadoop-env.shexport JAVA_HOME="/usr/lib/jvm/java-6-sun"

Hadoop的核心配置

Hadoop的核心配置文件是/etc/hadoop/conf/core-site.xml,具體配置如下:
<?xml version="1.0"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><configuration><property><name>fs.default.name</name><!--<value>hdfs://localhost:8020</value>--><value>hdfs://hadoop-01:8020</value></property><property><name>hadoop.tmp.dir</name><value>/var/lib/hadoop-0.20/cache/${user.name}</value></property></configuration>

設置Hadoop的分布式存儲環境

Cloudera 實現Hadoop 過程中Hadoop的分布式環境設置主要是通過文件/etc/hadoop/conf/hdfs-site.xml來實現的,具體配置如下:
<?xml version="1.0"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><configuration><property><name>dfs.replication</name><!--<value>1</value>--><value>3</value></property><property><name>dfs.permissions</name><value>false</value></property><property><!-- specify this so that running 'hadoop namenode -format' formats the right dir --><name>dfs.name.dir</name><value>/var/lib/hadoop-0.20/cache/hadoop/dfs/name</value></property></configuration>

設置Hapoop的分布式計算環境

Cloudera 實現Hadoop 過程中Hadoop的分布式計算是采用了Map/Reduce算法,該算法環境的設置主要是通過文件/etc/hadoop/conf/mapred-site.xml來實現的,具體配置如下:
<?xml version="1.0"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><configuration><property><name>mapred.job.tracker</name><!--<value>localhost:8021</value>--><value>hadoop-01:8021</value></property></configuration>

設置Hadoop的主從節點

首先設置主節點,編輯/etc/hadoop/conf/masters文件,如下所示:
hadoop-01然后是設置從節點,編輯/etc/hadoop/conf/slaves文件,如下所示:
hadoop-02hadoop-03hadoop-04firehare-303

設置從節點上的Hadoop

從節點上的Hadoop設置很簡單,只需要將主節點上的Hadoop設置,復制一份到從節點上即可。
scp -r /etc/hadoop/conf hadoop-02:/etc/hadoopscp -r /etc/hadoop/conf hadoop-03:/etc/hadoopscp -r /etc/hadoop/conf hadoop-04:/etc/hadoopscp -r /etc/hadoop/conf firehare-303:/etc/hadoop。Cloudera 實現Hadoop過程中對Hadoop配置完以后需要啟動Hadoop服務。

啟動Hadoop

格式化分布式文件系統
在啟動Hadoop之前還要做***一個準備工作,那就是格式化分布式文件系統,這個只需要在主節點做就行了,具體如下:
/usr/lib/hadoop-0.20/bin/hadoop namenode -format

啟動Hadoop服務

啟動Hadoop可以通過以下命令來實現:
/usr/lib/hadoop-0.20/bin/start-all.sh注意:該命令是沒有加sudo的,如果加了sudo就會提示出錯信息的,因為root用戶并沒有做無驗證ssh設置。以下是輸出信息,注意hadoop-03是故意沒接的,所以出現No route to host信息。 這樣Hadoop就正常啟動了!

測試Hadoop

Hadoop架設好了,接下來就是要對其進行測試,看看它是否能正常工作,如果測試已經成功,這說明Hadoop部署成功,能夠在上面進行Map/Reduce分布性計算了。 本節關于Cloudera 實現Hadoop的相關內容到這里就結束了,謝謝關注。

【編輯推薦】

  1. Cloudera實現Hadoop步驟詳解
  2. Cloudera下實現Hadoop方案規劃
  3. 專家講解 Hadoop:HBASE松散數據存儲設計
  4. 兩種模式運行Hadoop分布式并行程序
  5. Hadoop應用之Hadoop安裝篇
責任編輯:佚名 來源: csdn.net
相關推薦

2010-06-04 16:47:49

實現Hadoop

2010-06-04 16:31:14

實現Hadoop

2014-04-09 10:55:55

Cloudera\Sp

2010-06-04 17:43:12

Hadoop集群搭建

2018-04-08 15:32:47

Hadoop大數據Gartner

2013-07-19 09:43:16

2016-12-30 11:10:32

Hadoop開發JVM

2016-02-01 15:32:03

HadoopCloudera

2011-10-19 09:35:36

Hadoop數據集群

2012-10-29 09:55:52

HadoopImpalaDremel

2010-07-01 14:05:43

SNMPMIB

2010-06-07 10:16:56

Hadoop

2014-10-28 09:56:56

Hadoop

2015-02-05 10:01:11

ClouderaHadoop

2012-11-01 10:01:56

HadoopClouderaImpala

2021-06-02 00:22:04

ClouderaHadoop私有化

2013-05-27 14:19:39

Hadoop

2013-10-18 09:30:04

OSPF協議OSPF

2010-06-03 15:25:31

Hadoop Hdfs

2010-06-03 09:32:01

Hadoop
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 日韩在线播放网址 | 在线播放中文 | 国产欧美日韩精品一区 | 日韩中文字幕一区二区 | 国产欧美精品一区二区色综合 | 亚洲成av人影片在线观看 | 麻豆久久久9性大片 | 久久国产精品一区二区 | 性国产xxxx乳高跟 | 国产特级毛片aaaaaa | 毛片一区二区 | 日韩一区中文字幕 | 午夜男人天堂 | 国产在线视频在线观看 | 国产精品久久久久久久7777 | 国产午夜精品视频 | 日本精品久久 | 欧美视频一区二区三区 | 成人免费视频播放 | 中文字幕欧美在线观看 | 精品一区二区三区四区五区 | 亚洲人成人一区二区在线观看 | av免费网址 | 久久伊人精品 | 午夜性色a√在线视频观看9 | av中文字幕网 | 美女拍拍拍网站 | 一区二区精品电影 | 日日做夜夜爽毛片麻豆 | 日日日干干干 | 久久精品一区 | 亚洲精品欧美精品 | 毛片大全 | 天天夜碰日日摸日日澡 | 日本亚洲欧美 | 在线视频中文字幕 | 91精品在线看 | 日本视频中文字幕 | 欧美男人天堂 | 国产一区 | 一区二区三区四区国产 |