成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Hadoop 2.0基本術語解釋

大數據 Hadoop
在閱讀Hadoop 2.0的相關資料時,很多人將一些概念混淆了,本文將對Hadoop 2.0涉及到的術語進行比較全面的介紹。

(1) Hadoop 1.0

第一代Hadoop,由分布式存儲系統HDFS和分布式計算框架MapReduce組成,其中,HDFS由一個NameNode和多個DataNode組成,MapReduce由一個JobTracker和多個TaskTracker組成,對應Hadoop版本為Hadoop 1.x和0.21.X,0.22.x。

(2) Hadoop 2.0

第二代Hadoop,為克服Hadoop 1.0中HDFS和MapReduce存在的各種問題而提出的。針對Hadoop 1.0中的單NameNode制約HDFS的擴展性問題,提出了HDFS Federation,它讓多個NameNode分管不同的目錄進而實現訪問隔離和橫向擴展;針對Hadoop 1.0中的MapReduce在擴展性和多框架支持方面的不足,提出了全新的資源管理框架YARN(Yet Another Resource Negotiator),它將JobTracker中的資源管理和作業控制功能分開,分別由組件ResourceManager和ApplicationMaster實現,其中,ResourceManager負責所有應用程序的資源分配,而ApplicationMaster僅負責管理一個應用程序。對應Hadoop版本為Hadoop 0.23.x和2.x。

(3) MapReduce 1.0或者MRv1(MapReduce version 1)

第一代MapReduce計算框架,它由兩部分組成:編程模型(programming model)和運行時環境(runtime environment)。它的基本編程模型是將問題抽象成Map和Reduce兩個階段,其中Map階段將輸入數據解析成key/value,迭代調用map()函數處理后,再以key/value的形式輸出到本地目錄,而Reduce階段則將key相同的value進行規約處理,并將最終結果寫到HDFS上。它的運行時環境由兩類服務組成:JobTracker和TaskTracker,其中,JobTracker負責資源管理和所有作業的控制,而TaskTracker負責接收來自JobTracker的命令并執行它。

(4)MRv2(MapReduce version 2)

MapReduce 2.0或者MRv2具有與MRv1相同的編程模型,唯一不同的是運行時環境。MRv2是在MRv1基礎上經加工之后,運行于資源管理框架YARN之上的MRv1,它不再由JobTracker和TaskTracker組成,而是變為一個作業控制進程ApplicationMaster,且ApplicationMaster僅負責一個作業的管理,至于資源的管理,則由YARN完成。

簡而言之,MRv1是一個獨立的離線計算框架,而MRv2則是運行于YARN之上的MRv1。

(5) MapReduce 2.0或者YARN或者NextGen MapReduce

Hadoop 2.0中的資源管理框架,它是一個框架管理器,為各種框架進行資源分配和提供運行時環境。而MRv2則是運行在YARN之上的第一個計算框架,其他計算框架,比如Spark、Storm等,都正在往YARN上移植。YARN類似于幾年前的資源管理系統mesos和更早的Torque。

(6) HDFS Federation

Hadoop 2.0中對HDFS進行了改進,使NameNode可以橫向擴展成多個,其中,每個NameNode分管一部分目錄,這不僅增強了HDFS的擴展性,也使HDFS具備了隔離性。

【參考資料】

Cloudera blog:http://blog.cloudera.com/blog/2012/10/mr2-and-yarn-briefly-explained/

原文鏈接:http://dongxicheng.org/mapreduce-nextgen/hadoop-2-0-terms-explained/

【編輯推薦】

  1. 小白學數據分析:怎么做流失分析
  2. 小白學數據分析之K-means理論篇
  3. 小白學數據分析之從購買記錄分析道具支付環節
  4. 小白學數據分析之付費滲透率
  5. 小白學數據分析之Excel制作INFOGRAPHIC
責任編輯:彭凡 來源: 董的博客
相關推薦

2021-01-27 05:44:00

Consul術語命令

2011-10-10 14:30:22

刷機刷系統手機

2011-02-22 13:17:44

2010-06-07 13:02:46

Hadoop簡介

2018-11-01 08:58:28

物聯網術語IOT

2019-06-19 09:00:00

GitLinux開源

2010-09-13 13:27:25

CSS濾鏡

2014-02-12 14:12:29

2022-01-06 09:41:45

區塊鏈比特幣技術

2012-05-28 09:23:40

JavaHadoopApache

2009-06-12 08:54:22

EJB術語J2EE

2011-04-14 11:28:07

光纖

2012-03-19 10:41:15

JavaSocket

2009-02-04 09:11:52

Web2.0術語FTW

2017-03-22 20:21:16

Hadoop框架分布式

2009-04-14 09:35:33

.NETCLR術語

2020-05-13 16:54:05

JavaScript開發代碼

2013-05-28 09:12:59

Hadoop 2.0

2013-05-27 14:31:34

Hadoop 2.0

2023-09-14 07:07:31

敏感性專業術語視覺
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 欧美精品一二三 | 亚洲精品在线免费 | 国产一区影院 | 久久99精品久久久久久 | 亚洲精品一区二区 | 国产精品久久久久久久久免费樱桃 | 国产视频一视频二 | 国产aⅴ爽av久久久久久久 | 91精品国产色综合久久 | 美女在线视频一区二区三区 | 亚洲一区二区中文字幕在线观看 | 国产福利视频网站 | 日韩欧美不卡 | 亚洲协和影视 | 久久久久久久久久久久亚洲 | 久草青青草 | 亚洲精品久久久蜜桃 | 中文在线一区 | 欧美一区二区在线免费观看 | 国产一区不卡 | 毛片av免费在线观看 | 国产精品不卡 | 亚洲精品视频免费观看 | 久久久久精| 伊人久麻豆社区 | 黄色片在线看 | 激情欧美日韩一区二区 | 狠狠av| 欧美一区视频在线 | 国产一区二区精品在线 | 免费看91| 亚洲午夜精品一区二区三区 | 精品久久一区 | 青青草社区 | 亚洲午夜视频在线观看 | 欧美在线二区 | 日韩av免费在线观看 | 欧美激情一区二区三区 | 亚洲va中文字幕 | 国产91丝袜在线播放 | 91原创视频在线观看 |