成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

重新認(rèn)識Mesos的設(shè)計架構(gòu)

開發(fā) 架構(gòu)
Mesos中包含四類主要的服務(wù)(實際上是一個socket server),它們分別是Mesos Master,Mesos Slave,SchedulerProcess和ExecutorProcess,它們之間通過Protocal Buffer消息進(jìn)行通信,每種服務(wù)內(nèi)部注冊了若干種Protocal Buffer消息處理器,一旦收到某種消息,則會調(diào)用相應(yīng)的消息處理器進(jìn)行處理。

Mesos中包含四類主要的服務(wù)(實際上是一個socket server),它們分別是Mesos Master,Mesos Slave,SchedulerProcess和ExecutorProcess,它們之間通過Protocal Buffer消息進(jìn)行通信,每種服務(wù)內(nèi)部注冊了若干種Protocal Buffer消息處理器,一旦收到某種消息,則會調(diào)用相應(yīng)的消息處理器進(jìn)行處理。除了以上四種服務(wù)之外,Mesos還對外提供了三種可編程組件,分別是 Alloctor、Framework Scheduler和Framework Executor,編寫這幾個組件必須按照要求實現(xiàn)了幾個接口,而這些接口將分別被下圖中相鄰的服務(wù)調(diào)用。

大部分人看到以上Mesos架構(gòu)后,均會認(rèn)為Framework必須是一個通用的框架,比如MapReduce、Storm、Spark等,而 Mesos Master負(fù)責(zé)將資源分配給各個框架,而各個框架的Scheduler進(jìn)一步將資源分配給其內(nèi)部的各個應(yīng)用程序。這種觀念是錯誤的,是對Mesos架構(gòu) 的一種錯誤解讀。

事實上,F(xiàn)ramework不僅可以是通用的框架,也可以是像Hadoop的Job或者YARN的Application那樣的簡單計算任務(wù),也就 是說,F(xiàn)ramework并需要一定是一個“Framework”,或者一個長時間運行的服務(wù)(比如JobTracker等),也可以是一個短生命周期的 Job或者Application。如果讓Framework對應(yīng)一個Hadoop Job,則可以這樣設(shè)計Framework Scheduler和Framework Executor:

(1)Framework Scheduler功能

Framework Scheduler負(fù)責(zé)按照作業(yè)的輸入數(shù)據(jù)量,將之分解成若干任務(wù),并為這些任務(wù)申請資源、監(jiān)控這些任務(wù)的運行狀態(tài),一旦發(fā)現(xiàn)某個任務(wù)運行失敗則重新為之申請資源。

(2)Framework Executor功能

為一個節(jié)點上的Map Task或者Reduce Task準(zhǔn)備運行環(huán)境,包括準(zhǔn)備各種jar包、二進(jìn)制文件,設(shè)置必要的環(huán)境變量,進(jìn)行必要的資源隔離,啟動Jetty Shuffle以為Reduce Task提供遠(yuǎn)程數(shù)據(jù)拷貝服務(wù)等,接收來自Framework Scheduler的命令(啟動任務(wù)、殺死任務(wù)等),并執(zhí)行。

通過上面的介紹可以知道,F(xiàn)ramework Scheduler只負(fù)責(zé)運行一個Hadoop Job,而如果你對YARN比較熟悉,便會發(fā)現(xiàn)者正是YARN中的MapReduce ApplicationMaster做的事情,沒錯,Mesos與YARN的設(shè)計架構(gòu)如此的相近,以至于我們很容易通過修改YARN 的任何一個ApplicationMaster,讓它作為一個Framework Scheduler運行在Mesos中。

最近Mesos提供了一個mesos-submit工具(https://github.com/apache/mesos/blob/trunk/docs/Using-the-mesos-submit-tool.md,注意,該工具尚不完善),該工具可以讓用戶的Framework Scheduler運行在任何一個Mesos Slave上,以防止客戶端運行過多的Framework Scheduler,這樣,Mesos的整個架構(gòu)和工作流程已經(jīng)變得與YARN相差無幾了。

為了讓大家更容易理解Mesos和YARN在架構(gòu)上的相似性,下面給出了Mesos和YARN的組件對應(yīng)表:

Mesos中的組件 YARN中的組件 功能
Mesos Master Resource Manager 整個集群的資源管理和調(diào)度
Mesos Slave Node Manager 單個節(jié)點的資源管理(資源隔離、匯報等)、任務(wù)啟動等
Framework Executor
Framework Scheduler ApplicationMaster 單個應(yīng)用程序的管理和資源二次調(diào)度,基本操作均包括注冊、資源申請/獲取、資源分配(給內(nèi)部的任務(wù))等。

既然Mesos和YARN如此的相近,那么我們到底應(yīng)該使用哪一個呢?或者說,哪一個系統(tǒng)更有前景?

就目前看來,YARN在以下幾個方面存在明顯優(yōu)勢:(1)人力投入大。目前YARN有專門的公司(hortonwork)維護(hù)和開發(fā) (2)知名度高。YARN之前從Hadoop 1.0中演化而來,繼承了Hadoop的知名度,且有大量公司和開發(fā)人員共享patch。然而,Mesos***優(yōu)點的設(shè)計簡單、容易上手使用,它不像 YARN那樣,一個資源的分配過程要涉及到若干個狀態(tài)機,且每種狀態(tài)機十幾種狀態(tài),十幾種事件。但穩(wěn)定性看,兩個系統(tǒng)都處于研發(fā)和測試階段,離穩(wěn)定可用還 有一段距離。

 原文鏈接:http://dongxicheng.org/category/apache-mesos/

責(zé)任編輯:陳四芳 來源: dongxicheng.org
相關(guān)推薦

2019-02-24 21:27:26

物聯(lián)網(wǎng)網(wǎng)關(guān)物聯(lián)網(wǎng)IOT

2012-06-26 11:11:44

架構(gòu)師

2021-04-22 21:15:38

Generator函數(shù)生成器

2021-11-11 05:00:02

JavaMmap內(nèi)存

2016-11-07 11:34:28

數(shù)據(jù)可視化大數(shù)據(jù)

2016-12-13 15:41:40

JavaHashMap

2019-10-31 13:40:52

JavaPHP編程語言

2017-01-03 17:22:16

公共云安全

2019-09-02 08:53:46

程序員

2020-09-17 07:08:04

TypescriptVue3前端

2010-02-25 09:57:35

2015-03-19 10:15:54

程序員價值程序員價值

2012-01-11 09:12:25

程序員

2009-11-26 16:57:09

Cisco路由器ARP

2014-06-16 10:02:42

SwiftiOSWWDC

2023-05-03 09:09:28

Golang數(shù)組

2022-03-04 09:28:29

代碼訪問者模式軟件開發(fā)

2022-09-08 13:58:39

Spring高并發(fā)異步

2019-01-18 13:32:16

2022-10-09 11:46:55

機器人人工智能
點贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 日韩在线免费 | 国产精品一区二区三区在线播放 | 亚洲视频在线免费观看 | 九九导航 | 日韩黄色小视频 | 国产欧美一区二区三区另类精品 | 国产免费又色又爽又黄在线观看 | 国产精品无码专区在线观看 | 久操国产 | 午夜国产一级 | 91国在线视频 | 欧美日韩视频一区二区 | 日韩中文字幕一区 | 久久99精品国产自在现线小黄鸭 | 一区在线视频 | 亚洲国产黄色av | 精精国产xxxx视频在线播放 | 国产精品国产成人国产三级 | 在线观看www | 国产精品日韩高清伦字幕搜索 | 久久久五月天 | 国产视频久久 | 婷婷99 | 久草精品视频 | 中文字幕日韩在线 | 国产一区二区免费在线 | 国产精品视频一区二区三区四蜜臂 | 亚洲国产成人精品女人久久久 | 成人国产精品入口免费视频 | 亚洲一区二区精品视频 | 午夜在线视频一区二区三区 | 亚洲美乳中文字幕 | 午夜小视频在线观看 | 一级毛片免费看 | 国产一级片 | 在线观看视频一区二区三区 | 国产日韩一区二区三免费 | 国产在线观看一区二区三区 | 亚洲欧美中文日韩在线v日本 | 亚洲精品v| 色天天综合 |