成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Facebook分享:解決Hadoop的單一故障點

譯文
系統 Hadoop
Facebook的工程師們開發出了一種方法,以規避Hadoop數據分析平臺的一個根本缺點:只依賴單單一臺名稱服務器來協調所有運營。Facebook估計,如果可以克服這個缺點,就能將其數據倉庫的停機時間縮短幾乎一半。為了解決這個問題,Facebook開發出了一款名為Avatarnode的軟件:萬一主名稱節點由于某種原因而失效,該軟件就會切換至備用名稱節點。

【51CTO快譯】Facebook的工程師們開發出了一種方法,以規避Hadoop數據分析平臺的一個根本缺點:只依賴單單一臺名稱服務器來協調所有運營。

在本周于加利福尼亞州圣何塞召開的Hadoop峰會上,Facebook工程師Andrew Ryan討論了這種變通方法。他還在Facebook上發布了其演講的摘要內容

Facebook擁有可能是世界上規模最龐大的基于Hadoop分布式文件系統(HDFS)的數據集,總共超過100PB,散布于其諸數據中心的100個不同的集群之間。

盡管Hadoop越來越經常用于大規模數據分析任務,但是用專業的話來說,它存在單一故障點。雖然部署的Hadoop系統可能橫跨數百臺、乃至數千服務器,但是整個運營依賴一臺叫做名稱節點(namenode)的單一服務器,負責協調諸數據節點之間的所有流量。要是這一個名稱節點停止運行,那么諸數據節點就無法通信,整個系統將停止運行。

Facebook估計,如果可以克服這個缺點,就能將其數據倉庫的停機時間縮短幾乎一半。

為了解決這個問題,Facebook開發出了一款名為Avatarnode的軟件:萬一主名稱節點由于某種原因而失效,該軟件就會切換至備用名稱節點。在這種架構中,每個數據節點會向主名稱節點和備用名稱節點定期發送***數據。萬一主名稱節點停止運行,那么備用名稱節點就會頂上來,繼續運行。這款軟件以詹姆斯•卡梅隆執導的影片《阿凡達》命名,它依賴Hadoop Zookeeper配置管理工具。

這家公司將阿凡達節點作為一款開源軟件來提供,希望Hadoop管理員們能夠得益于使用該軟件。Facebook早在2010年發布了該軟件,后來被用于處理該公司的生產任務。

Ryan寫道:“如今,阿凡達節點在運行我們Facebook內部要求***的生產工作負載,它會繼續大幅提升HDFS集群的可靠性和可管理性。展望未來,我們會努力進一步改進阿凡達節點,并且將它與一種可以自動安全地進行故障切換的通用高可用性框架集成起來。”

不止Facebook這一家公司在試圖解決Hadoop存在的這個問題。MapR和Cloudera的Hadoop發行版同樣都隨帶冗余的名稱節點功能。

原文:Facebook tackles Hadoop Achilles' Heel

 

責任編輯:yangsai 來源: 51CTO.com
相關推薦

2012-07-03 11:38:32

FacebookHadoop

2011-09-01 10:59:49

Foodily菜譜

2013-04-19 09:14:12

BYOD網絡解決方案

2021-05-12 09:15:48

Facebook 開發技術

2021-07-26 12:10:37

FacebookMySQL 8.0數據庫

2013-01-08 10:06:43

創業創業方法

2011-11-30 09:26:25

項目管理

2011-08-29 10:15:13

FacebookHadoopHBase

2012-11-14 09:20:00

大數據PrismHadoop

2009-12-22 15:25:23

2011-05-06 10:32:06

硬盤鍵盤

2011-12-02 09:39:22

項目管理

2013-05-03 13:45:42

KVM故障調試

2013-02-21 12:32:20

2010-02-22 10:16:39

獨立服務器問題訪問故障

2024-03-18 09:10:00

死鎖日志binlog

2018-10-09 15:00:43

Hadoop分布式架構

2013-11-28 09:35:57

Facebook開放計算交換機

2017-02-28 09:48:30

2018-06-22 11:00:32

傳統硬件故障
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: www.成人免费视频 | 97超碰人人 | 一区二区av| 97超碰成人| 亚洲综合在线视频 | 人人鲁人人莫人人爱精品 | 欧美精品一区二区三区四区 | 亚洲激情av | 日日操日日干 | 亚洲综合在线视频 | 国产精品久久久久一区二区三区 | 国产精品美女久久久久久免费 | 亚洲va欧美va天堂v国产综合 | 在线观看免费毛片 | 日韩欧美国产精品 | 日韩精品一二三 | 91pao对白在线播放 | 天天操操| 嫩草影院网址 | 欧美精品一区三区 | 美女天堂| 免费观看一级视频 | 国产一区2区 | 91在线精品视频 | 性生活毛片 | 色综合久 | 久久精品亚洲成在人线av网址 | 久久久久综合 | 精品欧美一区二区三区久久久 | 亚洲国产欧美日韩 | 日韩欧美亚洲一区 | 日韩一区二区三区视频在线播放 | 久久夜夜 | 日本手机看片 | 国产精品国产精品 | 超黄视频网站 | 久草在线在线精品观看 | 亚洲精品一区二区在线观看 | 99久久中文字幕三级久久日本 | 日韩精品一区二区三区视频播放 | 成人精品在线视频 |