成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Docker和hadoop的碰撞將決定誰才是救世主

大數據 Hadoop
綜合來說,Docker和hadoop體系在云下物理機的場景非常有限,未來在云上替代VM解決彈性伸縮問題應該有發展。

Docker很熱,怎么形容?感覺開源除了spark技術,就是docker了,甚至把Go語言也帶火了,把Go在TIOBE的排名從百名外帶入主流語言的行列。

Docker快成救世主了,這么牛逼的技術,docker和hadoop碰撞出什么火花來呢,是不是得趕緊用上呢?

就不介紹具體什么是docker了,不是一門全新的技術,是基于LXC的高級容器引擎,從linux內核發展出來的輕量隔離技術。相比單純的隔離,核心是標準化了鏡像打包,部署和發布這個過程,相當于標準化了開發過程。就運行態來說,相比VM,核心優勢就是輕量,劣勢也明顯,安全性不足,容易攻破。下圖是一個VM和容器的對比:

VM和容器的對比

關于LXC,google的大規模集群管理工具borg號稱十年前就使用上了,使用場景就是大數據場景,而且批量/實時場景號稱都支持的很好,集群資源利用率也非常高,所以照這個說起來,大數據和docker淵源很深。

但是現實的情況是,docker在hadoop領域用的并不是很好。目前主流兩種用法:

第一種方法是用Docker來直接運行Hadoop。例如hortonworks,收購了一家叫SequenceIQ的公司,通過叫Cloudbreak的技術,將Hortonworks Data Platform(HDP)打包成Docker鏡像,好處是可以在微軟Azure、亞馬遜AWS、谷歌云平臺等任何主流云平臺上啟動HDP。這種解決的是在多云平臺部署的問題。但是這個公司被收購之后也沒有更多的消息了。Github上的最后一次更新也在5個月之前。

這個至多只是解決開發環境的問題,hadoop很難在不同的環境下,不調優而跑出一致的表現,天生的使用場景受限,價值有限。

第二種方法是通過YARN來使用Docker容器進行應用部署,yarn是支持docker的,具體可以看看:

http://hadoop.apache.org/docs/r2.7.2/hadoop-yarn/hadoop-yarn-site/DockerContainerExecutor.html

yarn作為資源管理,由于其擴展能力,一直被壓縮在了大數據領域,如果為了任務級別更高資源利用,通過FAIR調度算法足于,更強的隔離反而限制了資源的彈性使用。

當前資源調度更火是k8s(google主推,號稱從borg發展而來)和mesos(伯克利大學主推)。瞄準的場景也更多的是應用級別,yarn支持docker處在一個很尷尬的地步。

綜合來說,hadoop體系有自己的一套資源管理系統,要解決的問題是多個服務器并行調度起來當一個服務器使用的問題。而docker技術本質上和VM一樣,是將一個服務器拆成多份給更多的應用使用。Docker和hadoop體系在云下物理機的場景非常有限,未來在云上替代VM解決彈性伸縮問題應該有發展。

【本文為51CTO專欄作者“大數據和云計算”的原創稿件,轉載請通過微信公眾號獲取聯系和授權】

戳這里,看該作者更多好文

責任編輯:趙寧寧 來源: 51CTO專欄
相關推薦

2023-01-28 10:55:39

Unicode代碼

2013-06-09 09:33:41

Windows RedWindows 8

2016-04-01 10:13:08

SDN數據中心

2011-04-29 09:44:47

2009-10-11 09:13:39

Windows 7市場部署

2009-11-28 20:10:54

Chrome OS谷歌

2019-02-27 15:36:04

智能手機折疊屏移動通信

2016-05-12 16:39:57

IT運維網絡

2022-11-10 12:12:19

2011-08-19 09:54:19

云計算CIO

2011-08-27 09:26:03

投影儀技巧

2011-04-11 14:15:37

Android 3.0平板電腦Android

2013-12-11 10:21:25

Windows 8.1Windows 8

2023-09-07 10:47:47

2020-11-23 08:21:02

CTO交流學習

2018-03-07 13:56:24

2018-12-06 13:29:31

網絡5G物聯網

2022-08-22 09:04:42

架構師技能

2012-10-23 13:32:41

Win8PC

2011-03-31 09:11:34

JavaOracle
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 亚洲理论在线观看电影 | 欧美精品一区二区三区在线播放 | 欧美国产日韩一区二区三区 | 99热国产精品 | 国外成人在线视频 | 嫩草视频在线免费观看 | 综合一区二区三区 | 亚洲一区二区 | 成人h动漫亚洲一区二区 | 91xxx在线观看 | 久久一区精品 | 久久久久久久久91 | 日韩中文字幕在线视频 | 久久不卡 | 欧洲精品一区 | 日韩精品免费 | 国产午夜精品一区二区三区嫩草 | 日韩 欧美 二区 | www4虎| 亚洲性人人天天夜夜摸 | 日韩一区二区在线看 | 精品国产乱码久久久久久1区2区 | 亚洲一区在线日韩在线深爱 | 91精品国产一区二区 | 一级在线观看 | 欧美日韩亚洲国产综合 | 高清黄色网址 | 亚洲精品日本 | 国产97色| 欧美性猛交一区二区三区精品 | 99国内精品久久久久久久 | 欧美成人免费 | 日韩免费 | 国产在线一区二区三区 | 日韩在线小视频 | 日韩一区二区三区精品 | 国产一区中文字幕 | 翔田千里一区二区 | 精品久久久久久久 | 五月激情婷婷六月 | 亚洲精品黑人 |