成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

云計算開源產業聯盟發布融合數據白皮書,Apache CarbonData成為主流融合存儲技術

企業動態
12月22日,由中國信息通信研究院主辦,云計算開源產業聯盟承辦,中國移動蘇州研發中心協辦的“2017首屆全球存儲大會”在北京國賓酒店舉行。

為了更好的探討如何引導IT基礎設施向更加智能化的方向發展,構建部署靈活、自動化的云環境,開創產業的嶄新未來,12月22日,由中國信息通信研究院主辦,云計算開源產業聯盟承辦,中國移動蘇州研發中心協辦的“2017首屆全球存儲大會”在北京國賓酒店舉行。在會議上,云計算開源產業聯盟融合數據項目組組長,中國信息通信研究院馬飛博士代表項目組,發布了《融合數據白皮書***部分:融合數據存儲》。

dcc6e717ff37ec0677e9e23d177e5649

馬飛博士表示,在大數據時代,大型企業數據爆發式增長。在企業快速轉型過程中,企業數據處理場景日益豐富,數據分析要求越來越靈活,從傳統的報表分析、OLAP、OLTP業務,到新興的批處理、實時數據分析、機器學習,新的數據分析模式層出不窮。但是,不同數據處理架構對底層數據的存儲/組織、檢索(引擎),乃至處理接口都提出不同要求,對一份數據需要配套構建多套不同結構的數據集,導致數據冗余嚴重,數據不能共享。這導致了平臺維護成本、數據冗余和數據轉換代價的與日俱增,嚴重阻礙了大數據分析技術的應用和發展。而融合數據存儲通過一份數據存儲,可以實現海量復雜數據(總量達到EB級的,單表數據達百億行級別以上,單表屬性維度達百維以上的數據)的歸并,并支持多維度任意組合查詢和分析,支持多種快速查詢需求(如過濾查詢、快速掃描、詳單查詢等)的統一響應。將有效解決多業務場景下多份數據存儲的問題。因此,融合數據是大數據未來的發展方向。

c75ccfa54c6766a9f54ee1dce3fe309b

馬飛博士介紹了不同行業對融合數據存儲的不同需求,以及目前業界典型的大數據系統存儲方案,在面對行業融合數據存儲需求時的局限和不足。并介紹了以Apache社區的ORC、Parquet和CarbonData等為代表的目前業界主流的融合存儲技術,這些主流技術的技術對比,以及在10億數據規模下的過濾查詢場景和聚合計算場景下的性能對比。

e50e8fdfaad33a36f73fe8dca41f42a7

表1 開源融合數據存儲技術特性對比

 

ORC

Parquet

CarbonData

開源

Apache***項目

Apache***項目

Apache***項目

社區活躍度

(10 commits/month)

(10 commits/month)

(300+commits/month)

大數據生態集成

支持所有計算框架集成,與Hive集成較好

支持所有計算框架集成,與Spark集成較好

支持所有計算框架集成,與Spark集成較好

開發語言

Java

Java

Java,Scala

索引

粗粒度,不支持全局索引

粗粒度,不支持全局索引

支持全局索引

編碼

RLE、DELTA

RLE、DELTA

全局字段編碼、RLE、DELTA

數據更新、刪除

支持

不支持

支持

數據分區

支持

支持

支持

數據壓縮率

3-9倍

3-8倍

3-7倍

數據預聚合

不支持

不支持

支持

實時數據導入

不支持

不支持

支持

時序數據分析

部分支持

部分支持

支持

文本數據分析

不支持

不支持

支持

圖6 Parquet和CarbonData在過濾查詢場景下的性能對比

圖7 Parquet和CarbonData在聚合計算場景下的性能對比

***,馬飛博士也就融合存儲技術的發展進行了展望。希望一方面用戶企業積極參與開源社區的活動,通過貢獻需求與場景,推動融合數據存儲技術的業務落地。另一方面利用產業組織、會展活動、技術交流等場合加強廠商間的溝通與合作,共同促進技術的發展與應用水平的提升。

Apache® CarbonData™介紹:

Apache® CarbonData™是由華為開源貢獻的大數據高效存儲格式解決方案。Apache® CarbonData™致力于推動大數據開源技術的持續發展,以一份數據同時滿足多種業務場景訴求,打造高效、開放、完整生態的大數據新融合數倉存儲方案。目前,CarbonData技術已經在華為云MRS服務獲得使用。華為云MRS服務,在完全兼容開源組件的基礎上,融合CarbonData優勢,支持大規模的數據存儲、分析和計算,為客戶提供云時代企業級一站式大數據服務,幫助企業輕松駕馭海量數據,洞察數據價值,在商海中占得先機。

點擊了解華為云存儲產品:http://www.huaweicloud.com/product/

責任編輯:張燕妮 來源: 51CTO
相關推薦

2013-01-22 10:30:33

中國云產業聯盟云計算技術云聯盟

2018-10-15 23:22:41

互聯網

2018-10-16 17:23:10

云數據

2018-10-15 14:57:14

華為

2021-01-21 21:03:19

京東供應鏈數字化

2010-12-08 09:37:25

云計算賽迪顧問中國云計算發展白皮素

2017-04-01 14:53:50

華為

2017-04-06 15:07:30

互聯網華為

2022-09-04 19:21:07

人工智能

2016-09-14 12:12:07

2018-07-25 18:38:44

新華三

2017-09-06 16:15:47

存儲

2016-11-23 15:31:16

聯盟 云計算

2016-12-01 17:34:37

互聯網

2018-04-19 12:05:39

大數據

2020-07-21 10:51:08

阿里云云原生

2023-04-26 12:36:20

Thoughtwor數據工程
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 欧美日韩一区二区三区四区五区 | 亚洲精品1区2区3区 91免费看片 | 欧美美女爱爱 | 99久久婷婷 | 9久久 | av中文字幕在线播放 | 欧美午夜精品理论片a级按摩 | 一区二区三区在线 | 精品视频一区二区三区 | 国产在线视频在线观看 | 国产一级成人 | 日韩精品一| 中文字幕一区二区三区四区 | 天天天操 | 91麻豆精品国产91久久久久久久久 | 欧美一区免费 | 一区欧美| 成人午夜激情 | 欧美三级在线 | 波多野结衣二区 | 很黄很污的网站 | 久草中文在线 | 美女天天操| 91av在线免费播放 | 久久天堂网 | 亚洲成人国产 | 精产国产伦理一二三区 | 欧美国产日韩在线观看 | 一区二区三区不卡视频 | 一区二区视频在线 | 99一区二区 | 免费看国产片在线观看 | 日韩中文字幕在线播放 | 影音先锋中文字幕在线观看 | 亚洲精品女优 | 91网站视频在线观看 | 人干人人 | h网站在线观看 | 在线观看特色大片免费网站 | 久久国产视频一区 | 在线成人 |