成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

分布式存儲系統在大數據處理中扮演著怎樣的角色?

存儲 存儲架構
如果存儲節點本身可以定制,則通常會讓其支持部分計算能力,以利用數據的親和性,將部分計算下推到相關的存儲節點上。如果存儲是云上的 S3 等對象存儲,無法定制,則通常會將數據在計算節點緩存,并且盡量的復用。 參考資料

大概總結下,主要包括以下角色:

1. 數據的源頭與終點

傳統上,無論是基于 MapReduce 的數據流,還是基于 Spark/Flink 的流水線,其數據的來源和最終落腳點都可以是分布式存儲(比如 GFS、HDFS、S3)。

這是由于分布式存儲通常具有很高的可用性,不太用擔心數據丟失。但從另一方面來說,上面提到的幾種分布式存儲通常不具有數據庫中的 Schema,導致在用的時候,缺少一些靈活性。

當然,對于流式系統來說,分布式存儲肯定不是最典型的數據來源,而是各種在線的服務產生的事件。

2. 中間數據的落腳點

對于批處理的中間數據,如果量過大或者計算代價太大,比如 Spark 中的 RDD,會:

  1. 內存裝不下 spill 到分布式存儲中
  2. 在 shuffle 后,為了避免重算,通常要持久化到分布式存儲系統上一份

即使是如 Flink 之類的流式處理系統,最近也在提存算分開——將中間狀態外存,計算才能更好的擴縮容。傳統上 Flink 使用了 RocksDB 之類的存儲引擎,將狀態數據存在各個計算節點本地;但為了上云,讓計算更方便的彈性,也開始尋求將所有中間狀態與計算節點解耦合,存到統一的分布式存儲中。

3. 分布式數據庫的基座

隨著數據庫本身越來越多的支持分布式部署和計算,傳統上的大數據處理需求,一部分被內化為查詢引擎層的分布式計算。這也是為什么,現代分布式數據庫的查詢引擎也多使用 MPP 方式,充分的利用多節點的計算能力,在單個查詢內進行算子或者流水線粒度的分布式并行執行。

在這種情況下,分布式數據庫的底層存儲通常為分布式(KV)存儲,且是和計算分離的(存算分開)。也就是說,數據通過查詢引擎層,最終會以 KV 的形式落到分布式存儲中,并供之后的查詢支持。

如果存儲節點本身可以定制,則通常會讓其支持部分計算能力,以利用數據的親和性,將部分計算下推到相關的存儲節點上。如果存儲是云上的 S3 等對象存儲,無法定制,則通常會將數據在計算節點緩存,并且盡量的復用。

參考資料

[1]《系統日知錄》專欄: https://xiaobot.net/p/system-thinking ,點擊下面閱讀原文跳轉訂閱。

責任編輯:武曉燕 來源: 木鳥雜記
相關推薦

2017-07-11 16:37:10

測試管理DevOps

2020-08-11 13:21:00

藍牙工業物聯網IIOT

2023-02-01 11:15:21

數字化轉型CIO

2020-10-22 08:06:40

私有網絡物聯網IOT

2022-03-06 23:09:24

區塊鏈房地產技術

2020-12-04 05:12:54

超尺度物聯網平臺物聯網

2017-04-14 09:48:25

分布式存儲系統

2017-12-18 10:47:04

分布式存儲數據

2018-09-29 14:08:04

存儲系統分布式

2022-03-01 08:40:34

StormHadoop批處理

2017-10-16 10:24:47

LogDevice存儲系統

2017-07-18 09:51:36

文件存儲系統

2017-10-12 09:36:54

分布式存儲系統

2017-10-19 08:45:15

存儲系統HBase

2018-11-20 09:19:58

存儲系統雪崩效應

2018-03-13 08:45:08

存儲系統DHT算法

2010-07-02 10:08:12

BigtableGoogle

2017-10-17 08:33:31

存儲系統分布式

2015-03-18 09:33:41

大數據分布式系統事務處理

2018-06-08 08:46:14

RaftPaxos系統
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 免费精品国产 | 一区二区免费 | 日韩国产欧美在线观看 | 国产露脸对白88av | 秋霞国产| 一级黄色毛片子 | 亚洲精品一区在线观看 | 欧美啊v在线观看 | 欧美亚洲高清 | 日韩精品人成在线播放 | 欧美午夜一区 | 蜜桃精品视频在线 | 巨大荫蒂视频欧美另类大 | 在线中文字幕av | 亚洲一区二区三区免费视频 | 日本午夜免费福利视频 | 九色在线观看 | 久草网址 | 久久久久国产一区二区三区四区 | 精品久久国产 | 日韩午夜在线观看 | 国产精品永久 | 国产精品久久久久久久久免费樱桃 | 国产激情视频在线免费观看 | 国产精品一区二区久久精品爱微奶 | 欧美日韩三级 | 国产色婷婷精品综合在线播放 | 日韩一二三区 | 亚洲视频免费 | 国产第一页在线观看 | 亚洲综合在线视频 | 久久专区 | 国产精品久久av | 欧美一二三 | 精品国产91乱码一区二区三区 | 亚洲欧美视频 | 91精品久久久久久久久中文字幕 | 亚洲一区 中文字幕 | 亚洲国产网址 | 黄色免费网 | 午夜免费福利电影 |