成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Flink為什么比Spark快?大數據流處理的框架比較

大數據 Spark
大數據處理的新趨勢,流處理和批處理是非常重要的兩個概念,而基于流處理和批處理的大數據處理框架,Flink和Spark,也是常常被大家拿來做比較的對象。而在實時流數據處理上,Flink性能似乎更加強勁,那么Flink為什么比Spark快呢,今天我們就來聊聊這個話題。

大數據處理的新趨勢,流處理和批處理是非常重要的兩個概念,而基于流處理和批處理的大數據處理框架,Flink和Spark,也是常常被大家拿來做比較的對象。而在實時流數據處理上,Flink性能似乎更加強勁,那么Flink為什么比Spark快呢,今天我們就來聊聊這個話題。

Spark和Flink都是針對于實時數據處理的框架,并且兩者也都在實際的工作當中表現出色,但是如果要深究兩者在大數據處理的區別,我們需要從Spark和Flink的引擎技術開始講起。

[[322171]]

Spark和Flink計算引擎,在處理大規模數據上,數據模型和處理模型有很大的差別。

Spark的數據模型是彈性分布式數據集RDD(Resilient Distributed Datasets)。RDD可以實現為分布式共享內存或者完全虛擬化(即有的中間結果RDD當下游處理完全在本地時可以直接優化省略掉)。這樣可以省掉很多不必要的I/O,是早期Spark性能優勢的主要原因。

Spark用RDD上的變換(算子)來描述數據處理。每個算子(如map,filter,join)生成一個新的RDD。所有的算子組成一個有向無環圖(DAG)。這就是Spark進行數據處理的核心機制。

而Flink的基本數據模型,則是數據流,及事件(Event)的序列。數據流作為數據的基本模型,這個流可以是無邊界的無限流,即一般意義上的流處理。也可以是有邊界的有限流,這樣就是批處理。

Flink用數據流上的變換(算子)來描述數據處理。每個算子生成一個新的數據流。在算子,DAG,和上下游算子鏈接(chaining)這些方面,和Spark的基本思路是一樣的。

但是在在DAG的執行上,Spark和Flink有明顯的不同。

在Flink的流執行模式中,一個事件在一個節點處理完后的輸出就可以發到下一個節點立即處理。這樣執行引擎并不會引入額外的延遲。而Spark的micro batch和一般的batch執行一樣,處理完上游的stage得到輸出之后才開始下游的stage。

這也就是Flink為什么比Spark快的原因之一。并且Flink在數據流計算執行時,還可以把多個事件一起進行傳輸和計算,進一步實現數據計算的低延遲。所以Flink之所以快,其實也可以理解為比Spark的延遲性更低。

責任編輯:未麗燕 來源: 今日頭條
相關推薦

2021-12-14 09:56:51

HadoopSparkKafka

2019-06-18 13:51:08

大數據流處理新興市場

2019-07-05 12:16:26

大數據IT互聯網

2019-05-23 15:44:55

Flink大數據框架

2016-12-14 12:02:01

StormHadoop大數據

2017-02-14 14:20:02

StormHadoop

2019-12-19 14:38:08

Flink SQL數據流Join

2018-04-03 10:33:15

大數據

2017-09-06 17:05:54

大數據處理流程處理框架

2017-02-14 13:11:23

HadoopStormSamza

2017-03-23 14:37:19

WebAssemblyasm.js編程

2020-04-29 09:34:13

FlinkStormSpark

2024-12-27 14:45:59

2018-07-25 15:31:51

SparkFlink大數據

2016-05-19 10:31:35

數據處理CassandraSpark

2023-04-07 08:17:39

fasthttp場景設計HTTP

2021-01-21 07:53:29

面試官Promis打印e

2024-07-05 10:17:08

數據流系統CPU

2019-11-29 15:47:42

HadoopSparkFlink

2011-08-29 10:19:09

Microsoft S控制較大數據流
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 麻豆久久久 | 成人欧美一区二区三区黑人孕妇 | 亚洲精品一区二区在线观看 | 精品一二区 | 在线国产视频观看 | 一级片在线视频 | 高清成人av | 国产一区二区三区免费观看视频 | 国产区高清 | av在线一区二区三区 | 成人影院在线视频 | 国产福利精品一区 | 国产精品一区久久久 | 91婷婷韩国欧美一区二区 | 91久久久久久久久 | 久久久久久久久91 | 日韩av免费在线观看 | 国产99免费 | 国产精品99久久久久久动医院 | 蜜桃视频一区二区三区 | 自拍第一页 | 午夜久久久 | 亚洲欧美国产精品久久 | 亚洲高清在线 | aaa国产大片 | 老妇激情毛片免费 | 亚洲 欧美 日韩在线 | 日本三级全黄三级三级三级口周 | 久久久久亚洲精品中文字幕 | 在线视频a | 日韩精品视频在线 | 免费一级黄色录像 | 一区在线视频 | 最新黄色毛片 | 天堂av免费观看 | 国产日韩欧美在线观看 | 日韩一区不卡 | 国产美女一区二区 | 国产精品视频一区二区三区 | 黄色在线免费观看 | 亚洲欧洲精品在线 |