成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

Flink Checkpoint源碼級拆解

大數據
Flink Checkpoint的工作原理是定期創建所有分布式應用程序狀態的一致快照,允許 Flink 通過將應用程序狀態恢復到最新的檢查點來從故障中恢復。

檢查點是 Apache Flink 的主要容錯機制。它的工作原理是定期創建所有分布式應用程序狀態的一致快照,允許 Flink 通過將應用程序狀態恢復到最新的檢查點來從故障中恢復。

一、Core Components  核心組件

checkpointing 系統由幾個關鍵組件組成,這些組件協同工作以實現容錯:

1. CheckpointCoordinator(檢查點協調器)

CheckpointCoordinator 是 Flink 檢查點機制的核心組件。它作為 JobManager 的一部分運行,并負責:

  • 定期觸發 checkpoint 創建
  • 向源發送檢查點屏障
  • 從任務中收集確認
  • 管理待處理和已完成的 checkpoint
  • 處理檢查點失敗
  • 在恢復期間協調檢查點恢復

2. PendingCheckpoint  待處理檢查點

PendingCheckpoint 表示已啟動但尚未被所有任務確認的 checkpoint。它保存已確認任務的部分狀態,并跟蹤哪些任務仍需要確認。

主要特點:

  • 觸發 checkpoint 時創建
  • 收集任務狀態確認
  • 當所有任務都確認時,變為 CompletedCheckpoint
  • 如果任務失敗或超時,可以中止

3. CompletedCheckpoint  已完成檢查點

CompletedCheckpoint 表示可用于恢復的完全確認的檢查點。它包含還原應用程序狀態所需的所有狀態句柄。

主要特點:

  • 當所有任務都已確認 PendingCheckpoint 時創建
  • 存儲在 CompletedCheckpointStore 中
  • 在恢復期間用于恢復應用程序狀態
  • 元數據持久化到外部存儲

4. CompletedCheckpointStore  已完成檢查點存儲

CompletedCheckpointStore 維護已完成檢查點的歷史記錄。它負責:

  • 存儲已完成的 checkpoint
  • 管理保留的 checkpoint 數量
  • 提供用于恢復的檢查點
  • 在達到最大限制時丟棄舊的 checkpoint

二、檢查點流程

下圖說明了 Flink 中的完整 checkpoint 過程:

1. 觸發 Checkpoint

可以通過三種方式觸發 Checkpoint:

  • Periodically:最常用的方法,以固定間隔自動觸發。
  • Manually手動 :通過臨時檢查點的 REST API。Savepoints
  • Savepoints:用戶請求的持久性檢查點,通常用于版本升級或維護。

觸發 checkpoint 時,(CheckpointCoordinator)協調器進行如下操作:

  • 從計數器獲取新的檢查點 ID
  • 創建 PendingCheckpoint 以跟蹤進度
  • 向所有源任務發送觸發器消息
  • 設置 checkpoint 完成的超時

2. 確認 Checkpoint

當每個任務處理一個檢查點屏障時,它會:

  • 拍攝其狀態的快照
  • 通過配置的 state backend 存儲 state
  • 向 CheckpointCoordinator 發送確認

確認內容包括:

  • 檢查點 ID
  • 任務的狀態快照引用
  • 有關檢查點的性能指標

3. 完成檢查點

當所有任務都確認了一個 checkpoint 時,PendingCheckpoint 將通過以下方式轉換為 CompletedCheckpoint:

  • 完成檢查點元數據
  • 將其存儲在 CompletedCheckpointStore 中
  • 如果超過最大計數,則丟棄最早的 checkpoint
  • 通知協調器檢查點已完成
責任編輯:趙寧寧 來源: 大數據技能圈
相關推薦

2022-01-14 07:56:38

Checkpoint機制Flink

2025-04-27 08:15:00

FlinkSavepointCheckpoint

2021-09-08 10:47:33

Flink執行流程

2024-05-08 07:17:29

向量數據庫數據架構大模型

2024-08-16 18:42:23

2022-11-02 21:45:54

SPIJava

2011-08-24 10:21:39

CHECKPOINT中文man

2021-09-06 18:55:57

MySQLCheckpoint機制

2021-05-14 08:33:02

Flink策略源碼

2023-06-19 18:37:14

HFDSFlink存儲系統

2021-10-26 00:07:44

推薦系統排序

2021-12-06 07:15:47

開發Flink SQL

2021-04-12 08:21:48

AQSjavajvm

2022-05-23 09:22:20

Go語言調試器Delve

2023-03-02 09:32:29

AI服務器

2010-09-29 13:52:33

PostgreSQL

2021-12-13 07:57:47

Flink SQL Flink Hive Udf

2021-10-17 19:52:40

Python:源碼編譯器

2017-06-15 09:01:24

MySQL拆解高階使用

2011-05-07 15:24:10

墨盒噴墨的打印機
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 你懂的在线视频播放 | 波多野结衣亚洲 | 狠狠躁躁夜夜躁波多野结依 | 桃色五月 | 日韩中文一区二区三区 | 在线视频第一页 | 91精品国产91久久久久久密臀 | 欧美成人在线网站 | 中文字幕一区二区三区四区五区 | 欧美一区二区三区四区在线 | 四虎成人av | 国产亚洲精品久久久久动 | 人人干人人玩 | 99热国产在线播放 | 看片国产 | 96国产精品久久久久aⅴ四区 | 成人h动漫亚洲一区二区 | 在线观看成人小视频 | 日本久久视频 | 国产激情在线看 | 污视频在线免费观看 | 精品久久久久久 | 91亚洲国产成人久久精品网站 | 欧美日韩久久 | 日韩成人在线播放 | 欧美日韩不卡 | 蜜桃毛片| 精品国产乱码一区二区三 | 日本视频在线播放 | 久久精品视频在线免费观看 | 97色免费视频 | 欧美区日韩区 | 欧美区日韩区 | 国产亚洲精品久久久久久牛牛 | 日本免费视频 | 九九久久精品 | 日韩欧美三级电影在线观看 | 在线免费小视频 | 国产美女福利在线观看 | 神马久久久久久久久久 | 国产成人精品一区二区 |