成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

TiDB 在攜程 | 實時標簽處理平臺優化實踐

大數據
在十億級別數據量下,攜程借助 TiDB HTAP 能力提升業務運營的效率,應用場景主要包括國際業務 CDP 平臺、酒店結算、風控等。

攜程是全球領先的一站式旅行平臺,旗下擁有攜程旅行網、去哪兒網、Skyscanner 等品牌。攜程旅行網向超過 9000 萬會員提供酒店預訂、酒店點評及特價酒店查詢、機票預訂、飛機票查詢、時刻表、票價查詢、航班查詢等服務。

在十億級別數據量下,攜程借助 TiDB HTAP 能力提升業務運營的效率,應用場景主要包括國際業務 CDP 平臺、酒店結算、風控等。

實時標簽處理平臺面臨挑戰

在國際業務上,由于面臨的市場多,產品和業務復雜多樣,投放渠道多,引流費用高,因此需要對業務和產品做出更精細化的管理和優化,滿足市場投放和運營需要,降低整體成本,提高運營效率與轉化率。為此,攜程專門研發了國際業務動態實時標簽化處理平臺(以下簡稱 CDP )。

攜程旅行的數據具有來源廣泛、形式多樣、離線數據處理與在線數據處理兼有等特點,如何通過系統對這些數據進行采集、管理、加工,形成滿足業務系統、運營、市場需求的數據和標簽。處理好的數據需要立刻運用到業務系統、EMD、PUSH 等使用場景中,對數據處理系統的時效性、準確性、穩定性以及靈活性提出了更高要求。

為了解決以上問題,CDP 系統必須提升數據處理能力。過去傳統方案是通過數倉進行 T+1 計算,再導入 ES 集群存儲,前端通過傳入查詢條件,組裝 ES 查詢條件查詢符合條件的數據。攜程已經上線的標簽有上百個,有查詢使用的超過 50% ,由于該方案是離線計算,所以數據時效性差,依賴底層離線平臺計算和 ES 索引,查詢響應速度較慢。

TiDB HTAP 雙引擎

滿足實時觸發、持久化儲存雙場景需求

CDP 希望在數據處理的過程中能提升數據處理時效性,同時滿足業務靈活性的要求,對于數據處理邏輯、數據更新邏輯,可以通過系統動態配置規則的方式來消費消息數據(Kafka 或 QMQ)動態更新標簽,業務層只需關心數據篩選邏輯及條件查詢。

根據業務需求,業務數據標簽篩選主要分為兩大場景:

· 實時觸發場景。根據業務需要,配置動態規則,實時訂閱業務系統的變更消息,篩選出滿足動態規則條件的數據,通過消息的方式推送到下游業務方;

· 標簽持久化場景。將業務系統的實時業務變更消息按照業務需要,加工成業務相關的特征數據,持久化存儲到存儲引擎。業務根據需要組裝查詢條件查詢引擎數據,主要有 OLAP (分析類)與 OLTP (在線查詢)兩大類查詢。

基于以上需求,CDP 流式數據采用類 Kappa 架構,標簽持久化采用類 Lambda 架構,如下圖所示:

TiDB 在攜程 | 實時標簽處理平臺優化實踐

圖:CDP 系統架構

其中,標簽持久化場景需要解決業務標簽的持久化存儲、更新、查詢服務,攜程采用了 TiDB 來存儲業務持久化的標簽,并采用實時觸發場景中的動態規則配置方式消費業務系統數據變更消息,保證業務持久化標簽的時效性,通過 TiDB 對 OLTP 和 OLAP 不同場景查詢特性的支持,來滿足不同業務場景中訪問業務特征數據的需要。

系統借鑒了 Lambda 數據處理架構的思想,新增數據根據來源不同分別發送到不同的通道中,歷史全量數據通過數據批處理引擎(如 Spark)轉換完,批量寫入到數據持久化存儲引擎 TiDB 中。增量數據業務應用以消息形式發送到 Kafka 或 QMQ 消息隊列,將數據按照標簽持久化的邏輯規則處理完成,增量寫入到持久化存儲引擎 TiDB,以此解決數據的時效性問題。

TiDB 同時具有兩大持久化存儲方式,一種是行存 TiKV ,可以支持 OLTP 場景,另一種是列存 TiFlash ,可以支持 OLAP 場景。TiDB 數據存儲內部自動解決這兩個引擎的數據同步問題,客戶端查詢根據自身需要選擇查詢方式。同時,TiDB 還能保障兩種方式有著良好的隔離性,并兼顧數據強一致性,出色地解決了 HTAP 場景的隔離性及列存同步問題。

目前,CDP 已經與攜程各個業務系統進行深度整合打通,為國際業務增長提供業務特征標簽庫的數據與服務支持。

TiDB 應用價值

· HTAP 混合負載

完美支撐 OLTP + OLAP 混合負載,簡化 IT 系統架構,大幅提升業務的實時查詢性能。

· 水平彈性擴展

擺脫了 MySQL 分庫分表難題,幫助攜程隨時根據業務增長情況進行水平彈性擴展。

責任編輯:趙立京 來源: 51CTO
相關推薦

2016-09-04 15:14:09

攜程實時數據數據平臺

2022-07-15 09:20:17

性能優化方案

2022-07-08 09:38:27

攜程酒店Flutter技術跨平臺整合

2023-07-07 12:26:39

攜程開發

2024-04-26 09:38:36

2023-11-06 09:56:10

研究代碼

2023-07-07 14:18:57

攜程實踐

2022-07-15 12:58:02

鴻蒙攜程華為

2024-12-26 09:27:51

2024-12-18 10:03:30

2023-06-28 10:10:31

攜程技術

2022-05-13 09:27:55

Widget機票業務App

2016-12-15 21:41:15

大數據

2022-09-09 15:49:03

攜程火車票組件化管理優化

2023-06-06 16:01:00

Web優化

2024-03-22 15:09:32

2024-04-18 09:41:53

2022-08-06 08:23:47

云計算公有云廠商成本

2022-11-29 20:32:07

2023-02-08 16:34:05

數據庫工具
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产一区二区三区色淫影院 | 国产一区久久 | 欧美一区二区三区视频 | 麻豆精品一区二区三区在线观看 | www.性色| 一区二区三区视频 | 天天爽网站 | 中国人pornoxxx麻豆 | 久久精品亚洲欧美日韩精品中文字幕 | 国产精品久久久久久久免费观看 | 日本成人毛片 | 亚洲成在线观看 | 性欧美hd | 91一区| 天堂男人av | 91久久精品国产91久久 | 婷婷精品| 91在线看 | 亚洲成人毛片 | 日本精品999 | 欧美不卡一区二区三区 | 国产亚洲精品成人av久久ww | 久草综合在线 | 成人中文字幕在线 | 亚洲一区二区在线 | 亚洲福利| 国产一区二区电影 | 日本在线播放一区二区 | 亚洲在线免费观看 | 久久久亚洲综合 | 成人国产精品久久久 | 欧美激情视频一区二区三区免费 | 欧美乱淫视频 | 亚洲国产成人久久综合一区,久久久国产99 | 国产日韩免费观看 | av中文在线 | 成人欧美一区二区三区黑人孕妇 | 狠狠爱免费视频 | 精品国产乱码久久久久久1区2区 | 青青草视频网 | 久久激情视频 |