成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

雙11超級工程—阿里巴巴數(shù)據(jù)庫技術(shù)架構(gòu)演進(jìn)

數(shù)據(jù)庫
阿里巴巴數(shù)據(jù)庫系統(tǒng)經(jīng)歷了10多年的發(fā)展,今年正式確定從 第三代大規(guī)模分庫分表 向 第四代X-DB分布式數(shù)據(jù)庫系統(tǒng) 演進(jìn)的目標(biāo)。分布式在系統(tǒng)穩(wěn)定性、容災(zāi)能力、容量擴(kuò)展性、技術(shù)體系內(nèi)聚性上有了質(zhì)的提升,今年雙11開啟了阿里數(shù)據(jù)庫技術(shù)架構(gòu)新的篇章。

每年電商雙11大促對阿里技術(shù)人都是一次大考,對阿里數(shù)據(jù)庫團(tuán)隊(duì)更是如此。經(jīng)過9年的發(fā)展,雙11單日交易額從2009年的0.5億一路攀升到2017年的1682億,秒級交易創(chuàng)建峰值達(dá)到了32.5萬筆/秒。支撐這一切業(yè)務(wù)指標(biāo)的背后,是底層技術(shù)體系的一次次迭代升級。

阿里巴巴數(shù)據(jù)庫系統(tǒng)經(jīng)歷了10多年的發(fā)展,今年正式確定從 第三代大規(guī)模分庫分表 向 第四代X-DB分布式數(shù)據(jù)庫系統(tǒng) 演進(jìn)的目標(biāo)。X-DB分布式數(shù)據(jù)庫的落地已經(jīng)在2017年雙11大促中獲得了可行性驗(yàn)證,同時(shí)底層開始引入存儲計(jì)算分離架構(gòu)。分布式在系統(tǒng)穩(wěn)定性、容災(zāi)能力、容量擴(kuò)展性、技術(shù)體系內(nèi)聚性上有了質(zhì)的提升,今年雙11開啟了阿里數(shù)據(jù)庫技術(shù)架構(gòu)新的篇章。

本文以阿里電商交易鏈路中的核心系統(tǒng)庫存中心為例,一窺阿里集團(tuán)數(shù)據(jù)數(shù)據(jù)庫的發(fā)展歷程。庫存中心數(shù)據(jù)庫集群(簡稱庫存DB集群),從2012年獨(dú)立拆分后,其發(fā)展可以概括為以下3個(gè)階段:

  • 2012~2013年:分庫分表水平拆分,構(gòu)建大規(guī)模數(shù)據(jù)庫集群
  • 2014~2016年:單元化異地多活架構(gòu),數(shù)據(jù)多單元間同步
  • 2017年:X-DB 1.0分布式集群部署上線,新的起點(diǎn)

作為阿里數(shù)據(jù)庫體系中的核心系統(tǒng),庫存DB集群的發(fā)展歷程可以作為縮影,代表了阿里巴巴數(shù)據(jù)庫體系的演進(jìn)。

誕生

庫存DB集群誕生于2012年,是業(yè)務(wù)垂直拆分的產(chǎn)物。庫存最早是商品中心數(shù)據(jù)庫的一個(gè)字段,隨著淘寶業(yè)務(wù)的復(fù)雜化,單一字段已經(jīng)滿足不了基于后端倉儲的庫存管理體系,所以便有了垂直拆分出來的庫存DB集群。

水平拆分

2012~2017年,雙11交易額一步步的刷新紀(jì)錄,庫存DB集群的QPS/TPS也實(shí)現(xiàn)了幾十倍的增長。水平拆分的基本思路是把數(shù)據(jù)庫擴(kuò)展到多個(gè)物理節(jié)點(diǎn)上,讓每個(gè)節(jié)點(diǎn)處理不同的讀寫請求,從而緩解單一數(shù)據(jù)庫的性能問題。借助于數(shù)據(jù)庫團(tuán)隊(duì)的DTS(Data Transmission Service)產(chǎn)品,庫存中心進(jìn)行了大規(guī)模的水平拆分,分庫和分表數(shù)量擴(kuò)展到最初的幾百倍,平穩(wěn)的支撐了這一個(gè)階段業(yè)務(wù)的快速發(fā)展。與此同時(shí),在熱點(diǎn)商品扣減、防超賣數(shù)據(jù)強(qiáng)一致需求、跨城異地容災(zāi)數(shù)據(jù)質(zhì)量問題、業(yè)務(wù)數(shù)據(jù)量急劇膨脹、超大規(guī)模數(shù)據(jù)庫集群運(yùn)維等問題點(diǎn)上,迫切需要新一代架構(gòu)來解決。

異地多活單元化

2014~2015年,為了進(jìn)一步提升用戶的購物體驗(yàn),庫存DB集群與主站交易鏈路一同做了單元化部署。單元化很大程度上解決了買家的使用體驗(yàn)問題,在本單元內(nèi)封閉完成讀寫操作。但是對于賣家維度的數(shù)據(jù),比如編輯商品、扣減庫存,就會涉及到跨單元中心去寫。關(guān)于單元化架構(gòu),之前已經(jīng)有了很多介紹。

有了多個(gè)單元,對于底層數(shù)據(jù)庫來說,面臨的***挑戰(zhàn)就是數(shù)據(jù)同步,因?yàn)閷τ趩卧忾]的買家維度的數(shù)據(jù),需要把單元的數(shù)據(jù)全部同步到中心;對于讀寫分離類型的業(yè)務(wù),我們要把中心的數(shù)據(jù)同步到單元。這條數(shù)據(jù)通道就是依靠DRC(Data Replication Center)來完成。如今,DRC不僅成為集團(tuán)單元化鏈路的基礎(chǔ)設(shè)施,對應(yīng)的云產(chǎn)品DTS已經(jīng)從2016年開始讓阿里云用戶、聚石塔商家低成本的搭建異地容災(zāi)。單元化架構(gòu)給庫存DB集群帶來的***挑戰(zhàn)是多單元間的數(shù)據(jù)強(qiáng)一致問題,我們也為此做了很大的努力。

X-DB分布式集群

2017年雙11,庫存DB集群***次使用X-DB 1.0分布式集群部署,平穩(wěn)的支持了32.5萬筆/秒的交易創(chuàng)建峰值。X-DB是阿里巴巴自研高性能分布式可全球化部署數(shù)據(jù)庫,其核心技術(shù)目標(biāo)概括為以下6點(diǎn):

  • 100%兼容MySQL生態(tài),應(yīng)用無縫遷移
  • 跨AZ、Region的全球化部署能力,5個(gè)9以上的可用率
  • 自動化的數(shù)據(jù)Sharding,計(jì)算、存儲均可水平擴(kuò)展
  • 高性能的事務(wù)處理,相同硬件下達(dá)到MySQL 10倍的事務(wù)處理能力,百萬TPS
  • 自動化的數(shù)據(jù)冷熱分離,存儲成本為MySQL的1/10
  • 計(jì)算存儲分離,存儲按需擴(kuò)展

庫存DB集群雙十一部署架構(gòu):

正是由于X-DB提供了全面兼容MySQL、高性能、低成本、跨城容災(zāi)、數(shù)據(jù)強(qiáng)一致的能力。在2017年年初,數(shù)據(jù)庫團(tuán)隊(duì)和業(yè)務(wù)研發(fā)團(tuán)隊(duì)確定了在庫存中心部署X-DB 1.0的目標(biāo),解決業(yè)務(wù)目前面臨的痛點(diǎn):

  1. 全面兼容MySQL,實(shí)現(xiàn)業(yè)務(wù)系統(tǒng)平滑遷入
  2. ***性能,雙11單實(shí)例熱點(diǎn)扣減峰值TPS是去年的3倍
  3. 低成本,相比于傳統(tǒng)的單元化主備架構(gòu)部署,減少2個(gè)數(shù)據(jù)副本以及單元間數(shù)據(jù)同步資源成本
  4. 跨城容災(zāi),借助Batching和Pipelining技術(shù)實(shí)現(xiàn)跨城強(qiáng)同步場景吞吐量幾乎無衰減
  5. 數(shù)據(jù)強(qiáng)一致,借助Paxos協(xié)議提供多單元間數(shù)據(jù)強(qiáng)一致能力;批量關(guān)閉中心集群全部實(shí)例,集群30秒內(nèi)完成單元選主切換,數(shù)據(jù)零丟失
  6. 計(jì)算存儲分離,徹底解決傳統(tǒng)機(jī)型計(jì)算資源和存儲資源固定配比問題,搭配容器化技術(shù),大促峰值期間將數(shù)據(jù)庫彈性部署運(yùn)行在離線任務(wù)主機(jī),落地零擴(kuò)容成本支持雙十一大促

X-DB***亮相在2017年雙11的舞臺,平穩(wěn)支撐零點(diǎn)峰值32.5萬筆/秒,開啟了阿里數(shù)據(jù)庫體系從分庫分表時(shí)代向分布式集群時(shí)代的大門。技術(shù)之路永無止境,我們今天的技術(shù)現(xiàn)狀離業(yè)務(wù)對我們的要求還有很大的差距。但是千里之行,始于足下,借用《魔戒》里的經(jīng)典臺詞:“There’s some good in this world, Mr. Frodo. And it’s worth fighting for.”

 

作者:諶文濤,花名俞月,2014年加入阿里巴巴數(shù)據(jù)庫團(tuán)隊(duì),目前負(fù)責(zé)X-DB 1.0架構(gòu)在集團(tuán)環(huán)境的落地。 

責(zé)任編輯:龐桂玉 來源: 阿里巴巴數(shù)據(jù)庫技術(shù)
相關(guān)推薦

2018-01-23 10:55:07

阿里數(shù)據(jù)庫技術(shù)雙11

2021-08-18 17:16:10

Git分片讀寫分離

2015-07-24 12:21:14

wot 2015移動開發(fā)者大會

2014-11-21 15:07:01

阿里巴巴雙11

2015-11-11 21:43:52

阿里云雙11阿里巴巴

2017-12-02 21:03:05

WODT阿里巴巴古墨

2021-03-02 08:01:15

MySQL數(shù)據(jù)庫數(shù)據(jù)庫加密

2019-01-29 15:25:11

阿里巴巴數(shù)據(jù)庫分庫分表

2017-04-19 09:40:55

雙11阿里巴巴

2022-09-05 10:06:21

MySQL外循環(huán)內(nèi)循環(huán)

2014-02-26 11:22:38

2012-06-20 10:15:21

技術(shù)風(fēng)云會

2010-06-28 10:43:47

2017-08-15 09:04:10

架構(gòu)雙11技術(shù)

2015-11-20 13:29:19

雙11阿里云異地多活

2024-04-25 09:14:57

數(shù)據(jù)庫Mysql阿里巴巴

2017-01-20 16:00:33

阿里巴巴分布式數(shù)據(jù)庫DRDS

2024-07-17 11:40:58

2020-11-03 15:19:14

創(chuàng)新工程阿里

2013-08-22 09:41:52

阿里巴巴去IOE王堅(jiān)
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 日韩精品 | 99久久精品一区二区成人 | 日韩av啪啪网站大全免费观看 | 国产欧美一区二区三区在线播放 | 色婷婷精品国产一区二区三区 | 国产精久久久久久久妇剪断 | 亚洲成人av在线 | 亚洲福利片| 你懂的国产 | av中文字幕在线观看 | 中文字幕一区二区三区在线观看 | 日本午夜网 | 国产精品一码二码三码在线 | 日韩福利| 中文字幕亚洲区一区二 | 欧美一区二区小视频 | 国产98色在线 | 日韩 | 男人天堂社区 | 国产综合精品一区二区三区 | 天天干天天爱天天爽 | 久久精品国产一区二区电影 | 羞羞网站在线观看 | 91精品国产91久久久久久 | 亚洲欧美中文日韩在线v日本 | 亚洲精品女优 | 欧美激情一区二区三区 | 在线四虎 | 91在线免费观看 | 97精品国产 | 祝你幸福电影在线观看 | 亚洲成人久久久 | 亚洲一区视频 | 中文字幕一区二区三区四区五区 | 亚洲九九 | 草在线 | 宅女噜噜66国产精品观看免费 | 成人精品一区二区三区 | 国产精品免费一区二区三区四区 | 99精品一级欧美片免费播放 | 国产欧美精品 | 日韩a在线 |