成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

海量分布式關系型數據庫

原創
移動開發 分布式
OceanBase是一個支持海量數據的高性能分布式數據庫系統,實現了數千億條記錄、數百TB數據上的跨行跨表事務,由淘寶核心系統研發部、運維、DBA、廣告、應用研發等部門共同完成。在設計和實現OceanBase的時候暫時摒棄了不緊急的DBMS的功能,例如臨時表,視圖(view),研發團隊把有限的資源集中到關鍵點上,當前 OceanBase主要解決數據更新一致性、高性能的跨表讀事務、范圍查詢、join、數據全量及增量dump、批量數據導入。

2013年4月26日-27日,由51CTO傳媒集團旗下WOT(World Of Tech)品牌主辦的2013大數據全球技術峰會在北京富力萬麗酒店召開。本次峰會將圍繞大數據基礎架構與上層應用的生態系統,解決大規模數據引發的問題,探索大數據基礎的解決方案,激發數據挖掘帶來的競爭力,讓數據發出聲音。51CTO作為本次峰會的主辦方,將全程視頻、圖文直播報道這場數據的盛宴,更多內容請點擊專題:2013大數據全球技術峰會

 

2013大數據全球技術峰會專題

OceanBase是一個支持海量數據的高性能分布式數據庫系統,實現了數千億條記錄、數百TB數據上的跨行跨表事務,由淘寶核心系統研發部、運維、DBA、廣告、應用研發等部門共同完成。在設計和實現OceanBase的時候暫時摒棄了不緊急的DBMS的功能,例如臨時表,視圖(view),研發團隊把有限的資源集中到關鍵點上,當前 OceanBase主要解決數據更新一致性、高性能的跨表讀事務、范圍查詢、join、數據全量及增量dump、批量數據導入。

在4月26日的NoSQL&NewSQL專場論壇中,支付寶高級技術專家盧黃貴先生表了主題為“OceanBase: 海量分布式關系型數據庫”的演講。

關系數據庫發展

1970-72:E.F.Codd 數據庫關系模式

20世紀80年代

***個商業數據庫Oracle V2

SQL成為“數據庫行業標準”

可擴展性

Mainframe:小型機 => 中型機 => 大型機

Sharding:全局索引? 事務? 跨庫查詢?

性能

Disk-based design:SSD? Memory?

開源數據庫:主備同步?鎖? Schema變更?

并發事務管理

使用MVCC保證寫事務不阻塞只讀事務

每行為每次事務保存修改歷史,根據事務ID讀取到指定數據

修改歷史的合并,不在被讀取的多個歷史版本將被定期合并

Btree和Hash修改的原子性保證

寫事務

0.3版,單線程寫+repalce語義,在MemTable層實現SnapShot

0.4版,多線程讀寫事務+完備的DB語義,使用Snapshot+兩階段行互斥鎖控制讀寫事務并發

并發日志回放

以單個事務日志作為并行的最小單位

并行回放的事務隔離性、一致性、原子性保證,并行提交的排序算法

主備同步

日志多線程回放

Innodb:記錄binlog邏輯日志,備機單線程回放

Oracle:記錄物理日志,備機多線程并發回放

OceanBase:記錄邏輯日志(無UNDO),備機多線程并發回放

主備同步協議

Mysql:異步,不保證數據一致性

Oracle

Maximum Performance(異步)

Maximum Protection(強同步)

Maximum Availability(強同步 => 寫本地) 

OceanBase:改進的Oracle MA模式

數據安全主備checksum校驗:保證增量數據的完全一致

tablet副本checksum 每次合并由rs做校驗,保證基線數據的一致

主備集群按行進行checksum,保證主備集群一致

一致性選擇

用戶可以通過sql hint選擇一致性

寫事務必須是一致的,選擇主ups

讀事務可以選擇不一致讀,容忍一定數據延時獲得更好的性能

對于一次導入,全天查詢的olap應用

只讀基準數據提高性能

優化技術舉例

高性能網絡框架:萬兆網卡、減少上下文切換

無鎖隊列:push, pop每秒達到600萬 ~ 1000萬次

避免Linux gettimeofday()調用

定制化內存池:絕大部分事務執行過程中無需動態內存分配

完全避免隨機寫,適合SSD

定制SSD驅動?

OceanBase架構小結

OceanBase = Bigtable + MemSQL

保證數據不丟失,可擴展、高性能、低成本、持續可用

基線數據 + 修改增量,每日合并

分布式存儲引擎:水平擴展 + 自動容錯

數據庫:MVCC,多線程并發回放,UPS定制優化

OceanBase vs 關系數據庫

線性可擴展,無需分庫分表

持續可用:硬件故障、軟件升級、人為故障、etc

線上集群概況

30+應用,***單個應用80臺服務器

線上數據無丟失,無影響業務故障

***表格:收藏夾 10031274509

***qps/tps:45000 / 2500(一次scan 60行)

單日更新數據量:5億條(約120GB redo log)

OLAP業務

***表格:P4P 49412041894

單次請求最多行數:約500萬,RT < 3秒

***導入數據量:SNS每天2TB(4臺機器)

開源

獲取更多信息,請訪問:

http://oceanbase.alibaba-inc.com/

以上是51CTO.com記者從一線為您帶來的精彩報道。后續我們還有更加精彩的獨家報道,敬請關注。

責任編輯:閆佳明 來源: 51CTO
相關推薦

2018-06-07 08:31:33

Oracle分布式內存

2022-05-31 07:58:49

TiDB數據庫開源

2017-07-07 14:41:43

阿里云分布式關系

2023-06-01 07:30:42

分析數據源關系型數據庫

2021-08-30 11:21:03

數據庫工具技術

2018-01-02 20:00:28

數據庫MySQL分布式存儲

2019-07-10 08:00:00

數據庫關系數據庫分布式

2013-11-29 09:58:27

巨彬軟件NoSQL文檔型數據庫

2021-11-08 10:52:02

數據庫分布式技術

2021-12-20 15:44:28

ShardingSph分布式數據庫開源

2023-03-26 12:43:31

數據庫KeyValue

2023-12-06 13:33:09

騰訊云IDC數據庫

2014-06-30 14:20:05

NoSQL數據庫

2023-12-05 07:30:40

KlustronBa數據庫

2018-07-18 09:16:39

關系型非關系型數據庫

2023-11-14 08:24:59

性能Scylla系統架構

2024-03-11 08:57:02

國產數據庫證券

2011-11-29 09:49:16

數據庫其他數據庫NoSQL

2013-03-05 15:36:43

NoSQL分布式系統

2022-03-10 06:36:59

分布式數據庫排序
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 性国产丰满麻豆videosex | 日本在线黄色 | 欧美99久久精品乱码影视 | 成人在线视频观看 | 伊人免费在线 | www成年人视频 | 欧美一区视频在线 | 欧美一区视频 | 国产又色又爽又黄又免费 | 欧美电影网| 精品日韩欧美一区二区 | 99久久免费精品视频 | 久久成人精品视频 | 国产午夜精品一区二区三区四区 | 一区二区三区亚洲 | 成人免费影院 | 天天操 天天操 | 91精品国产综合久久久久 | 成人国产在线视频 | 91麻豆蜜桃一区二区三区 | 精品国产一区二区三区久久 | 免费性视频| 欧美日韩中文字幕在线播放 | 视频1区2区 | 羞羞网站在线观看 | 日韩视频免费看 | 国产成人精品区一区二区不卡 | av一二三区 | 日日噜噜噜夜夜爽爽狠狠视频97 | 玖草资源 | 国产精品久久久久久久久久免费看 | 欧美成人一区二区三区 | 国产精品欧美一区二区三区 | 毛片av免费在线观看 | 久久久久黄| 亚洲巨乳自拍在线视频 | 欧美一级在线 | 成人国产精品免费观看 | 日日摸夜夜添夜夜添精品视频 | 九一在线观看 | 国产综合视频 |