成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

小紅書將業界最大數據湖遷至阿里云

云計算
經過一年奮戰,小紅書已把業界體量最大的數據湖0故障遷上阿里云。據統計,該項目共有1500人參與,遷移數據500PB。

記者獲悉,經過一年奮戰,小紅書已把業界體量最大的數據湖0故障遷上阿里云。據統計,該項目共有1500人參與,遷移數據500PB。

作為中國頭部互聯網公司之一,小紅書月活已過3億,其數據湖存儲了過去11年的所有原始數據,包括結構化、半結構化和非結構化數據。近年來,隨著業務的高速增長,小紅書在線處理數據的需求不斷增加,同時離線處理所積累的歷史問題,也會在未來的切換中帶來更多成本與風險。

為此,2023年11月,小紅書發起遷云項目——計劃一年內,把小紅書的數據湖搬上阿里云。

遷移至阿里云上后,數據湖可通過多個OSS Bucket支持納入統一資源池,實現多個Bucket共享資源池內的OSS吞吐及QPS能力。這樣的流控能力在面向小紅書復雜業務場景,可靈活調配資源,高效利用吞吐性能,降低不同業務租戶間的互相影響。阿里云原生HDFS+DLA元數據可實現無縫對接Hadoop EMR體系,支持元數據線性擴展能力,輕松應對小紅書數百PB數據下的元數據線性增長。

較于過往業界體量最大的案例,小紅書的本次遷移的數據體量更大。

*注:任務=數據處理過程 (圖片來自小紅書官方公眾號)

據介紹,小紅書的遷云項目經歷了三個階段。第一步,項目組首先解決標準問題,然后根據標準進行治理;第二步,完成治理后,項目在2024年5月正式進入雙跑階段。把數據拷貝到阿里云上,兩邊同時跑數,驗證正確性與及時性;第三步,2024年8月,項目結束雙跑,進入割接階段。阿里云團隊全程在現場保障,順利完成了割接。

2024年11月,小紅書遷云項目正式宣告結束。在0故障的情況下,遷移數據500PB,任務11萬,參與人數1500人,涉及部門40多個。項目涉及產品之多和數據體量之大均創下業界記錄。

責任編輯:鳶瑋 來源: 阿里云
相關推薦

2021-02-02 11:18:52

數據泄露網絡攻擊漏洞

2014-04-16 13:34:19

Facebook數據中心

2023-04-18 07:49:06

2021-06-17 13:40:56

數據泄露漏洞信息安全

2013-06-14 09:35:19

Facebook數據中心散熱

2011-10-18 09:23:43

數據中心冰島災備

2020-12-02 17:20:58

數據倉庫阿里云數據湖

2010-03-31 15:27:51

云計算

2024-03-19 13:07:04

數據湖數據倉庫

2021-05-29 16:30:58

阿里云賈揚清大數據

2014-07-25 15:04:00

阿里云

2018-01-04 08:27:57

大數據云存儲數據湖

2016-01-20 12:07:49

阿里云云棲大會大數據

2022-03-08 13:14:32

數據湖大數據

2023-05-26 06:49:44

2020-10-23 22:43:05

阿里云企業級數據湖

2018-03-29 10:30:25

2017-10-20 14:12:48

發改委政務云云平臺

2016-09-07 15:13:54

數據湖Hadoop大數據

2015-06-24 16:09:06

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 亚洲国产aⅴ成人精品无吗 国产精品永久在线观看 | 四虎影视一区二区 | 婷婷久久网 | 亚洲免费一区 | 欧美一级免费片 | 久久一本| 少妇久久久 | 国产精品久久久久久久久久久久久 | 久久亚洲精品国产精品紫薇 | 中文字幕 在线观看 | 男人天堂久久 | 欧美久 | 国产欧美在线一区二区 | 国产精品美女一区二区 | 成人精品国产 | 日韩影院在线 | 亚洲协和影视 | 狠狠色网 | 一区二区三区久久 | 久久精品色欧美aⅴ一区二区 | 日本午夜视频 | 国产一区二区在线视频 | 欧产日产国产精品v | 日韩中文字幕在线观看 | 日韩欧美国产一区二区 | 国产精品久久片 | 欧美电影免费观看高清 | 福利一区在线观看 | 精品videossex高潮汇编 | 欧美视频免费在线观看 | 嫩呦国产一区二区三区av | 精品久久久久久久久久久 | 国产欧美一区二区精品久导航 | 亚洲视频一区在线播放 | 国产成人短视频在线观看 | 欧美日韩不卡合集视频 | 天天久久 | 一本岛道一二三不卡区 | 日韩欧美在线视频播放 | 爱草在线| 天天色综|