引言

Alphago打破圍棋神話、無(wú)人駕駛、機(jī)器人送餐，人工智能已備受全球矚目，現(xiàn)在資本的熱潮也正轉(zhuǎn)向AI市場(chǎng)，智能化大潮已勢(shì)不可擋。當(dāng)下人工智能和云業(yè)務(wù)緊密關(guān)聯(lián)，未來(lái)將變得更加智能，但在這個(gè)智能化的背后，是對(duì)海量數(shù)據(jù)存儲(chǔ)的剛性需求，據(jù)悉，單是一輛無(wú)人駕駛汽車每秒產(chǎn)生的數(shù)據(jù)容量就在1G左右，相當(dāng)于每秒發(fā)送20萬(wàn)封純文本電子郵件，或上傳100張高清數(shù)碼照片。沒(méi)有大容量、超穩(wěn)定的存儲(chǔ)系統(tǒng)，這一切都是無(wú)稽之談。

無(wú)存儲(chǔ)，不智能，那么云存儲(chǔ)技術(shù)是如何實(shí)現(xiàn)的?今天將由UCloud存儲(chǔ)研發(fā)部經(jīng)理李希源給我們帶來(lái)云存儲(chǔ)-—對(duì)象存儲(chǔ)(UFile)技術(shù)深度解析。

對(duì)象存儲(chǔ) UFile

對(duì)象存儲(chǔ)(UFile)是為互聯(lián)網(wǎng)應(yīng)用提供非結(jié)構(gòu)化文件存儲(chǔ)的服務(wù);相對(duì)于傳統(tǒng)硬盤(pán)存儲(chǔ)，UFile具有存儲(chǔ)無(wú)上限、支持高并發(fā)訪問(wèn)、成本更低等優(yōu)勢(shì);解決業(yè)務(wù)架構(gòu)的文件存儲(chǔ)問(wèn)題，有效降低海量文件的存儲(chǔ)成本，支持熱點(diǎn)數(shù)據(jù)的高并發(fā)訪問(wèn)，提升終端用戶訪問(wèn)體驗(yàn)。

單地域UFile存儲(chǔ)架構(gòu)集群介紹

單地域UFile架構(gòu)大體可劃分為6大集群：

1. ULB實(shí)現(xiàn)外網(wǎng)的對(duì)接及接入層的負(fù)載均衡及容災(zāi)處理，主要實(shí)現(xiàn)外網(wǎng)IP地址的綁定及接入層集群的秒級(jí)異常剔除，該模塊通過(guò)定期向接入層模塊端口發(fā)送心跳檢測(cè)接入層模塊的可用性，在發(fā)現(xiàn)異常時(shí)及時(shí)進(jìn)行異常模塊的剔除
2. 接入層提供文件訪問(wèn)服務(wù)，該模塊為無(wú)狀態(tài)設(shè)計(jì)，因此可以平行擴(kuò)容及縮容
3. 索引層保存文件對(duì)象的元數(shù)據(jù)信息，包括對(duì)象名稱、對(duì)象大小、創(chuàng)建時(shí)間、存儲(chǔ)位置等信息
4. 存儲(chǔ)層是實(shí)際存儲(chǔ)文件數(shù)據(jù)的模塊集群，主要實(shí)現(xiàn)文件數(shù)據(jù)的多份分布及高可靠存儲(chǔ)
5. 數(shù)據(jù)處理層主要實(shí)現(xiàn)UFile圖片及數(shù)據(jù)的處理，包括圖片的實(shí)時(shí)裁剪、縮放、旋轉(zhuǎn)、水印、格式轉(zhuǎn)換、信息獲取操作，以及使用客戶自己的通用計(jì)算鏡像對(duì)數(shù)據(jù)進(jìn)行處理
6. 名字服務(wù)主要實(shí)現(xiàn)索引層、存儲(chǔ)層及數(shù)據(jù)處理層模塊的容災(zāi)剔除，以上3個(gè)集群的模塊會(huì)定期在名字服務(wù)注冊(cè)自身的服務(wù)，當(dāng)其中有部分模塊因機(jī)器異常或者網(wǎng)絡(luò)中斷導(dǎo)致無(wú)法提供服務(wù)時(shí)，名字服務(wù)會(huì)將該機(jī)器從名字中剔除，并且通知接入層，從而實(shí)現(xiàn)后臺(tái)模塊的容災(zāi)剔除。

主要從以下三點(diǎn)解析：

• UFile索引層設(shè)計(jì)
• UFile存儲(chǔ)層設(shè)計(jì)
• UFile存儲(chǔ)路由算法設(shè)計(jì)

UFile索引層設(shè)計(jì)

UFile索引層為一套分布式KV存儲(chǔ)系統(tǒng)，其主要目標(biāo)是保證UFile對(duì)象元數(shù)據(jù)的高性能、高可靠、高可用及可擴(kuò)展的存儲(chǔ)，其主要分成2層架構(gòu)：

1. 索引接入集群，主要解決索引存儲(chǔ)集群的管理及元數(shù)據(jù)的分布，這一層模塊為無(wú)狀態(tài)設(shè)計(jì)，通過(guò)名字服務(wù)實(shí)現(xiàn)異常狀態(tài)的容災(zāi)剔除
2. 索引存儲(chǔ)集群，實(shí)現(xiàn)對(duì)象元數(shù)據(jù)的分布式存儲(chǔ)，每個(gè)對(duì)象元數(shù)據(jù)將存儲(chǔ)3份，保證數(shù)據(jù)的可靠性及高可用性，同時(shí)對(duì)象存儲(chǔ)采用SSD作為存儲(chǔ)介質(zhì)，保證了元數(shù)據(jù)存儲(chǔ)的高并發(fā)低延時(shí)訪問(wèn)特性。該模塊采用固定集群規(guī)模的方式進(jìn)行管理，每個(gè)集群支撐的存儲(chǔ)量、訪問(wèn)量固定，存儲(chǔ)可實(shí)現(xiàn)以集群為單位的水平擴(kuò)容，保障業(yè)務(wù)不斷增長(zhǎng)情況下的高性能穩(wěn)定訪問(wèn)支持

UFile存儲(chǔ)層設(shè)計(jì)

存儲(chǔ)層包括3中類型模塊集群：

• 存儲(chǔ)節(jié)點(diǎn)，該模塊按照固定大小的集群(稱為Set)進(jìn)行組織和管理，每個(gè)集群支撐的存儲(chǔ)量及訪問(wèn)量規(guī)格固定，該模塊可根據(jù)存儲(chǔ)量需求橫向進(jìn)行***擴(kuò)展，從而實(shí)現(xiàn)客戶無(wú)存儲(chǔ)量上限的數(shù)據(jù)存儲(chǔ)。每個(gè)對(duì)象數(shù)據(jù)在存儲(chǔ)層存儲(chǔ)3份數(shù)據(jù)，通過(guò)對(duì)異常情況的及時(shí)處理及壞盤(pán)的及時(shí)修復(fù)，保證數(shù)據(jù)極高的可靠性(99.99999999%)

• SetMaster，該模塊進(jìn)行Set狀態(tài)的管理，接入集群通過(guò)SetMaster決定上傳的對(duì)象數(shù)據(jù)的存儲(chǔ)集群，并執(zhí)行數(shù)據(jù)的存儲(chǔ)操作

• OsdMaster，該模塊每個(gè)Set有一套，實(shí)現(xiàn)Set內(nèi)部的存儲(chǔ)路由管理，并對(duì)各塊磁盤(pán)的狀態(tài)進(jìn)行監(jiān)控，及時(shí)剔除異常磁盤(pán)

UFile存儲(chǔ)路由算法設(shè)計(jì)

UFile存儲(chǔ)集群采用無(wú)中心設(shè)計(jì)，數(shù)據(jù)存儲(chǔ)采用固定的路由算法進(jìn)行存儲(chǔ)，因?yàn)榇鎯?chǔ)集群的規(guī)模是固定的，因此路由表也是固定，這就保證了存儲(chǔ)系統(tǒng)的簡(jiǎn)單性及穩(wěn)定性。下面詳細(xì)介紹UFile數(shù)據(jù)存儲(chǔ)層的路由算法設(shè)計(jì)。

在存儲(chǔ)集群上線時(shí)，每個(gè)集群的OsdMaster將該集群的磁盤(pán)信息進(jìn)行組織，生成一個(gè)存儲(chǔ)路由表，該路由表的每個(gè)項(xiàng)目對(duì)應(yīng)3塊分布在不同機(jī)架及存儲(chǔ)機(jī)器上的磁盤(pán)，對(duì)象數(shù)據(jù)將按照該路由表指定的位置進(jìn)行存儲(chǔ)。

每個(gè)存儲(chǔ)在UFile上的對(duì)象數(shù)據(jù)將被切分成若干個(gè)4MB的數(shù)據(jù)塊，稱為分片。UFile為每個(gè)對(duì)象分配一個(gè)單集群內(nèi)部唯一的對(duì)象ID，通過(guò)對(duì)象ID和分片編號(hào)拼接獲得分片ID，通過(guò)字符串哈希算法獲得哈希值，并在路由表中找到該分片存儲(chǔ)的3塊磁盤(pán)位置，由UFile接入模塊將該分片數(shù)據(jù)提交到3塊磁盤(pán)上。

當(dāng)單塊磁盤(pán)出現(xiàn)異常時(shí)，OsdMaster會(huì)發(fā)現(xiàn)該情況并將該磁盤(pán)標(biāo)記為異常狀態(tài)，接入層寫(xiě)入該數(shù)據(jù)時(shí)，將只寫(xiě)入兩份數(shù)據(jù)，磁盤(pán)修復(fù)后，將從這兩份數(shù)據(jù)中拷貝一份數(shù)據(jù)到已修復(fù)磁盤(pán)，恢復(fù)數(shù)據(jù)的多份高可靠存儲(chǔ)。當(dāng)出現(xiàn)一個(gè)哈希表項(xiàng)中有2塊磁盤(pán)不可使用的情況下，為保證數(shù)據(jù)安全性，該存儲(chǔ)集群將不允許寫(xiě)入操作，寫(xiě)入操作將被切換到其他集群提供服務(wù)，從而保證UFile讀寫(xiě)的高可用性。

UFile功能優(yōu)勢(shì)：

1. 海量存儲(chǔ)

存儲(chǔ)空間無(wú)上限，無(wú)需考慮存儲(chǔ)空間擴(kuò)容問(wèn)題，單文件***支持5TB。適用于音視頻、圖片分享等UGC類應(yīng)用海量文件存儲(chǔ)。

2. 高并發(fā)

支持高并發(fā)訪問(wèn)，突破傳統(tǒng)磁盤(pán)I/O限制，滿足高訪問(wèn)量及高下載量業(yè)務(wù)需求。適用于高下載量高訪問(wèn)量應(yīng)用文件的存儲(chǔ)。

訪問(wèn)加速

存儲(chǔ)文件結(jié)合CDN分發(fā)加速，國(guó)內(nèi)外500+加速節(jié)點(diǎn)，有效降低訪問(wèn)延遲、提升下載速度。提升全網(wǎng)終端用戶的訪問(wèn)體驗(yàn)。

3. 安全可用

所存文件保存三份副本，分布存儲(chǔ)于不同存儲(chǔ)集群。即使單份數(shù)據(jù)損壞也不影響存儲(chǔ)文件的可用性，同時(shí)保證文件安全。

4. 內(nèi)容保護(hù)

可通過(guò)身份驗(yàn)證機(jī)制及防盜鏈設(shè)置控制終端用戶訪問(wèn)權(quán)限，避免因內(nèi)容被盜用產(chǎn)生的版權(quán)損失及惡意訪問(wèn)的流量消耗。

5. 圖片處理

提供圖片處理服務(wù)，支持圖片縮放、剪裁、添加水印等功能，并提供多種尺寸設(shè)置，滿足移動(dòng)端、PC端等多終端訪問(wèn)需求。

6. 更低成本

存儲(chǔ)單價(jià)僅為云硬盤(pán)的1/2，下載由CDN分發(fā)，降低存儲(chǔ)及網(wǎng)絡(luò)成本。按實(shí)際使用量計(jì)費(fèi)，無(wú)存儲(chǔ)及帶寬資源閑置浪費(fèi)。

7. 開(kāi)發(fā)支持

完備的API接口及SDK開(kāi)發(fā)包支持，適合多種語(yǔ)言，與原有業(yè)務(wù)無(wú)縫結(jié)合，能夠極大縮短開(kāi)發(fā)周期，幫助業(yè)務(wù)快速上線。

總結(jié)： 

在大量企業(yè)對(duì)數(shù)據(jù)存儲(chǔ)的強(qiáng)需求背景下，UCloud對(duì)象存儲(chǔ)系統(tǒng)應(yīng)運(yùn)而生，本文通過(guò)介紹UFile產(chǎn)品、底層文件存儲(chǔ)系統(tǒng)實(shí)現(xiàn)細(xì)節(jié)、功能優(yōu)勢(shì)，分析UFile如何實(shí)現(xiàn)高可靠及高可用特性，為企業(yè)數(shù)據(jù)服務(wù)保駕護(hù)航，從云存儲(chǔ)技術(shù)出發(fā)，助力各個(gè)領(lǐng)域的企業(yè)更高效、更智能探索數(shù)據(jù)價(jià)值。

【本文是51CTO專欄機(jī)構(gòu)作者“大U的技術(shù)課堂”的原創(chuàng)文章，轉(zhuǎn)載請(qǐng)通過(guò)微信公眾號(hào)(ucloud2012)聯(lián)系作者】

 戳這里，看該作者更多好文