傅杰:集團(tuán)化企業(yè)開(kāi)放數(shù)據(jù)平臺(tái)的構(gòu)建之路
2013年4月26日-27日,由51CTO傳媒集團(tuán)旗下WOT(World Of Tech)品牌主辦的2013大數(shù)據(jù)全球技術(shù)峰會(huì)在北京富力萬(wàn)麗酒店召開(kāi)。本次峰會(huì)將圍繞大數(shù)據(jù)基礎(chǔ)架構(gòu)與上層應(yīng)用的生態(tài)系統(tǒng),解決大規(guī)模數(shù)據(jù)引發(fā)的問(wèn)題,探索大數(shù)據(jù)基礎(chǔ)的解決方案,激發(fā)數(shù)據(jù)挖掘帶來(lái)的競(jìng)爭(zhēng)力,讓數(shù)據(jù)發(fā)出聲音。51CTO作為本次峰會(huì)的主辦方,將全程視頻、圖文直播報(bào)道這場(chǎng)數(shù)據(jù)的盛宴,更多內(nèi)容請(qǐng)點(diǎn)擊專題:2013大數(shù)據(jù)全球技術(shù)峰會(huì)。
2013大數(shù)據(jù)全球技術(shù)峰會(huì)專題
在27日下午的互聯(lián)網(wǎng)與大數(shù)據(jù)專場(chǎng)中,優(yōu)酷土豆數(shù)據(jù)平臺(tái)架構(gòu)師傅杰發(fā)表了主題為“集團(tuán)化企業(yè)開(kāi)放數(shù)據(jù)平臺(tái)構(gòu)建之路”的演講。演講中,傅杰解析了開(kāi)放數(shù)據(jù)平臺(tái)構(gòu)建的方法,并介紹了優(yōu)酷土豆集團(tuán)的開(kāi)放數(shù)據(jù)平臺(tái)。
優(yōu)酷土豆數(shù)據(jù)平臺(tái)架構(gòu)師傅杰
他談到,企業(yè)集團(tuán)化帶來(lái)了物理孤島和邏輯孤島,物理孤島帶來(lái)重復(fù)造輪和資源浪費(fèi),邏輯孤島帶來(lái)數(shù)據(jù)關(guān)聯(lián)問(wèn)題和數(shù)據(jù)標(biāo)準(zhǔn)問(wèn)題。優(yōu)酷土豆解決物理孤島是從集中存儲(chǔ)、統(tǒng)一采集和開(kāi)放計(jì)算的方式。他指出,要把Hadoop平臺(tái)開(kāi)放出去,但要解決身份問(wèn)題、數(shù)據(jù)權(quán)限問(wèn)題、災(zāi)備和安全問(wèn)題,要保證Hadoop安全開(kāi)放,要集成Kerheros,解決用戶身份認(rèn)證問(wèn)題;自定義用戶組;監(jiān)控報(bào)表;開(kāi)放注冊(cè)用戶。
在建設(shè)過(guò)程中,也遇到了許多問(wèn)題,例如,System out、機(jī)房遷移(jaas bug)、公平調(diào)度器故障、JobTracker堆棧滿等。
在解決邏輯孤島方面,是從數(shù)據(jù)易用,封裝數(shù)據(jù)服務(wù),打造數(shù)據(jù)產(chǎn)品三方面入手,形成開(kāi)放的數(shù)據(jù)平臺(tái)。
之后,傅杰介紹了優(yōu)酷土豆集團(tuán)的開(kāi)放數(shù)據(jù)平臺(tái)的具體情況,優(yōu)酷土豆的數(shù)據(jù)平臺(tái)輻射范圍包含推薦、搜庫(kù)、廣告、分層、運(yùn)營(yíng)、拍客、指數(shù),數(shù)據(jù)平臺(tái)的架構(gòu)、平臺(tái)的服務(wù)等。
以上是51CTO.com記者從一線為您帶來(lái)的精彩報(bào)道。后續(xù)我們還有更加精彩的獨(dú)家報(bào)道,敬請(qǐng)關(guān)注。