超實(shí)用工具：AWS上的大數(shù)據(jù)分析服務(wù)
AWS在云端為大數(shù)據(jù)分析提供了幾個(gè)公共云交付選項(xiàng)。下面來看下AWS是否符合你所在企業(yè)的路線。
大數(shù)據(jù)的關(guān)鍵就是大。大量結(jié)構(gòu)化和非結(jié)構(gòu)化信息——通常是PB以上——會(huì)讓大多數(shù)傳統(tǒng)數(shù)據(jù)管理方法陷入困境。和政府機(jī)構(gòu)一樣，本地成本會(huì)打破大多數(shù)福布斯全球2000強(qiáng)的公司的預(yù)算。
這也就是云的切入點(diǎn)。諸如AmazonWeb Services的云提供商目前可以提供強(qiáng)大的，節(jié)省成本的方法來支持和分析大數(shù)據(jù)。通常會(huì)根據(jù)使用情況定價(jià)，這些云服務(wù)將徹底改變我們對自身企業(yè)的理解方式。
這不僅僅是數(shù)據(jù)格式化和結(jié)構(gòu)化來驅(qū)動(dòng)有用的報(bào)告。它還是可操作的數(shù)據(jù)，可以提供對業(yè)務(wù)的實(shí)時(shí)查看。我們還可以將此分析功能和動(dòng)態(tài)業(yè)務(wù)流程鏈接起來從而讓企業(yè)可以自我修復(fù)和自我優(yōu)化。這也是其真正價(jià)值的所在。
AWS的大數(shù)據(jù)分析產(chǎn)品有時(shí)讓人迷惑不解，本文將揭開它的神秘面紗。
多種多樣的服務(wù)
當(dāng)你在公共云里做大數(shù)據(jù)分析的時(shí)候首先需要考慮的問題就是數(shù)據(jù)集成，無論你用的是AWS還是其他提供商。你的數(shù)據(jù)需要從你所在企業(yè)的操作性數(shù)據(jù)存儲(chǔ)流入大數(shù)據(jù)系統(tǒng)，而這些很可能是在云中進(jìn)行的。
AWS支持?jǐn)?shù)據(jù)傳輸服務(wù)，例如AWS Direct Connect可以將大數(shù)據(jù)移入云中，也可以從云中移出。但是它并不能進(jìn)行快速遷移。因?yàn)樗遣皇召M(fèi)的，所以當(dāng)你對實(shí)時(shí)性要求不強(qiáng)時(shí)還是可以接受的。
另外一個(gè)中間件類型的服務(wù)是Amazon Kinesis。這是針對大數(shù)據(jù)流實(shí)時(shí)處理的一項(xiàng)云服務(wù)。它所支持的數(shù)據(jù)吞吐量從兆字節(jié)每秒到吉字節(jié)每秒，而且它還能夠處理來自成千上萬不同數(shù)據(jù)源的數(shù)據(jù)流。要考慮從你所在企業(yè)的多個(gè)數(shù)據(jù)源到AWS上的數(shù)據(jù)庫選擇來運(yùn)行數(shù)據(jù)流。
從中間件遷移至實(shí)際數(shù)據(jù)庫，AWS服務(wù)目錄擁有SQL和NoSQL混合的數(shù)據(jù)庫技術(shù)。Amazon DynamoDB是一項(xiàng)可管理的NoSQL數(shù)據(jù)庫服務(wù)，很多企業(yè)已經(jīng)發(fā)現(xiàn)了其價(jià)值。DynamoDB擁有有保證的吞吐量和極小的延時(shí)，這對于那些必須和大數(shù)據(jù)進(jìn)行快速交互的大數(shù)據(jù)項(xiàng)目來說是非常適合的，例如移動(dòng)計(jì)算支持。
Amazon Relational Database Service(RDS)是一個(gè)精心設(shè)計(jì)的關(guān)系型數(shù)據(jù)庫，它能夠?qū)WS云進(jìn)行擴(kuò)展。RDS適合于那些需要保持關(guān)系型模型且規(guī)模不會(huì)太大(大部分不會(huì))的大數(shù)據(jù)系統(tǒng)。對此，你需要Amazon Redshift，它是一個(gè)專門設(shè)計(jì)用來支持大數(shù)據(jù)分析和傳統(tǒng)數(shù)據(jù)倉庫的拍字節(jié)規(guī)模的數(shù)據(jù)庫。
Redshift使用了柱狀存儲(chǔ)技術(shù)和分布式查詢，那些管理本地?cái)?shù)據(jù)倉庫的人應(yīng)該對此非常熟悉。但是Redshift的成本卻不到每年1000美元。
最后，Amazon Elastic MapReduce是一個(gè)基于Amazon ElasticCompute Cloud的Hadoop文件系統(tǒng)框架，它提供map和reduce查詢并且利用核心Hadoop工具。
數(shù)據(jù)庫和Hadoop技術(shù)
Amazon Relational Database Service（RDS）是一個(gè)精心設(shè)計(jì)的關(guān)系型數(shù)據(jù)庫，它能夠?qū)WS云進(jìn)行擴(kuò)展。RDS適合于那些需要保持關(guān)系型模型且規(guī)模不會(huì)太大（大部分不會(huì)）的大數(shù)據(jù)系統(tǒng)。對此，你需要Amazon Redshift，它是一個(gè)專門設(shè)計(jì)用來支持大數(shù)據(jù)分析和傳統(tǒng)數(shù)據(jù)倉庫的拍字節(jié)規(guī)模的數(shù)據(jù)庫。
Redshift使用了柱狀存儲(chǔ)技術(shù)和分布式查詢，那些管理本地?cái)?shù)據(jù)倉庫的人應(yīng)該對此非常熟悉。但是Redshift的成本卻不到每年1000美元。
最后，Amazon Elastic MapReduce是一個(gè)基于Amazon ElasticCompute Cloud的Hadoop文件系統(tǒng)框架，它提供map和reduce查詢并且利用核心Hadoop工具。
總結(jié)
AWS為云端的大數(shù)據(jù)分析提供了幾個(gè)公共云交付功能。AWS技術(shù)是可以滿足大多數(shù)的需求，但是AWS并不是唯一提供大數(shù)據(jù)技術(shù)的云。Google和Microsoft同樣有與之競爭的系統(tǒng)，而且還有一些規(guī)模較小的企業(yè)也在躍躍欲試。但是AWS為那些要建立大數(shù)據(jù)系統(tǒng)的架構(gòu)師和開發(fā)人員提供了一站式的購物服務(wù)——并且其數(shù)據(jù)庫服務(wù)和中間件目錄是十分引人矚目的。
