繼續(xù)創(chuàng)新的同時(shí)降低云數(shù)據(jù)存儲(chǔ)成本的7個(gè)方法
譯文【51CTO.com快譯】 眼下對(duì)企業(yè)來(lái)說(shuō)日子不好過(guò):面對(duì)經(jīng)濟(jì)衰退威脅,企業(yè)需要嚴(yán)格控制成本,同時(shí)仍需要足夠的技術(shù)投入以保持競(jìng)爭(zhēng)力。有了公共云,很容易根據(jù)需要增減存儲(chǔ)容量,但是訪問(wèn)看似無(wú)限的資源也讓使用量和成本快速且不可預(yù)測(cè)地增長(zhǎng)。
對(duì)于分析和機(jī)器學(xué)習(xí)項(xiàng)目而言尤其如此。數(shù)據(jù)湖非常適合機(jī)器學(xué)習(xí)和數(shù)據(jù)流分析,是企業(yè)開(kāi)發(fā)新產(chǎn)品、更好地為服務(wù)客戶(hù)的有效方式。但由于數(shù)據(jù)團(tuán)隊(duì)能夠在云端輕松啟動(dòng)新項(xiàng)目,因此必須嚴(yán)加管理基礎(chǔ)架構(gòu),以確保所有資源針對(duì)成本進(jìn)行了優(yōu)化,證明花的每一分錢(qián)都是值得的。在當(dāng)前經(jīng)濟(jì)形勢(shì)下,沒(méi)有一家企業(yè)能容忍浪費(fèi)。
但企業(yè)并非無(wú)能為力。強(qiáng)有力的財(cái)務(wù)治理實(shí)踐讓數(shù)據(jù)團(tuán)隊(duì)可以控制甚至降低云成本,同時(shí)仍便于創(chuàng)新。設(shè)立適當(dāng)?shù)姆雷o(hù)機(jī)制以防止團(tuán)隊(duì)使用過(guò)多的資源,并確保工作負(fù)載與正確的實(shí)例類(lèi)型匹配以?xún)?yōu)化成本節(jié)省,這對(duì)于減少浪費(fèi)并確保符合關(guān)鍵的服務(wù)級(jí)別協(xié)議(SLA)大有幫助。
以下是CIO們可以用來(lái)管理云數(shù)據(jù)湖成本的七個(gè)最佳實(shí)踐。這有助于在這個(gè)充滿(mǎn)不確定性的時(shí)期避免不可預(yù)知的賬單,并控制支出,但仍可以讓貴公司進(jìn)行創(chuàng)新、變得更強(qiáng)大。
•監(jiān)測(cè)、監(jiān)測(cè)、監(jiān)測(cè)。成本管理始于準(zhǔn)確了解使用什么資源、何時(shí)使用以及誰(shuí)在使用,至少每天要跟蹤這方面。在作業(yè)、集群和用戶(hù)層面密切跟蹤使用情況,就可以立即識(shí)別浪費(fèi)或效率低下,并進(jìn)行必要的改變??床坏降臇|西是沒(méi)法管理的。
•使用異構(gòu)集群。集群中的節(jié)點(diǎn)可能有不同類(lèi)型的實(shí)例,這取決于工作負(fù)載和不同實(shí)例的成本/可用性。比如說(shuō),集群可能包括按需實(shí)例和AWS競(jìng)價(jià)實(shí)例或谷歌搶占式虛擬機(jī)。采用工具(通常以DIY腳本的形式)可自動(dòng)管理使用情況,以便你在使用最具價(jià)值的基礎(chǔ)架構(gòu),同時(shí)滿(mǎn)足應(yīng)用程序的彈性和可用性要求。
•積極主動(dòng)地自動(dòng)擴(kuò)展。集群不用時(shí)不需要運(yùn)行,根據(jù)需要自動(dòng)啟用和關(guān)閉集群可大幅節(jié)省成本。新冠疫情期間,我們至少有一個(gè)客戶(hù)在閑置15分鐘后關(guān)閉集群,大幅降低成本。這顯然有賴(lài)于應(yīng)用程序的SLA要求,但是對(duì)于開(kāi)發(fā)工作和概念驗(yàn)證工作而言,等待片刻讓集群重新啟動(dòng)應(yīng)該不是問(wèn)題。
•測(cè)試不同的引擎。許多企業(yè)使用多個(gè)決策引擎,比如Spark、Hive和Presto,因?yàn)樗鼈兏髯赃m合不同類(lèi)型的工作負(fù)載。在多個(gè)引擎上測(cè)試一下查詢(xún),看看在哪個(gè)引擎上運(yùn)行最快。這不僅可以為最終用戶(hù)提升性能,還可以使貴公司受益,因?yàn)楦痰牟樵?xún)時(shí)間通常意味著您使用較少的資源。
•使用基于計(jì)劃表的生命周期管理。自動(dòng)創(chuàng)建和銷(xiāo)毀系統(tǒng)以匹配使用模式。比如說(shuō),如果集群通常在早上或高峰交易時(shí)段滿(mǎn)負(fù)荷運(yùn)行,查看運(yùn)行中的作業(yè),看看哪些作業(yè)可以在其他時(shí)段運(yùn)行。
•調(diào)整未充分利用的基礎(chǔ)架構(gòu)。推出新項(xiàng)目和應(yīng)用程序時(shí),容量需求并不總是很明確。基礎(chǔ)架構(gòu)過(guò)度配置,當(dāng)實(shí)際需求變得清晰時(shí),沒(méi)人回過(guò)頭去改動(dòng)基礎(chǔ)架構(gòu)。將基礎(chǔ)架構(gòu)的大小調(diào)整到適當(dāng)?shù)乃健_@需要認(rèn)真制定策略,因?yàn)槿萘咳孕柚С诸A(yù)期的使用高峰。
•教育用戶(hù)。如果數(shù)據(jù)團(tuán)隊(duì)了解更宏觀的業(yè)務(wù)需求和可選擇的路子,會(huì)盡力幫助降低成本。概念證明項(xiàng)目果真需要r4.4xlarge實(shí)例嗎?可能不需要。與他們聊聊當(dāng)前的情況,談?wù)劄槭裁凑{(diào)整基礎(chǔ)架構(gòu)對(duì)大家都有利。我們的一個(gè)客戶(hù)甚至與其團(tuán)隊(duì)一起使用彩色樂(lè)高積木進(jìn)行演練,表明可以如何使用集群中不同類(lèi)型的實(shí)例。幫助您的團(tuán)隊(duì),以便幫助您。
云成本管理旨在優(yōu)化利用率,同時(shí)提供財(cái)務(wù)防范,讓團(tuán)隊(duì)可以在自助服務(wù)環(huán)境中快速行動(dòng),同時(shí)防止意外成本。任何組織應(yīng)經(jīng)常采用這些最佳實(shí)踐,不過(guò)在眼下這種宏觀經(jīng)濟(jì)環(huán)境下尤為重要。使用這些技巧,您將能夠度過(guò)難關(guān),到時(shí)會(huì)有良好的財(cái)務(wù)狀況。
原文標(biāo)題:7 Ways to Reduce Cloud Data Costs While Continuing to Innovate
作者:Ashish Thusoo
【51CTO譯稿,合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文譯者和出處為51CTO.com】