新欄目上線｜我是戴小樂-集美貌與才華于一身~

作者：Hu, Wenwen 2021-04-15 19:37:06

戴爾易安信PowerEdge XE8545，通過結(jié)合數(shù)據(jù)處理中的全部組件，最大程度上縮短了“汽車生產(chǎn)中耗時最長組件的時間”，充分提高了系統(tǒng)的工作效率，實現(xiàn)了在數(shù)據(jù)流和計算可能性方面的突破，從而在競品中脫穎而出。

開個新欄目

兩分鐘脫口秀

《我是戴小樂-集美貌與才華于一身》

服務(wù)器打游戲會更爽嗎？

關(guān)注“戴爾科技集團(tuán)”視頻號，觀看視頻

戴爾科技集團(tuán)

「戴小樂聊IT 」正式和大家見面啦！從今天開始我們每周一期和大家來一場IT TALK SHOW~保你有趣、有料、有收獲😊今天，我們就來聊個好玩兒的——服務(wù)器能不能用來打游戲？點擊視頻👆集美貌與才華于一身的戴小樂為您解答

視頻號

如果你喜歡我，下期繼續(xù)聽我嘮嘮~

正如服務(wù)器是因其“用途”

而成為了服務(wù)器

跑游戲是可以

但就像趕鴨子上轎——到處飛

并不能給游戲性能

帶來任何提升

話說回來

即是在服務(wù)器里

也有很多門道

如果選錯了類型

跑特定企業(yè)級應(yīng)用

依然不到發(fā)揮

比如跑AI就得用

專門的服務(wù)器

下面我們就來聊聊

跑AI需要怎樣的服務(wù)器

企業(yè)邁向AI的擔(dān)憂

根據(jù)Gartner《全球IT行業(yè)2020年預(yù)測》：

雖然只有35%的受訪者表示他們已經(jīng)部署了人工智能（比如NLP，ML，圖形化技術(shù)等），但仍有52%的受訪者表示，他們將在接下來的12個月內(nèi)進(jìn)行部署。

同時，IDC在2020年10月發(fā)布的《新興技術(shù)和趨勢的影響：人工智能》白皮書也顯示：

“截至2025年，90%的應(yīng)用程序預(yù)計將在5年內(nèi)使用人工智能技術(shù)，然而，與此同時，卻只有不到15%的組織正在活躍地使用人工智能技術(shù)。”

這種前后不一致的調(diào)查數(shù)據(jù)表明，企業(yè)在向AI解決方案的過渡中仍然具有著很大的挑戰(zhàn)。

[[393397]]

想解決問題，就要抓住關(guān)鍵，那么，企業(yè)在邁向AI解決方案時的難點在哪里呢？

關(guān)鍵在于AI人工智能算法對硬件架構(gòu)有著獨特的要求。

深度學(xué)習(xí)

理想的深度學(xué)習(xí)解決方案依賴GPU來開展最大化的并行處理，由高性能CPU來管理分發(fā)工作，并使用本地存儲作為暫存空間。

機(jī)器學(xué)習(xí)

基于CPU的機(jī)器學(xué)習(xí)技術(shù)依賴于眾多包含大量計算內(nèi)核和大內(nèi)存容量的服務(wù)器。

流分析

使用Spark內(nèi)存處理技術(shù)來進(jìn)行流分析，需要最高的CPU性能和大內(nèi)存容量，以便規(guī)避本地存儲的瓶頸。

推理

推理功能對CPU、本地存儲和吞吐量提出了極致的要求，以便在數(shù)據(jù)被捕獲時，將復(fù)雜的預(yù)測模型實時應(yīng)用于大量數(shù)據(jù)。

其實，系統(tǒng)工作時，AI工作負(fù)載的數(shù)據(jù)處理是一個循環(huán)的過程，它包含著數(shù)百萬個不那么復(fù)雜的計算，同時也需要進(jìn)行組織并行操作和快速移動數(shù)據(jù)，而數(shù)據(jù)通過硬件系統(tǒng)及其組件的速度越快，就可以處理得越快。

此外，服務(wù)器中的每個組件（CPU、GPU、內(nèi)存、存儲）也必須保持和其它組件相近的速度來執(zhí)行任務(wù)，這樣才能消除瓶頸，提升處理的速度。

這就是為什么對于AI工作負(fù)載來說，最重要的一個因素是并行I/O吞吐量。因為AI工作負(fù)載的速度只能與系統(tǒng)中最慢的組件的速度一樣快，所以優(yōu)化服務(wù)器中的組件就顯得非常重要，比如，汽車制造就是一個很好的例子。

[[393399]]

企業(yè)想要造一輛汽車，就必須有發(fā)動機(jī)、底盤、懸架、車身等部件，而這些部件都是需要時間完成的。那么如果想組裝完成一輛汽車，除非這些組件全部完成生產(chǎn)，否則是無法進(jìn)行的。

所以，其實完成一輛汽車生產(chǎn)的訂單時間，主要取決于其中耗時最長的組件生產(chǎn)時間。

而戴爾易安信PowerEdge XE8545，通過結(jié)合數(shù)據(jù)處理中的全部組件，最大程度上縮短了“汽車生產(chǎn)中耗時最長組件的時間”，充分提高了系統(tǒng)的工作效率，實現(xiàn)了在數(shù)據(jù)流和計算可能性方面的突破，從而在競品中脫穎而出。

人工智能基礎(chǔ)架構(gòu)的未來

戴爾科技致力于為客戶提供滿足各種需求的AI和ML解決方案。最新推出的PowerEdge XE8545就是一款人工智能工作負(fù)載的強(qiáng)大動力引擎。

這是一款為優(yōu)化最新行業(yè)技術(shù)而打造的2路4U系統(tǒng)，由人工智能和數(shù)據(jù)分析驅(qū)動的、最新的高性能計算就緒解決方案，使用時，它能讓用戶輕松地在一個系統(tǒng)上運行人工智能、分析和高級計算等工作負(fù)載，同時可對企業(yè)的計算性能進(jìn)行大幅加速。

PowerEdge XE8545適用于開發(fā)、訓(xùn)練和部署先進(jìn)的機(jī)器學(xué)習(xí)模型，為復(fù)雜的高性能計算工作負(fù)載加速，或者托管加速的虛擬化服務(wù)。

1 優(yōu)化的CPU和GPU性能

XE8545使用具備最多核心數(shù)量的第3代AMD EPYC™ Milan處理器，以及最高功率的NVIDIA A100，充分滿足客戶在數(shù)據(jù)處理過程中對于大容量和高性能的需求。

①XE8545將新一代AMD EPYC處理器的最多核心數(shù)量(128)與當(dāng)今可獲取的最高GPU內(nèi)存和帶寬相結(jié)合，突破了AI計算的邊界。

②XE8545使用一組靈活的虛擬化選項來托管多租戶環(huán)境：NVIDIA的vGPU軟件及新的多實例GPU (MIG) 功能。每個A100 GPU可劃分給多達(dá)7個實例，從而提供7倍于V100的性能，充分將利用率最大化。
③XE8545可選擇強(qiáng)勁的40GB/400W GPU或者具有空前高性能的80GB/500W GPU，同時保持高效風(fēng)冷的 (35°C/25°C)數(shù)據(jù)中心環(huán)境。

舉例來說，盡管XE8545已經(jīng)將ResNet50圖像分類訓(xùn)練到了最高質(zhì)量的精度，但花費的時間卻還不到上一代PowerEdge系統(tǒng)的一半。

▲MXNet Training Performance in Minutes (Time to Train, lower is better)

2 加快I/O吞吐量

XE8545通過結(jié)合其全部組件（包括NVLink、PCIe Gen 4.0和NVMe SSD），實現(xiàn)了在數(shù)據(jù)流和計算可能性方面的突破，因而可以在競品中脫穎而出。

1.相比當(dāng)今的加速器，XE8545實現(xiàn)了 6-7倍的機(jī)器學(xué)習(xí)性能 (2倍的HPC性能) ：支持PCIe Gen 4 A100 SXM4 GPU，并通過低延遲無交換機(jī)設(shè)計提供最高的對等帶寬 (600GB/秒) 。

2.提升機(jī)器學(xué)習(xí)訓(xùn)練。通過稀疏矩陣的乘法運算，XE8545實現(xiàn)了20倍的性能增進(jìn)，并提供了比前代產(chǎn)品高出2倍的600GB/秒GPU-GPU通信帶寬。

3 簡化管理

[[393400]]

XE8545通過提供OpenManage全棧管理功能、標(biāo)準(zhǔn)深度機(jī)架以及空氣冷卻能力，簡化了數(shù)據(jù)中心的運營。

①XE8545全面兼容iDRAC和Open Management Enterprise (OME)。因此，在使用過程中，企業(yè)可以通過集成Open Manage來實施、監(jiān)控和維護(hù)數(shù)據(jù)中心。

②通過標(biāo)準(zhǔn)深度機(jī)架和空氣冷卻 (35°C)機(jī)箱，XE8545支持企業(yè)隨時將創(chuàng)新技術(shù)集成到數(shù)據(jù)中心，避免了高昂成本的產(chǎn)生。

4 通過集成的安全特性保護(hù)企業(yè)的數(shù)據(jù)中心

每臺PowerEdge服務(wù)器均具備高網(wǎng)絡(luò)彈性的架構(gòu)，從而將安全性深入集成到從設(shè)計到退役生命周期的每一個階段。

①PowerEdge可以強(qiáng)化安全性，支持AMD Secure Memory Encryption (SME) 和 Secure Encrypted Virtualization (SEV)。

②PowerEdge服務(wù)器可以使用戶在安全的平臺上運行工作負(fù)載，支持加密受信任啟動和硅信任根。

③PowerEdge服務(wù)器可以通過數(shù)字簽名的固件包來保持服務(wù)器固件的安全。

④通過偏移偵測和系統(tǒng)鎖定，PowerEdge服務(wù)器可偵測和糾正未經(jīng)授權(quán)的或惡意的更改。

⑤通過系統(tǒng)擦除功能，PowerEdge服務(wù)器可以安全快速地從存儲介質(zhì)擦除所有數(shù)據(jù)，包括HDD、SSD和系統(tǒng)內(nèi)存。

結(jié)語

XE8545是強(qiáng)大的PowerEdge GPU支持服務(wù)器，它可用于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、高性能計算和GPU虛擬化。使用時，無需對其數(shù)據(jù)中心進(jìn)行重大更改，它為那些尋找最新加速器技術(shù)的客戶提供了絕佳的解決方案。

PowerEdge服務(wù)器代表著人工智能基礎(chǔ)架構(gòu)的未來，它充分發(fā)揮了硬件組件在所有方面的毫無妥協(xié)的潛力。