近年來，人工智能正在從互聯網行業向通信、制造、能源、醫療、政府等各行各業滲透，成為了社會經濟活動中最具變革的力量。得益于5G技術的發展，AI在向這些傳統行業落地應用的過程中，延伸到了網絡的邊緣端：通信運營商開始部署MEC，基于基站中的邊緣計算設施為附近設備產生的數據提供AI分析，鋼鐵廠可基于邊緣計算平臺的支持，實現產品智能質檢模型下發和數據回傳等等，我們可以看到越來越多的AI場景在邊緣端落地應用。

　　據IDC預測，到2023年將有超過50%的新建企業基礎設施被部署在邊緣，而目前這一比例不到10%。AI走到邊緣，意味著什么?

　　IT標準與CT標準的碰撞

　　AI走到邊緣最直接的挑戰是物理環境的變化。AI服務器對云數據中心的空間、散熱等等都有嚴格的規定，可隨著AI場景離人們越來越近，邊緣端受限的物理空間、復雜的環境都在阻礙著AI向邊緣的廣泛落地。

　　在這些不同環境的背后，其實是云端數據中心IT(Information Technology)標準與邊緣端CT(Communication Technology )標準有著本質的區別。

　　IT基礎設施是規模化的，比如阿里巴巴等互聯網數據中心，承載其電商業務的服務器有幾十萬臺，面向單一業務呈現出大規模、集中化的趨勢。但是CT的數據中心，也就是傳統的電信數據中心不是規模化的，因為運營商不太需要把流量匯聚到一起，而是要快速得下發下去，到了5G，更是如此，所以CT的規模化效應是遠低于IT的。但電信數據中心的多樣化遠高于IT，因為電信運營商網絡要全覆蓋，不同的環境都要適應，比如青藏高原就很少能有互聯網數據中心，可電信數據中心就不能少，可以看出CT面臨的是多元化的需求。

　　追其根本，是因為IT是以計算為核心，CT是以網絡流量為核心的。IT數據中心以服務器等計算設施為核心，需要更強的計算性能，更大的體積，設備一般深度80厘米以上，可達120厘米，也因為IT設備規模化、集中化，所以環境需求單一。而CT以流量為核心，內部擴展要求低，所以設備更加小巧，深度一般在40厘米左右，可靠性、適應性的要求高。

　　客戶需求對行業規范的挑戰

　　邊緣計算是IT和CT的融合，要在CT的規范中，履行IT功能。兩個行業標準的融合往往是痛苦的，對于執行主體——廠商來說，尤其如此。

　　浪潮就接到過某個通信大廠邊緣AI算力的定制化需求。客戶提出要開發一款可以部署在邊緣端的最強AI算力服務器，讓邊緣數據中心具備最強的AI訓練及推理能力。該服務器需部署于600mm深的電信機柜內，因此服務器設備體積和內部部件的規劃為19英寸寬，10.5英寸(6U)高，46厘米深，支持2個CPU芯片和32顆AI芯片。

　　浪潮AI邊緣服務器前視圖

　　AI芯片是以模組方式而不是傳統的芯片方式供貨給設備商，而該模組主要應用于IT場景，其140*78mm的尺寸是按照IT的大機柜場景設計的，在CT標準的狹小機箱內實現32顆AI芯片是極具挑戰的。浪潮計劃采用8個1U寬，5U高的LC槽位，每槽位4顆AI芯片互連實現32顆AI芯片的規格。

　　受物理空間限制，一塊LC板上只能放置2個AI芯片模組，如何在這樣的槽位內實現4個AI模組是達成該產品規格的關鍵問題。針對該問題，浪潮提出橋接，對扣，Retimer三種解決方案。由于芯片放置于AI模組上，模組同PCB連接時本身需要一對連接器，無論哪種方案都會涉及到AI芯片的25Gbps多次跨越連接器的問題。依據芯片廠家規范，4顆芯片無法多次跨越連接器，也就無法分布在兩塊單板上。但客戶需求是最強的AI算力，若不能實現單槽位4個 AI芯片互聯，服務器計算能力也會下降，無法滿足客戶需求。那就只剩一個選擇，突破廠家規范，解決25Gbps多次跨連接器的信號完整性問題，實現4顆芯片分布在2個板上互連。

　　三種芯片連接方案

　　跨板互連方案最大的技術挑戰是信號完整性設計。因為跨板互連方案不僅會導致信號傳輸距離大幅增加，而且當25Gbps信號多次跨越連接器，會加大25Gbps信號之間的串擾，增大高速信號的抖動。由于該應用無法滿足芯片原廠對系統鏈路的設計規則要求，鮮有廠商敢于嘗試這項挑戰芯片廠商設計規則的研發任務。但為了服務用戶、滿足客戶邊緣端極致化的AI算力需求，浪潮承接了這項高難度的研發任務。

　　規范要向應用妥協

　　要在1U的空間實現4顆AI芯片之間25Gbps跨板連接，就要解決信號跨板互連時的信號完整性問題。而造成信號失真的主要因素包括單板材料、傳輸長度、連接器性能及數量等等。

　　芯片廠商對芯片板卡上的信號損耗、回損、串擾都會有明確的要求：

　　芯片系統的鏈路總插損要小于21dB，其中芯片模組本身會占據8dB，留給系統的損耗為13dB。

　　最好的PCB板材，信號布線最長仍不能超過11英寸;

　　線路信號初始是900mV，到達接收端眼高會降低至0mV，需要靠芯片內部的補償機制回復眼圖。傳輸過程多使用連接器傳輸距離就要變短，同時鏈路串擾要增加。每多使用1個連接器，就需要把總線長縮短0.5英寸。同時鏈路串擾要小于7mV，多使用一次連接器，串擾會增加2mV左右。因此一般最多支持2個連接器。

　　“舉例來說，信號在PCB線路中傳輸就像冰壺在冰面上滑行，滑行的最長距離取決于冰面本身的光滑程度，如果冰壺在冰面遇到障礙發生顛簸，或者和其他冰壺發生碰撞，就會減小冰壺滑行的最大距離。高速信號經過信道中的連接器，就像冰壺遇到冰面的障礙，會引起信號的抖動和衰減，可能會導致信號無法正確的傳輸到接收端。”浪潮研發工程師侯紹錚解釋。

　　“但由于邊緣端空間受限，4個AI模塊無法放置于同一塊單板上，要跨板連接就不得不在鏈路中增加連接器，那么如何系統性的減少鏈路長度、改善鏈路反射點性能、優化信號間的串擾是架構設計、信號完整性設計能力的重要指標，也是產品成功與否的關鍵能力。”

　　通過前期的仿真分析，浪潮選定背扣式，即方案二作為了設計方案。為了保持信號傳輸路徑最短，滿足插損要求，信號線的布線路徑不能如下圖左側黃線路徑設計，必須從連接器內部穿過。而這會導致25Gbps信號穿過25Gbps信號過孔(紅圈)之間發生串擾。浪潮工程師通過合理的布線層設計及創新性使用背鉆技術，改變過孔的長度，規避了線到孔的信號串擾。

　　高速信號過孔情況

　　依據芯片廠家的設計規則，要求AI模組端連接器有效過孔深度小于50mil，而跨板互連連接器又必須滿足stub小于10mil的要求，兩者在本方案中是沖突的。為了解決這一問題浪潮通過對有效孔長及stub對信號完整性的影響逐一仿真分析，并根據項目具體鏈路情況建模，先后仿真分析了3種不同布線方案的24種布線方式，依據該項目仿真結果同廠家規范允許的鏈路設計進行了對比，確定最終設計方案。

　　浪潮PCBA板布線方案

　　盡管項目的設計、器件選型、驗證無論是難度還是復雜度都很高，但隨著設計方案逐漸明晰，設計中的技術風險被一一攻克，浪潮開發的背扣式AI模組跨板互連方案，成功實現4個AI模組多次跨連接器的25Gbps互連，不僅達成了客戶的規格需求，也完善了面向邊緣端AI應用場景的服務器設計規范。

　　眼圖結果

　　從AI到邊緣，客戶應用打破規范是未來的趨勢

　　2019年5G商用牌照正式下發，5G剛剛開始，邊緣計算也剛剛開始。靠近網絡邊緣側的計算是場景化的，是高度應用驅動的，不論是一般性的計算還是邊緣AI，都需要在實際應用中一步步探索。這個過程就是技術上創新的過程。

　　這種技術創新不單單是要滿足更強的計算性能，更低的時延，更寬的帶寬，更是一個以實際需求，客戶實際應用驅動的不同技術標準和規范碰撞和調整的過程。可以預見，隨著5G和AI等技術的發展，面對客戶不同的邊緣AI場景下海量的計算需求，將會有越來越多的廠商去打破行業規范，為邊緣數據中心提供更加多元和創新的解決方案。