使用邊緣計算在本地設備上啟用人工智能

隨著物聯(lián)網(wǎng)(IoT)的發(fā)展，云網(wǎng)絡負擔過重，企業(yè)忽視了安全等關(guān)鍵的云計算問題。所有這些問題的解決方案是在本地設備“Edge ML”上運行機器學習模型。

邊緣計算是一種允許智能設備利用機器和深度學習算法在本地分析數(shù)據(jù)的技術(shù)，從而減少對云網(wǎng)絡的依賴。本文將重點了解邊緣計算的工作原理和功能。

首先，先來了解物聯(lián)網(wǎng)(IoT)  的概念及其對邊緣計算的影響。

一、什么是物聯(lián)網(wǎng)？

物聯(lián)網(wǎng)(IoT)是一種物理項目網(wǎng)絡，其使用預定義的協(xié)議和信息傳感設備將一切連接到互聯(lián)網(wǎng)。該設備通過信息共享和通信，實現(xiàn)智能識別、定位、跟蹤、監(jiān)控和管理。

互聯(lián)網(wǎng)不再只是計算機網(wǎng)絡；其已經(jīng)演變成一個由各種形狀和大小的設備組成的網(wǎng)絡，包括車輛、智能手機、家用電器、玩具、相機、醫(yī)療儀器和工業(yè)系統(tǒng)、動物、人和建筑物，所有的設備都相互連接，所有的通信和共享信息都基于預定義的協(xié)議，以實現(xiàn)智能重組、定位、追蹤、安全可控，甚至個人實時在線監(jiān)控、在線升級和推進。

物聯(lián)網(wǎng)(IoT)是一個概念和范式，其考慮了環(huán)境中普遍存在的各種對象，這些對象可以通過無線和有線連接和獨特的解決方案，相互交互并與其他對象協(xié)作，以創(chuàng)建新服務并實現(xiàn)共同目標。

二、什么是邊緣計算？

邊緣計算作為一種云計算擴展出現(xiàn)，使云服務更接近最終用戶。邊緣計算提供虛擬計算平臺，這些平臺提供通常位于網(wǎng)絡邊緣的處理、存儲和網(wǎng)絡功能。

邊緣服務器是向終端設備提供服務的設備，可以是IoT網(wǎng)關(guān)、路由器和移動網(wǎng)絡基站、汽車或其他位置的小型數(shù)據(jù)中心。邊緣設備是向邊緣服務器請求服務的終端設備，如手機、物聯(lián)網(wǎng)設備和嵌入式設備。

邊緣計算與人工智能的結(jié)合為基于人工智能的應用程序的主要問題提供了可能的答案。這種新的智能模式被稱為邊緣智能。邊緣智能是指在靠近數(shù)據(jù)收集地點的地方，由數(shù)據(jù)收集、緩存、處理和分析的系統(tǒng)和設備組成的網(wǎng)絡，目的是提高數(shù)據(jù)質(zhì)量和速度，同時保護數(shù)據(jù)隱私和安全。

傳統(tǒng)的云端智能需要終端設備將創(chuàng)建或收集的數(shù)據(jù)上傳到遠程云端上，而邊緣智能則在本地處理和分析數(shù)據(jù)，有效保護用戶隱私，減少反應時間，節(jié)約帶寬資源。

何時使用邊緣計算

因此，有效地處理、存儲和處理數(shù)據(jù)變得更加重要。快速有效地處理數(shù)據(jù)尤其重要，以最大限度地減少安全隱患，加快企業(yè)流程。邊緣計算試圖優(yōu)化web應用程序和互聯(lián)網(wǎng)設備，同時減少帶寬利用率和通信延遲。

例如，石油和天然氣裝置通常位于偏遠地區(qū)。邊緣計算通過使處理更接近資產(chǎn)來實現(xiàn)實時分析，從而減少對集中云的高質(zhì)量連接的依賴。

三、邊緣計算是如何工作的？

邊緣計算背后的目標是讓模型存在于網(wǎng)絡邊緣的設備上。然后，ML算法在設備上本地執(zhí)行，無需互聯(lián)網(wǎng)連接來分析數(shù)據(jù)并產(chǎn)生可用結(jié)果。整個過程可以分為四個主要部分。

1.邊緣緩存

邊緣緩存是一種分布式數(shù)據(jù)系統(tǒng)，將邊緣設備及其周圍環(huán)境產(chǎn)生的數(shù)據(jù)以及從互聯(lián)網(wǎng)接收到的數(shù)據(jù)，進行收集和存儲，以支持邊緣用戶的智能應用。在邊緣，數(shù)據(jù)是分散的。

邊緣設備，如監(jiān)控設備和傳感器，收集環(huán)境數(shù)據(jù)。這些數(shù)據(jù)被保存在適當?shù)奈恢茫⑼ㄟ^智能算法進行處理和分析，為最終用戶提供服務。

緩存基于請求冗余。在邊緣緩存中，獲取的數(shù)據(jù)被輸入到智能應用程序中，結(jié)果被傳輸回數(shù)據(jù)存儲的位置。冗余分為類型冗余、數(shù)據(jù)冗余和計算冗余。

數(shù)據(jù)冗余是指智能應用程序的輸入可能是相同的，也可能是部分相同的。考慮到連續(xù)的移動視覺分析，連續(xù)幀之間有很多可比較的像素。一些資源有限的邊緣設備可能需要將捕獲的視頻傳輸?shù)竭吘壏掌鬟M行額外的處理。在使用緩存時，邊緣設備只需要上傳各種像素或幀。邊緣設備可能會重復使用重復段的結(jié)果，以盡量減少過度處理。

計算冗余是指智能應用所需要的計算任務可能是相同的。例如，邊緣服務器向邊緣設備提供圖像識別服務。來自同一環(huán)境的識別任務可能是相同的，例如，來自同一位置的不同用戶的物體識別任務。邊緣服務器可以立即將之前獲得的識別結(jié)果反饋給用戶。

緩存可以存儲在三個位置:宏觀和微觀基站，以及邊緣設備。有兩種類型的材料被稱為流行文件和智能模型。宏基站通常用作邊緣智能中的邊緣服務器，提供存儲數(shù)據(jù)的智能服務。

緩存的交付有兩種方式，一種是從單個基站交付，另一種是基于多個基站之間的協(xié)作從多個基站交付。此外，還仔細研究了緩存的理想內(nèi)容，即基于數(shù)據(jù)冗余的內(nèi)容和基于計算冗余的內(nèi)容。與宏觀和微觀基站相比，邊緣設備往往擁有更少的資源和更大的移動性。由于宏BSs、微BSs和邊緣設備的存儲容量有限，必須解決內(nèi)容替換問題。

2.邊緣訓練

邊緣訓練是一個分布式學習過程，使用存儲在邊緣的訓練集學習所有權(quán)重和偏差的最佳值，以及隱藏的模式。邊緣訓練，與傳統(tǒng)的在強大的服務器或計算集群上進行集中訓練的方法不同，通常發(fā)生在邊緣服務器或邊緣設備上，其通常沒有集中式服務器或計算集群那么強大。

該設備可以通過兩種方式進行訓練:單獨訓練和協(xié)作訓練。單獨訓練是在一個設備上完成的，沒有其他人的幫助，而協(xié)作訓練是指許多設備一起工作，訓練一個共享的算法。由于單獨訓練需要更多的硬件，而這些硬件有時是不可獲得的，現(xiàn)有的大多數(shù)材料都集中在協(xié)同訓練設計上。

邊緣訓練比集中式訓練模式慢得多，在集中式訓練模式中，強大的CPU和GPU可以確保以最短的訓練周期獲得良好的結(jié)果。一些研究人員對加速邊緣訓練感興趣。根據(jù)訓練體系結(jié)構(gòu)，將訓練加速工作分為單獨訓練加速和協(xié)作訓練加速兩類。

單機訓練是一個封閉系統(tǒng)，在單個設備上通過迭代計算獲得最優(yōu)參數(shù)或模式。另一方面，協(xié)作訓練是基于多個設備的協(xié)作，這些設備需要定期聯(lián)系以更新。更新的頻率和更新的成本是影響溝通效率和培訓成功的兩個因素。

該領域的研究主要關(guān)注如何在降低更新頻率和成本的情況下保持模型/算法性能。此外，協(xié)作訓練的開放性使其容易受到惡意用戶的攻擊。還有一些關(guān)于隱私和安全問題的文獻。

3.邊緣推理

邊緣推理是在前向傳遞中使用學習算法，來計算邊緣設備和服務器上的輸出的階段。目前，大多數(shù)AI模型都打算部署在具有強大CPU和GPU的設備上，然而，這在邊緣設置中是不可行的。

通過發(fā)明新的算法來減少硬件需求并自然適合邊緣設置，或者通過壓縮現(xiàn)有的模型來消除推斷過程中的多余操作，使模型適合于邊緣環(huán)境。

在構(gòu)建新方法的情況下，有兩種方法：允許計算機構(gòu)建最優(yōu)模型，即架構(gòu)搜索，以及使用深度可分離卷積和組卷積的人類發(fā)明的架構(gòu)。

目前的模型被壓縮以進行模型壓縮，以創(chuàng)建更薄和更小的模型，這些模型具有更高的計算和能源效率，并且精度損失很低或沒有損失。模型壓縮技術(shù)包括低秩逼近、知識蒸餾、壓縮層設計、網(wǎng)絡剪枝和參數(shù)量化。

4.邊緣卸載

邊緣卸載是一種分布式計算范式，可在邊緣提供緩存、訓練和推理等計算功能。如果單個邊緣設備缺乏支持某個邊緣智能應用程序的能力，則應用程序職責可能會被轉(zhuǎn)移到邊緣服務器或其他邊緣設備。邊緣卸載層透明地向其他三個邊緣智能組件提供計算服務。卸載策略在邊緣卸載中至關(guān)重要，因為其要最大限度地利用邊緣環(huán)境中的可用資源。

云服務器、邊緣服務器和邊緣設備包含可用的計算機資源。設備到云(D2C)卸載、設備到邊緣服務器(D2E)卸載、設備到設備(D2D)卸載和混合卸載是最常用的技術(shù)。

D2C卸載技術(shù)選擇將預處理操作留在邊緣設備上，并將剩余的作業(yè)卸載到云服務器，這可能會大大減少上傳數(shù)據(jù)的數(shù)量和延遲。

D2E卸載方法采用了類似的程序，可以進一步減少延遲和對蜂窩網(wǎng)絡的依賴。

專注于D2D卸載方法中的智能家居場景，其中物聯(lián)網(wǎng)小工具、可穿戴設備和智能手機，協(xié)作執(zhí)行訓練/推理任務。

混合卸載解決方案提供了最大的適應性，充分利用所有可用資源。

邊緣計算的應用

邊緣計算正被用于各個領域，其在本地或網(wǎng)絡邊緣收集、處理、過濾和分析數(shù)據(jù)。邊緣計算用于以下領域：

（1） 醫(yī)療保健

邊緣計算可以通過利用機器學習和自動化來幫助數(shù)據(jù)訪問。其有助于識別需要醫(yī)生快速關(guān)注的有問題的數(shù)據(jù)，以改善患者護理并消除健康事件。

病人的慢性疾病可以通過健康監(jiān)測器和其他可穿戴醫(yī)療設備進行監(jiān)測。其有可能在需要援助時立即通知護理人員，從而挽救生命。此外，手術(shù)機器人必須能夠立即解釋數(shù)據(jù)，以便安全、及時、準確地提供幫助。如果這些設備依賴于在做出判斷之前，將數(shù)據(jù)發(fā)送到云端，后果可能是災難性的。

（2） 建設

邊緣計算主要用于建筑行業(yè)的工人安全，從安全設備、攝像頭、傳感器等收集和分析數(shù)據(jù)。其為組織提供了工作場所安全條件的概述，并保證人員遵守安全法規(guī)。

（3）廣告

零售企業(yè)的有針對性的營銷和信息，取決于現(xiàn)場設備中指定的關(guān)鍵因素，如人口統(tǒng)計信息。在這種情況下，邊緣計算可以幫助保護用戶隱私。其可能會對數(shù)據(jù)進行加密并維護數(shù)據(jù)源，而不是將未受保護的數(shù)據(jù)傳輸?shù)皆贫恕?/p>

（4）制造業(yè)

在制造業(yè)中，邊緣計算被用于監(jiān)控工業(yè)過程，并使用機器學習和實時分析來提高產(chǎn)品質(zhì)量和檢測生產(chǎn)錯誤。其還鼓勵將環(huán)境傳感器納入制造業(yè)務。

邊緣計算還提供有關(guān)庫存組件及其使用壽命的信息，使生產(chǎn)商能夠?qū)\營和設施做出更準確和及時的業(yè)務選擇。

（5）農(nóng)業(yè)

邊緣計算用于農(nóng)業(yè)傳感器，以測量養(yǎng)分密度和耗水量，并改善收成。傳感器會收集環(huán)境、溫度和土壤變量的數(shù)據(jù)，審查它們的影響，以提高農(nóng)業(yè)生產(chǎn)力和保證在最有利的氣候條件下進行收獲。

（6）天然氣和石油

邊緣計算可用于監(jiān)測天然氣和石油設施的安全性。傳感器持續(xù)測量濕度和壓力。為了快速響應，需要有足夠的網(wǎng)絡連接。問題是，這些設施中的大多數(shù)都位于距離較遠、聯(lián)系有限的地方。

因此，將邊緣計算置于此類系統(tǒng)處或附近，可提供增強的連接和持續(xù)監(jiān)控能力。邊緣計算還可以實時檢測設備問題。這些傳感器可以監(jiān)控所有設備產(chǎn)生的能量，包括電動汽車、風電場系統(tǒng)等，并使用電網(wǎng)管理來幫助降低成本和高效地創(chuàng)造能源。

• 自動駕駛汽車

自動駕駛汽車在人行橫道前必須立即停車。依靠遠程服務器來做出這種判斷是不公平的。此外，采用邊緣技術(shù)的汽車可以更有效地進行交互，因為其可以先相互交談，而不是先將有關(guān)事故、天氣狀況、交通或轉(zhuǎn)移的數(shù)據(jù)發(fā)送到遠程服務器。邊緣計算是有益的。

• 智能音響系統(tǒng)

智能音響系統(tǒng)可以學習在本地理解語音命令，以執(zhí)行簡單的命令。即使互聯(lián)網(wǎng)訪問中斷，打開和關(guān)閉燈、或更改恒溫器設置也是可行的。

邊緣計算的優(yōu)點和缺點

（一）優(yōu)點

1. 更快的響應時間

如前所述，在邊緣設備處或附近部署計算進程有助于最大限度地減少延遲。

考慮在同一建筑物內(nèi)移動文件。其需要更長的時間來交換文件，因為與位于全球任何地方的遠程服務器進行對話，然后作為接收到的文件返回。該路由器使用邊緣計算負責整個工作場所的數(shù)據(jù)傳輸，極大地減少了延遲。同時，還節(jié)省了大量的帶寬。

2. 成本效益

邊緣計算節(jié)省了服務器資源和帶寬，從而節(jié)省了成本。當部署云服務來支持企業(yè)或家庭中的大量智能設備時，成本會增加。另一方面，邊緣計算有可能通過將所有這些設備的計算部分重新定位到邊緣來降低成本。

3. 數(shù)據(jù)保護和隱私

在海外服務器上移動數(shù)據(jù)會引起隱私、安全和法律方面的問題。如果被劫持并落入壞人之手，可能會造成嚴重的問題。

邊緣計算使數(shù)據(jù)更接近其來源，同時保持在數(shù)據(jù)規(guī)則的參數(shù)范圍內(nèi)。其允許敏感數(shù)據(jù)在本地處理，而不是轉(zhuǎn)移到云或數(shù)據(jù)中心。因此，數(shù)據(jù)在本地的場所內(nèi)是安全的。

（二）缺點

1. 存儲和成本

即使云存儲的成本降低了，本地端也有額外的成本。這在很大程度上源于邊緣設備存儲容量的發(fā)展。邊緣計算還有一個成本因素，因為必須替換或改進現(xiàn)有的IT網(wǎng)絡基礎設施，以支持邊緣設備和存儲。一些業(yè)務可能會發(fā)現(xiàn)，過渡到邊緣網(wǎng)絡的成本與構(gòu)建和維護傳統(tǒng)IT基礎設施的成本相當。

2. 數(shù)據(jù)丟失

邊緣計算的好處也伴隨著危險。為了盡量減少數(shù)據(jù)損失，在部署系統(tǒng)之前，必須對系統(tǒng)進行良好的規(guī)劃和編程。許多邊緣計算設備應該在收集數(shù)據(jù)后丟棄無用的數(shù)據(jù);然而，如果移除的數(shù)據(jù)是重要的，則數(shù)據(jù)就會丟失，并且在云端的分析是不準確的。

3. 安全風險

在云計算和企業(yè)級別有安全優(yōu)勢，但在本地級別也有安全危險。如果企業(yè)的本地網(wǎng)絡容易受到攻擊，那么讓一個基于云計算的供應商提供一流的安全保障是毫無意義的。

總結(jié)

設備上的機器學習允許在接近數(shù)據(jù)源的地方進行計算，同時在上傳數(shù)據(jù)時保持隱私，從而最大限度地減少了網(wǎng)絡擁塞。通過本文，可了解到邊緣計算的概念、工作原理、優(yōu)缺點及其應用。