邊緣智能釋放人工智能潛力 處理大量數(shù)據(jù)的能力變得越來越重要

隨著人工智能(AI)和機(jī)器學(xué)習(xí)(ML)的發(fā)展，以算法形式處理大量數(shù)據(jù)的能力變得越來越重要。

為了使數(shù)十億連接設(shè)備上的數(shù)據(jù)應(yīng)用程序能夠更高效、更有價值德爾使用，處理從集中式第三方云服務(wù)器遷移到分散的、本地化的設(shè)備上(通常稱為邊緣計(jì)算)的勢頭越來越大。根據(jù)SAR Insight & Consulting最新的人工智能/機(jī)器學(xué)習(xí)嵌入式芯片數(shù)據(jù)庫顯示，在2019-2024年，全球支持人工智能的設(shè)備和邊緣計(jì)算的CAGR將以64.2%的速度增長。

在邊緣進(jìn)行數(shù)據(jù)計(jì)算，不需要網(wǎng)絡(luò)

Edge AI將算法和處理數(shù)據(jù)盡可能地接近物理系統(tǒng)，在這種情況下，本地需在硬件設(shè)備上進(jìn)行處理。其優(yōu)點(diǎn)是數(shù)據(jù)處理不需要連接。數(shù)據(jù)的計(jì)算發(fā)生在網(wǎng)絡(luò)的“邊緣”，也就是數(shù)據(jù)被開發(fā)的地方，而不是集中數(shù)據(jù)處理中心。對于設(shè)備、技術(shù)和組件提供商來說，在邊緣處理的能力和應(yīng)該能力之間取得適當(dāng)?shù)钠胶鈱⒊蔀樽钪匾臎Q策之一。

在生產(chǎn)深度學(xué)習(xí)預(yù)測模型的訓(xùn)練和推理引擎中，邊緣處理通常需要來自Intel、Qualcomm、Nvidia和谷歌等供應(yīng)商的x86或Arm處理器，以及一個AI加速器，并且能夠處理10-14個核心高達(dá)2.5 GHz的速度。

為時間敏感的應(yīng)用程序提供實(shí)時結(jié)果

隨著市場的擴(kuò)大，計(jì)算數(shù)據(jù)和計(jì)算能力的服務(wù)和應(yīng)用需求也在不斷擴(kuò)大，這會對推動邊緣計(jì)算發(fā)展起到積極作用。由于可靠、可適應(yīng)性強(qiáng)的情境資訊的需求不斷變化,?大多數(shù)數(shù)據(jù)都遷移到本地的設(shè)備上處理，從而獲得更快的性能和響應(yīng)時間(少于幾毫秒)、更低的延遲、更低的電源效率。此外，通過在設(shè)備上保留數(shù)據(jù)提高了安全性，以及通過最小化數(shù)據(jù)中心傳輸而節(jié)省了成本。

邊緣計(jì)算的最大好處之一是能夠?yàn)闀r間敏感的需求確保實(shí)時結(jié)果。在許多情況下，傳感器數(shù)據(jù)可以直接收集、分析和交流，而無需將數(shù)據(jù)發(fā)送到時間敏感的云中心。

關(guān)鍵是，跨各種邊緣設(shè)備的可伸縮性能夠幫助加速本地決策。為提供即時和可靠數(shù)據(jù)的能力建立了基礎(chǔ)，也提高了客戶參與度，在許多情況下，還挽救了生命。想想家庭安全、航空航天、汽車、智能城市、醫(yī)療保健等這些行業(yè)——這對診斷和設(shè)備性能的即時解釋至關(guān)重要。

人工智能優(yōu)勢的發(fā)展

亞馬遜、谷歌、蘋果、寶馬、大眾、特斯拉、Airbus, Fraunhofer, Vodafone,?Deutch?Telekom, Ericsson,?和HarTIng等創(chuàng)新機(jī)構(gòu)，現(xiàn)在都在為AI下著巨大的砝碼。此外，許多這樣的公司正在建立行業(yè)協(xié)會，如歐洲邊緣計(jì)算聯(lián)盟(EECC)，它可幫助教育和激勵中小型和大型企業(yè)，以推動制造業(yè)和其他工業(yè)市場采用邊緣計(jì)算。

歐洲邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟旨在支持歐洲和世界各地的大中小型企業(yè)采用相關(guān)技術(shù)，尤其側(cè)重于 OT 技術(shù)與 ICT 技術(shù)的融合。ECCE將推動在制造業(yè)，運(yùn)營商以及企業(yè)與 IoT 等相關(guān)領(lǐng)域解決方案中采用邊緣計(jì)算技術(shù)，注重發(fā)現(xiàn)和推動現(xiàn)有的技術(shù)，標(biāo)準(zhǔn)的應(yīng)用并持續(xù)貢獻(xiàn)，使得聯(lián)盟成員的產(chǎn)品更加符合用戶對邊緣計(jì)算解決方案的需求。聯(lián)盟成立的目標(biāo)包括：邊緣計(jì)算參考架構(gòu)模型（ECCE RAMEC）、邊緣計(jì)算全棧技術(shù)實(shí)現(xiàn)（邊緣計(jì)算節(jié)點(diǎn)）、識別產(chǎn)業(yè)發(fā)展的短板并通過對不同路徑的評估比較找到最佳實(shí)踐（ECCE Pathfinders），與相關(guān)產(chǎn)業(yè)/標(biāo)準(zhǔn)化組織積極互動，對聯(lián)盟的成果進(jìn)行推廣。

邊緣計(jì)算的參考體系結(jié)構(gòu)模型

從邊緣往下看

人工智能和機(jī)器學(xué)習(xí)的發(fā)展為創(chuàng)造智能設(shè)備提供了大量的機(jī)會，這些設(shè)備能夠感知周圍的環(huán)境。對智能機(jī)器的需求將受益于多感官數(shù)據(jù)的增長，這些數(shù)據(jù)能夠以更高的精度和性能進(jìn)行計(jì)算。邊緣計(jì)算可以將人工智能數(shù)據(jù)轉(zhuǎn)化為幾乎所有行業(yè)的“實(shí)時”價值。智能邊緣是人工智能技術(shù)發(fā)展和成功的下一個階段。

延伸閱讀

華為攜手多家合作伙伴，成立歐洲邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟

在第二屆歐洲邊緣計(jì)算論壇（ECF）上，華為與多家合作伙伴達(dá)成意向，將共同努力，聯(lián)合建立歐洲邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟（ECCE）。ECCE旨在為智能制造、運(yùn)營商、企業(yè)與IoT等領(lǐng)域的廠商與組織提供全方位的邊緣計(jì)算產(chǎn)業(yè)合作平臺，通過產(chǎn)業(yè)協(xié)同，開放創(chuàng)新和示范推廣，深化行業(yè)數(shù)字化轉(zhuǎn)型，共同推進(jìn)邊緣計(jì)算產(chǎn)業(yè)的蓬勃發(fā)展。

邊緣計(jì)算橫跨多個領(lǐng)域，涉及網(wǎng)絡(luò)聯(lián)接、數(shù)據(jù)聚合、芯片、傳感、行業(yè)應(yīng)用多個產(chǎn)業(yè)鏈角色。根據(jù)IDC統(tǒng)計(jì)數(shù)據(jù)顯示，到2020年將有超過500億的終端和設(shè)備聯(lián)網(wǎng)，其中超過50％的數(shù)據(jù)需要在網(wǎng)絡(luò)邊緣側(cè)分析、處理與存儲，邊緣計(jì)算市場之大顯而易見。另外，邊緣計(jì)算和5G相輔相成，5G 的加速推進(jìn)也會促進(jìn)邊緣計(jì)算的大規(guī)模部署。邊緣計(jì)算產(chǎn)業(yè)發(fā)展已進(jìn)入重要機(jī)遇期。

除了華為以外，此次參與合作的還有ADI、ARM、龐巴迪、貝加萊自動化、德國人工智能研究中心（DFK）、IBM、英特爾、庫卡等來自世界各地不同行業(yè)的公司。

邊緣智能：現(xiàn)狀和展望

（摘自：湖南大學(xué)信息科學(xué)與工程學(xué)院，國家超級計(jì)算長沙中心）?

以云計(jì)算為代表的集中式處理模式將無法高效地處理邊緣設(shè)備產(chǎn)生的數(shù)據(jù)，無法滿足人們對服務(wù)質(zhì)量的需求。其劣勢主要體現(xiàn)在以下兩個方面。

●?實(shí)時性不夠。在云計(jì)算服務(wù)模式下，應(yīng)用需要將數(shù)據(jù)傳送到云計(jì)算中心進(jìn)行處理，這增大了系統(tǒng)的時延。以無人駕駛汽車為例，高速行駛的汽車需要在毫秒級的時間內(nèi)響應(yīng)，一旦由于數(shù)據(jù)傳輸、網(wǎng)絡(luò)等問題導(dǎo)致系統(tǒng)響應(yīng)時間增加，將會造成嚴(yán)重的后果。

●?帶寬不足。邊緣設(shè)備產(chǎn)生的大量數(shù)據(jù)全部傳輸至云計(jì)算中心，給網(wǎng)絡(luò)帶寬造成了極大的壓力。例如，飛機(jī)波音787每秒產(chǎn)生的數(shù)據(jù)超過5 GB，但飛機(jī)與衛(wèi)星之間的帶寬不足以支持?jǐn)?shù)據(jù)的實(shí)時傳輸。

邊緣計(jì)算模型應(yīng)運(yùn)而生。邊緣計(jì)算是部署在邊緣終端設(shè)備和云計(jì)算中心之間的一種新型計(jì)算模型。邊緣計(jì)算的資源是指從數(shù)據(jù)源到云計(jì)算中心路徑上的任意計(jì)算和網(wǎng)絡(luò)資源，是一個連續(xù)系統(tǒng)。在該模式下，邊緣設(shè)備上亦有計(jì)算。邊緣計(jì)算具有幾個明顯的優(yōu)點(diǎn)：首先，邊緣設(shè)備處理了部分產(chǎn)生的臨時數(shù)據(jù)，不再需要將全部數(shù)據(jù)上傳至云端，只需要傳輸有價值的數(shù)據(jù)，這極大地減輕了網(wǎng)絡(luò)帶寬的壓力，且減少了對計(jì)算存儲資源的需求。其次，在靠近數(shù)據(jù)源端進(jìn)行數(shù)據(jù)處理，能夠大大地減少系統(tǒng)時延，提高服務(wù)的響應(yīng)時間。

而人工智能技術(shù)已成功應(yīng)用于目標(biāo)識別、智能搜索、語言處理、智能交通等領(lǐng)域。然而，由于人工智能方法包含大量的計(jì)算，當(dāng)前人工智能大部分計(jì)算任務(wù)部署在云計(jì)算中心等大規(guī)模計(jì)算資源集中的平臺上，這極大地限制了人工智能帶給人們的便利。

為此，邊緣智能應(yīng)聲而出。邊緣智能是指終端智能，它是融合網(wǎng)絡(luò)、計(jì)算、存儲、應(yīng)用核心能力的開放平臺，并提供邊緣智能服務(wù)，滿足行業(yè)數(shù)字化在敏捷連接、實(shí)時業(yè)務(wù)、數(shù)據(jù)優(yōu)化、應(yīng)用智能、安全與隱私保護(hù)等方面的關(guān)鍵需求。將智能部署在邊緣設(shè)備上，可以使智能更貼近用戶，更快、更好為用戶地提供智能服務(wù)。

邊緣智能面臨的挑戰(zhàn)

人工智能方法主要包括訓(xùn)練和推斷兩部分。訓(xùn)練主要是利用已知結(jié)果的大量數(shù)據(jù)來訓(xùn)練模型，即根據(jù)已有的大量數(shù)據(jù)來擬合模型及參數(shù)。推斷主要是用擬合好的模型對未知結(jié)果的數(shù)據(jù)結(jié)果進(jìn)行預(yù)測。訓(xùn)練過程需要大量的計(jì)算資源和存儲資源。將人工智能部署在邊緣設(shè)備上，主要面臨以下幾個挑戰(zhàn)。

●?計(jì)算、存儲、能耗等資源受限。相比于云計(jì)算中心等大規(guī)模服務(wù)器集群，邊緣計(jì)算的資源是指從數(shù)據(jù)源到云計(jì)算中心路徑上的任意計(jì)算和網(wǎng)絡(luò)資源（如攝像頭、網(wǎng)關(guān)等）。因而，邊緣設(shè)備的計(jì)算、存儲能力往往遠(yuǎn)遠(yuǎn)小于專用服務(wù)器的計(jì)算、存儲能力，無法滿足人工智能訓(xùn)練所需的大量計(jì)算和存儲資源。除此之外，部分邊緣設(shè)備采用蓄電池等小型供電設(shè)備，無法滿足計(jì)算所需的能耗。

●?邊緣網(wǎng)絡(luò)資源不足。根據(jù)Cisco云指數(shù)的預(yù)測，到2021年，全球范圍將有超過500億的終端設(shè)備，每年產(chǎn)生的數(shù)據(jù)總量將達(dá)到847 ZB。相比而言，全球數(shù)據(jù)中心的存儲能力預(yù)計(jì)僅能達(dá)到2.6 ZB，而網(wǎng)絡(luò)流量為19.5 ZB。

●?人工智能在“邊緣”并行困難。人工智能是研究使計(jì)算機(jī)模擬人的某些思維過程和智能行為（如學(xué)習(xí)、推理、思考、規(guī)劃等）的學(xué)科。人工智能模型模擬人腦神經(jīng)元的互聯(lián)關(guān)系，模型復(fù)雜，各組成部分之間依賴性強(qiáng)，在分布式環(huán)境下并行困難。