物聯(lián)網(wǎng)的數(shù)據(jù)洪流強化如何來實現(xiàn)

· 宣布將bfloat16數(shù)據(jù)格式加入下一版本的Armv8－A架構(gòu)，大幅提升基于Arm IP CPU在機器學(xué)習(xí)的訓(xùn)練與推論效能。

· 次世代的Neoverse Zeus（宙斯）平臺將支持bfloat16功能，可為AI運算帶來更佳的機器學(xué)習(xí)能力與運行時間。

· 推出Project Cassini， 將與Arm的生態(tài)系統(tǒng)伙伴合作，開發(fā)平臺標準與參考系統(tǒng)，并以它們?yōu)榛A(chǔ)，在目前已延展到基礎(chǔ)設(shè)施邊緣的標準化平臺安全架構(gòu)（PSA）框架內(nèi)，無縫部署云端原生的軟件堆棧。

第五波計算技術(shù)的融合——人工智能（AI）、5G與物聯(lián)網(wǎng)（IoT）——正持續(xù)加速令人驚訝的變化，并驅(qū)動全新的數(shù)據(jù)消費模型。在僅考慮IoT的情況：盡管還在發(fā)展初期，我們看到它已經(jīng)褪去全球微型傳感器網(wǎng)絡(luò)的原始面貌，進一步擴展至包含更多高性能設(shè)備，包括從智能影像傳感器到自駕汽車。

隨著IoT持續(xù)成長并帶動全球數(shù)字化轉(zhuǎn)型，通往上游云端的數(shù)據(jù)海嘯，讓長期以來針對下游分配優(yōu)化的網(wǎng)絡(luò)基礎(chǔ)設(shè)施遭受打擊。它也促生了一個迫切的需求，即在全球互聯(lián)網(wǎng)架構(gòu)內(nèi)實現(xiàn)更分散的算力分布，而這也導(dǎo)致對Arm Neoverse計算解決方案的需求與日俱增。整個生態(tài)系統(tǒng)已經(jīng)對這個挑戰(zhàn)作出響應(yīng)，而縱觀Arm過去一年內(nèi)的進展， Neoverse正在將其初始愿景轉(zhuǎn)換成今日之現(xiàn)實。

AI從云端擴散，“宙斯”枕戈待旦

展望未來，Arm將專注于為下一代基礎(chǔ)設(shè)施技術(shù)奠定基礎(chǔ)，其中的重中之重是AI的去中心化。

由于大型數(shù)據(jù)集與專屬的算力相當集中的緣故，今日大負荷的AI計算多數(shù)在云端完成，特別是機器學(xué)習(xí)（ML）模型的訓(xùn)練。但若把這些模型應(yīng)用到真實世界中靠近決策點的推論時，以云端為中心的AI模型就會捉襟見肘。數(shù)據(jù)傳輸數(shù)千英里來到數(shù)據(jù)中心進行模型比較時，可能會碰到不少延時的問題，因此，沒有人能保證當結(jié)果返回時仍然對決策有用。時間至關(guān)重要，因此把“智能”從云端分配到邊緣，就顯得合情合理。

得益于已經(jīng)面世的各種解決方案——從云端與基礎(chǔ)設(shè)施都在使用都Arm Neoverse平臺和AI加速技術(shù)，到專門迎合各種端點需求的、具備AI能力的Arm CPU、NPU和GPU——Arm與其合作伙伴在讓AI賦能互聯(lián)網(wǎng)各個層級應(yīng)用方面具有先天優(yōu)勢。但Arm認為這還不夠。Arm最近宣布將把bfloat16數(shù)據(jù)格式加入下一個版本的Armv8－A架構(gòu)中，這將大幅提升基于Arm架構(gòu)的CPU的訓(xùn)練與推理性能。Arm已經(jīng)確認將對bfloat16的支持加入計劃將于明年推出的Neoverse ＂Zeus＂（宙斯）平臺。

在邊緣擴展計算

隨著對決策的要求朝邊緣移動，AI將扮演雙重角色。除了依據(jù)數(shù)據(jù)本身包含的信息作出及時決定之外，當大量的數(shù)據(jù)需要被導(dǎo)引至正確的位置時，AI需要在從流量管理到封包檢驗等方面都發(fā)揮作用。這是一個訓(xùn)練與推論兼顧的問題，而傳統(tǒng)的計算系統(tǒng)無法與之相適應(yīng)。過去，互聯(lián)網(wǎng)邊緣傳統(tǒng)上只是一個網(wǎng)橋，現(xiàn)在正快速變成智能計算平臺，并最終將促成我們稱之為AI Edge的浮現(xiàn)，并在2025年形成一個高達300億美元的計算芯片潛在市場規(guī)模（TAM）。

在邊緣執(zhí)行AI有幾個好處：它可顯著減少到云端的回程，降低延遲，并提升可靠性、效率與安全性。有鑒于當今來自全球設(shè)備部署的洞見來得極快，模型必須需要實時進化，這點已經(jīng)顯現(xiàn)出至關(guān)重要性。

賦能AI邊緣：推出Project Cassini

利用AI邊緣的應(yīng)用程序的成功部署，關(guān)鍵在于提供能夠覆蓋各種功耗與性能需求的多元解決方案。單一廠商的解決方案，并無法滿足所有需求。除了變成以AI為中心，AI邊緣必須是云端原生的、虛擬化（VM或containers）的，同時支持多用戶。最重要的是，它必須是安全無虞。

目前構(gòu)成基礎(chǔ)架構(gòu)邊緣的解決方案來自一個極度多元化的生態(tài)系統(tǒng)，而這個生態(tài)系統(tǒng)也在迅速變革，以滿足這些新產(chǎn)生的需求。為了協(xié)助大家面對這一AI邊緣的變革，Arm宣布推出Project Cassini：這是一個專注于在多元與安全的邊緣生態(tài)系統(tǒng)內(nèi)，確保云端原生體驗的業(yè)界提案。

通過與Arm生態(tài)合作伙伴的協(xié)同努力，Project Cassini將專注于基礎(chǔ)設(shè)施邊緣，開發(fā)平臺標準與參考系統(tǒng)，并以它們?yōu)榛A(chǔ)，在目前已延展到基礎(chǔ)設(shè)施邊緣的標準化平臺安全架構(gòu)（PSA）框架內(nèi)，無縫部署云端原生的軟件堆棧。值得一提的是， Arm與其生態(tài)系統(tǒng)合作伙伴針對安全性做出了大量努力。兩年前Arm推出PSA，讓企業(yè)得以依據(jù)一套通用的需求設(shè)計安全功能，以降低打造產(chǎn)品級IoT安全性相關(guān)的成本、時間與風(fēng)險。今天，Project Cassini將PSA延展至基礎(chǔ)設(shè)施邊緣，可謂更上層樓，目標是讓所有最基本的安全需求標準化。

持續(xù)演進的挑戰(zhàn)

Arm預(yù)計，到2035年全球?qū)⒂幸蝗f億個IoT設(shè)備，這將帶來全新規(guī)模的基礎(chǔ)設(shè)施與架構(gòu)上的挑戰(zhàn)，技術(shù)也需要與時俱進才足以應(yīng)對。在邊緣計算方面，這意味著Arm將持續(xù)大量投資硬件、軟件與工具的開發(fā)，以便為基礎(chǔ)設(shè)施堆棧的每一個點都賦予智能決策能力。另一方面，這也意味著在處理器層級，以及從云端到邊緣到終端設(shè)備的整個網(wǎng)絡(luò)內(nèi)，都將廣泛使用異構(gòu)計算。

關(guān)于Arm

作為計算及互聯(lián)革命的核心，Arm技術(shù)正改變著人們生活及企業(yè)運行的方式。Arm先進的低功耗處理器設(shè)計已應(yīng)用于超過1，500億顆芯片的智能計算，Arm的技術(shù)安全地為電子設(shè)備提供支持，覆蓋從傳感器到智能手機乃至超級計算的多樣化應(yīng)用。結(jié)合我們的物聯(lián)網(wǎng)設(shè)備、連接與數(shù)據(jù)管理平臺，Arm技術(shù)幫助客戶從互聯(lián)設(shè)備中獲得強大且可執(zhí)行的洞察，從而賦能真正的商業(yè)價值。Arm攜手超過1，000家技術(shù)合作伙伴，為從芯片到云端的整個計算領(lǐng)域提供設(shè)計、安全和管理方面的技術(shù)，并在該技術(shù)領(lǐng)域處于業(yè)界領(lǐng)先地位。