英特爾發(fā)布全新邊緣平臺,充分滿足企業(yè)AI部署需求
英特爾發(fā)布兩款全新芯片——Sierra Forrest 和 Granite Rapids-D,還宣布一個全新邊緣平臺全面上市。這些產(chǎn)品旨在滿足運營商和企業(yè)在可持續(xù)發(fā)展和AI方面的需求。
英特爾一亮相MWC,就立即打出了一套軟硬件組合拳,旨在滿足5G和邊緣部署對可持續(xù)發(fā)展和AI的需求。
硬件領(lǐng)域更新
我們從硬件看起,這里有兩個值得關(guān)注的重要消息。首先,英特爾發(fā)布了用于5G核心網(wǎng)的至強處理器 Sierra Forest,該處理器將于2024年面世,與上一代芯片相比,單機架性能提高2.7倍。
拋開營銷上的噱頭不談,英特爾公司副總裁兼有線與核心網(wǎng)部門總經(jīng)理Alex Quach告訴記者,“這實際上是為了減少機架的數(shù)量,降低將數(shù)據(jù)中心帶到邊緣所需的能耗?!?
但這是怎么做到的?根據(jù)Alex Quach的說法,Sierra Forrest充分利用了英特爾基礎(chǔ)設(shè)施電源管理器(Intel Infrastructure Power Manager)軟件,該軟件可使芯片在任意特定時間內(nèi),根據(jù)流量需求,動態(tài)地改變電源狀態(tài)(即活躍狀態(tài)與空閑狀態(tài))。這改變了以往做法,即將芯片設(shè)置為始終以最大功率運行。
Alex Quach說,到目前為止,性能一直是服務(wù)提供商的首要標準。但隨著電力成本和限制的增加,以及越來越多的服務(wù)器向邊緣遷移,運營商越來越重視降低能耗。
這就是電源管理器可以一展所長的地方。自2021年發(fā)布Ice Lake以來,英特爾芯片就具備了電源管理器功能。Alex Quach說,從那時起,英特爾就一直在努力通過減少改變狀態(tài)所需的時間,來不斷提高功耗性能。他說,Sierra Forrest這樣的芯片現(xiàn)在可以在納秒級的時間內(nèi),從2.1 GHz的功率降至800 MHz,而無需更多步驟。如果與主要電信供應(yīng)商的商業(yè)應(yīng)用軟件搭配使用,電源管理器可以在運行時為核心網(wǎng)節(jié)省高達30%的能耗。再加上更多的處理器內(nèi)核(Sierra Forrest有288個內(nèi)核),這就是Sierra Forrest性能和功耗改進的原因。
第二個硬件相關(guān)的新聞是關(guān)于英特爾下一代處理器Granite Rapids-D,該處理器內(nèi)置AI功能和英特爾虛擬無線接入網(wǎng)絡(luò)(vRAN)加速功能,將于2025年面世。英特爾表示,目前這款芯片已經(jīng)在提供樣品,其中三星和愛立信已經(jīng)采用了該芯片。
在邊緣進行推理
在軟件方面,英特爾發(fā)布了全新邊緣平臺(EdgePlatform)。更準確地說,它是一個位于服務(wù)器上的模塊化軟件抽象層,可通過儀表板實現(xiàn)基礎(chǔ)架構(gòu)管理、工作負載優(yōu)化和AI開發(fā)功能。具體來說,基于英特爾OpenVINO工具套件的AI功能,主要面向推理用例,而非模型訓(xùn)練。
如果這一切聽起來似曾相識,那是因為英特爾在2023年9月發(fā)布了該平臺,當時它被稱為Project Strata。
英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部軟件工程總經(jīng)理Pallavi Mahajan在新聞發(fā)布會上指出,在云中部署AI與在邊緣部署AI有很大不同。這是因為邊緣的硬件、軟件和操作系統(tǒng)種類繁多,功率和空間有限。她補充說,該平臺旨在應(yīng)對所有這些挑戰(zhàn),讓服務(wù)提供商和企業(yè)都能更輕松地部署邊緣AI。
Futurum Group研究總監(jiān)Ron Westfall表示,該平臺直接解決了"采用和擴展AI的主要痛點"。這與全行業(yè)的趨勢是一致的,即:企業(yè)管理的數(shù)據(jù)越來越多地在數(shù)據(jù)中心或云之外進行處理。Ron Westfall說:“對于保持生成數(shù)據(jù)私密性以及保護所有有價值知識產(chǎn)權(quán)的需求,在本地處理數(shù)據(jù)可以確保企業(yè)遵守相關(guān)法律法規(guī)。“
如果你相信J.Gold Associates公司負責人、分析師JackGold的言論,那么該平臺可能會產(chǎn)生巨大影響,因為"現(xiàn)在可能有85%以上的核心網(wǎng)和RAN系統(tǒng)已經(jīng)基于英特爾硬件運行,而這個平臺是一款極具吸引力,且與現(xiàn)有系統(tǒng)兼容的邊緣系統(tǒng)部署方案。"此外,Jack Gold認為,80%至90%的AI工作負載最終將是推理而非訓(xùn)練。
基本上,數(shù)據(jù)中心目前主要承擔AI訓(xùn)練任務(wù),但AI將越來越多地轉(zhuǎn)移到邊緣。Jack Gold總結(jié)道:“因此,邊緣系統(tǒng)必須經(jīng)過優(yōu)化,這樣才能處理推理工作負載。