馭光突破算力邊界：曦智科技多款產(chǎn)品及解決方案亮相WAIC

7月4日，2024年世界人工智能大會暨人工智能全球治理高級別會議(WAIC 2024)在上海世博展覽館盛大開幕。曦智科技首次在大會展區(qū)設(shè)立展位，并現(xiàn)場展示了公司光子網(wǎng)絡(luò)和光子計算兩大產(chǎn)品線的多款產(chǎn)品及解決方案。

WAIC 2024觀眾參觀曦智科技展臺

光子網(wǎng)絡(luò)產(chǎn)品線：新型數(shù)據(jù)搬運(yùn)

由于人工智能、云計算、物聯(lián)網(wǎng)等技術(shù)的發(fā)展，當(dāng)今社會正面臨著數(shù)據(jù)量的指數(shù)級增長，算力網(wǎng)絡(luò)的發(fā)展需要高速率、高帶寬、高能效的互連技術(shù)作為支撐。光子技術(shù)憑借其低時延、低功耗的特性，在滿足數(shù)據(jù)中心日益增長的數(shù)據(jù)傳輸需求、提升運(yùn)營效率等方面可發(fā)揮重要的作用。光電混合技術(shù)路線可為算力提升提供全新解決方案，曦智科技正是這一領(lǐng)域的先行者。

曦智科技于2023年發(fā)布了首款兼容PCIe和CXL協(xié)議的數(shù)據(jù)中心計算光互連硬件產(chǎn)品Photowave，為客戶提供芯片間(C2C)、卡間(B2B)、服務(wù)器間(S2S)、機(jī)架間(R2R)等多層級的互連解決方案，實(shí)現(xiàn)大規(guī)模數(shù)據(jù)中心的性能擴(kuò)展。本次WAIC期間，曦智科技展示了Photowave的多個互連解決方案，包括內(nèi)存池和xPU池的擴(kuò)展演示，以及基于OCS的多服務(wù)器多資源互連演示。

曦智科技Photowave計算光互連硬件產(chǎn)品

資源池化和擴(kuò)展是智算中心的一個新技術(shù)方向。曦智科技Photowave系列計算光互連產(chǎn)品可以通過專用板卡和線纜連接服務(wù)器主機(jī)和內(nèi)存、算力、存儲等各類資源盒，實(shí)現(xiàn)資源的按需增減，可大幅提升資源的可伸縮性及利用率，降低資源的擁有成本和智算中心的運(yùn)營成本。本次WAIC期間，曦智科技現(xiàn)場展示了資源擴(kuò)展盒及其與服務(wù)器之間的光連接。

曦智科技光子網(wǎng)絡(luò)產(chǎn)品線多個解決方案亮相本次WAIC

曦智科技同時展示了內(nèi)存擴(kuò)展及其與服務(wù)器之間的光連接。CXL(Compute Express Link)是一種開放性互連協(xié)議，高帶寬、低延遲的特性使其成為連接處理器、加速器、存儲等關(guān)鍵組件的理想選擇。曦智科技的Photowave系列計算光互連產(chǎn)品已率先成功實(shí)現(xiàn)CXL內(nèi)存池化的遠(yuǎn)距離光互連，規(guī)?；瘧?yīng)用后可極大提升不同計算硬件的工作負(fù)載效率，賦能數(shù)據(jù)中心的架構(gòu)解耦和資源池化。

曦智科技工作人員向現(xiàn)場觀眾介紹基于CXL光互連的內(nèi)存擴(kuò)展解決方案

曦智科技還展示了服務(wù)器與集中式OCS的光連接。OCS(Optical Circuit Switching)是一種基于光學(xué)交叉開關(guān)原理的光信號控制交換技術(shù)，其核心功能是在光層面對信號進(jìn)行快速、靈活的路由和切換，使服務(wù)器端口實(shí)現(xiàn)直接光學(xué)互連，過程中無需光電轉(zhuǎn)換，能耗大幅度降低。OCS的靈活部署能力在大模型XPU組網(wǎng)中可以發(fā)揮獨(dú)到的作用，曦智科技在集中式和分布式OCS方面都作了積極的技術(shù)探索和驗(yàn)證。

現(xiàn)場觀眾駐足了解曦智科技光互連解決方案

值得一提的是，曦智科技展示了公司在CPO共封裝光學(xué) (Co-Packaged Optics)方面的提前布局和技術(shù)儲備。共封裝光學(xué)是一項(xiàng)新興封裝技術(shù)，將光收發(fā)器/光引擎和電芯片封裝在一起，不再使用傳統(tǒng)可插拔光模塊而僅保留光口。相較于傳統(tǒng)PCB封裝技術(shù)，CPO在成本、功耗和尺寸上都有明顯優(yōu)勢。目前，曦智科技首個共封裝光學(xué)項(xiàng)目正在落地中。

共封裝光學(xué)渲染圖

光子計算產(chǎn)品線：新型數(shù)據(jù)處理

曦智科技光子網(wǎng)絡(luò)產(chǎn)品線聚焦于算力的橫向擴(kuò)展，而光子計算產(chǎn)品線旨在于單節(jié)點(diǎn)之內(nèi)實(shí)現(xiàn)算力的縱向提升。在目前主流的人工智能計算任務(wù)中，矩陣乘法占據(jù)著核心地位。作為一種線性運(yùn)算，矩陣乘法可以使用光子技術(shù)來加速，可編程的光子矩陣計算在摩爾定律逐漸失效的當(dāng)下可望繼續(xù)支撐算力提升。

參加本次WAIC展覽的還有曦智科技光子計算產(chǎn)品線的光子計算處理器PACE、人工智能推理卡OptiHummingbird、光子計算評估板Gazelle等產(chǎn)品。同時，曦智科技現(xiàn)場演示了如何使用Gazelle評估板求解QUBO類問題，例如伊辛問題、max-cut問題、sat問題等，而這類問題可廣泛應(yīng)用于人工智能、量子計算、網(wǎng)絡(luò)安全等領(lǐng)域，為這些領(lǐng)域的科研和工業(yè)生產(chǎn)提供強(qiáng)有力的支持。

光子計算處理器PACE

人工智能推理卡OptiHummingbird

Gazelle光子計算評估板含矩陣可調(diào)的光學(xué)矩陣乘法器單元，具備目前光子計算領(lǐng)域已知最高的計算精度，其光芯片具有可編程性，可運(yùn)行更多的定制矩陣乘法，通過板載FPGA與光子芯片融合實(shí)現(xiàn)多種計算負(fù)載，如QUBO類問題求解、Transformer模型運(yùn)行，且支持RESNET10、RESNET50等AI應(yīng)用場景。同時，廣大開發(fā)者可通過該平臺共同建設(shè)更多的算法與應(yīng)用生態(tài)。

曦智科技Gazelle光子計算評估板

WAIC 2024將持續(xù)至7月7日，曦智科技的展位為上海世博展覽館H2館E522。