曦智科技攜全新光電計算產(chǎn)品亮相Hot Chips大會

美國西部時間8月29日，在斯坦福大學(xué)舉行的全球芯片行業(yè)年度盛會Hot Chips大會上，全球光電混合計算領(lǐng)軍企業(yè)曦智科技進(jìn)行了全新光電計算產(chǎn)品Hummingbird的首次公開演示。這是繼美國西部時間8月8日發(fā)布Photowave之后，曦智科技一個月之內(nèi)再次推出新產(chǎn)品。至此，曦智科技從光子矩陣計算（oMAC）、片上光網(wǎng)絡(luò)（oNOC）、片間光網(wǎng)絡(luò)（oNET）三大核心技術(shù)出發(fā)，打造的各系列產(chǎn)品均已推出首款硬件，完成了光子計算和光子網(wǎng)絡(luò)兩條產(chǎn)品線的最后一塊“拼圖”。

Hummingbird是首個用于特定領(lǐng)域人工智能（AI）工作負(fù)載的片上光網(wǎng)絡(luò)（oNOC）處理器，采用先進(jìn)封裝技術(shù)，將光芯片和電芯片進(jìn)行垂直堆疊，集成為一個系統(tǒng)級封裝（System in Package，SiP）。

Hummingbird計算卡

oNOC技術(shù)旨在代替電芯片內(nèi)部或者芯粒之間的電互連網(wǎng)絡(luò)，把電信號轉(zhuǎn)成光信號，通過光芯片中的光波導(dǎo)網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)通信，提高整體計算效率。通過這種方式可實現(xiàn)算力和內(nèi)存擴(kuò)展，提供更低的延時，更大的互連帶寬，以及更多的拓?fù)浣Y(jié)構(gòu)。

曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨博士表示：“光子技術(shù)是解決計算規(guī)模擴(kuò)展問題的有效方法。隨著AI熱潮推動了算力需求的指數(shù)級增長，傳統(tǒng)的解決方案已經(jīng)很難跟上，業(yè)界可以通過將光子技術(shù)納入下一代產(chǎn)品中來解決擴(kuò)展問題，Hummingbird驗證了這一點?！?

知名半導(dǎo)體行業(yè)評論人、SemiAnalysis首席分析師Dylan Patel則評論說：“曦智科技正在利用其專有的光子技術(shù)打破內(nèi)存壁壘，這有可能改變半導(dǎo)體行業(yè)?！?

本次發(fā)布的Hummingbird，是繼2021年年底發(fā)布的PACE（Photonic Arithmetic Computing Engine）之后，曦智科技光子計算產(chǎn)品線的第二款產(chǎn)品，也是該產(chǎn)品線首款應(yīng)用oNOC技術(shù)的硬件。

曦智科技光電混合計算新范式

在Hot Chips大會上，曦智科技工程副總裁Maurice(Mo) Steinman詳細(xì)介紹了Hummingbird規(guī)格參數(shù)，以及曦智科技光電混合計算新范式在滿足數(shù)據(jù)中心對更高算力、更低延時、更低功耗的需求上體現(xiàn)出的優(yōu)勢。

Hummingbird通過硅光芯片上的U型光波導(dǎo)傳播信號，可實現(xiàn)電芯片上64個核之間的all-to-all全通道廣播。這種方式讓Hummingbird相比于傳統(tǒng)數(shù)字互連解決方案顯著降低了延遲和功耗，充分體現(xiàn)了光子技術(shù)在提升計算表現(xiàn)上的優(yōu)越性。

與片上電網(wǎng)絡(luò)不同，曦智科技的oNOC技術(shù)通過計算節(jié)點間全互連拓?fù)浣Y(jié)構(gòu)，擴(kuò)展了計算集群規(guī)模和配置靈活度。

在oNOC架構(gòu)下，芯粒間距離幾乎不會影響功耗和延遲。因此，該技術(shù)非常適合開發(fā)新的、更可靠的拓?fù)浣Y(jié)構(gòu)，并且不再局限于相鄰兩個芯片之間的傳輸。Hummingbird使得在單個電芯片或芯粒系統(tǒng)中更高效地利用算力成為可能。借助oNOC，將工作負(fù)載映射到不同硬件變得更加容易，為計算系統(tǒng)設(shè)計選擇合適的拓?fù)浣Y(jié)構(gòu)也變得更加靈活。

值得一提的是，Hummingbird還內(nèi)置了曦智科技自主研發(fā)的小型化單/多波長激光光源Moonstone，可實現(xiàn)多至8個通道波長的高功率光輸出，這是曦智科技在推動光電混合計算產(chǎn)品化和商業(yè)化過程中的又一技術(shù)突破。

Hummingbird的電芯片和光芯片被共同封裝并集成到一個PCIe板卡上，適用于通用的服務(wù)器。結(jié)合曦智科技的軟件開發(fā)工具包（SDK），機(jī)器學(xué)習(xí)和人工智能工作負(fù)載可以充分利用oNOC的優(yōu)勢實現(xiàn)性能優(yōu)化。此外，oNOC和Hummingbird IP還可以根據(jù)客戶應(yīng)用場景進(jìn)行定制。

Hummingbird可集成在標(biāo)準(zhǔn)PCIe板卡上，具有良好的通用性

Hummingbird的后續(xù)版本將采用光罩拼接技術(shù)（reticle-stitching）以支持芯粒架構(gòu)，從而實現(xiàn)更好的可擴(kuò)展性，在提高能效比的基礎(chǔ)上進(jìn)一步突破算力瓶頸的制約。

隨著Photowave和Hummingbird兩款光電混合產(chǎn)品的發(fā)布，曦智科技產(chǎn)品市場化進(jìn)程取得了階段性進(jìn)展。曦智科技接下來將持續(xù)推動產(chǎn)品迭代進(jìn)程，拓寬產(chǎn)品應(yīng)用領(lǐng)域，為客戶提供一系列算力躍遷解決方案。