當前位置:首頁 > 半導體 > Habana Labs
[導讀]為系統(tǒng)帶來性能突破、實現(xiàn)本地以太網(wǎng)擴展

2019年6月19日,中國北京——行業(yè)領(lǐng)先的人工智能處理器開發(fā)商Habana Labs (www.habana.ai) 宣布推出Habana Gaudi?人工智能訓練處理器,基于Gaudi的訓練系統(tǒng)實現(xiàn)了比擁有相同數(shù)量的GPU系統(tǒng)高四倍的處理能力。

Gaudi?處理器的創(chuàng)新架構(gòu)可實現(xiàn)訓練系統(tǒng)性能的近線性擴展,即使是在較小Batch Size的情況下,也能保持高計算力。因此,基于Gaudi?處理器的訓練性能可實現(xiàn)從單一設(shè)備擴展至由數(shù)百個處理器搭建的大型系統(tǒng)的線性擴展。

HL-205 heatsink (1).jpg

除了領(lǐng)先的性能,Gaudi?處理器還為人工智能訓練帶來了另一項“行業(yè)第一”。該人工智能處理器片上集成了RDMA over Converged Ethernet(RoCE v2)功能,從而讓人工智能系統(tǒng)能夠使用標準以太網(wǎng)擴展至任何規(guī)模。憑借Gaudi?處理器,Habana Labs的客戶亦可利用標準以太網(wǎng)交換進行人工智能訓練系統(tǒng)的縱向擴展和橫向擴展。同時,以太網(wǎng)交換機已被數(shù)據(jù)中心應(yīng)用于計算系統(tǒng)和存儲系統(tǒng)的擴展中,在速度和端口數(shù)方面可提供幾乎無限的可擴展性。另外,與Habana的標準設(shè)計相比,基于GPU的系統(tǒng)依賴于專有的系統(tǒng)接口,對系統(tǒng)設(shè)計人員來說,這從本質(zhì)上限制了可擴展性和選擇性。

HL-205 heatsink.jpg

Linley集團首席分析師Linley Gwennap評論說:“Habana Labs推出新產(chǎn)品,其產(chǎn)品組合迅速地從推理處理器擴展到訓練處理器,涵蓋了神經(jīng)網(wǎng)絡(luò)的所有功能。在眾多的人工智能訓練加速器產(chǎn)品中,Gaudi?處理器能夠提供強大的性能,達到行業(yè)領(lǐng)先的能效水平。作為首款集成100G以太網(wǎng)鏈路并支持RoCE的人工智能處理器,Gaudi?為使用行業(yè)標準組件構(gòu)建而成的大型加速器集群提供了強大的支持?!?/span>

HL-205 Mezzanine Card.jpg

Gaudi?人工智能訓練處理器配備32GB HBM-2內(nèi)存,目前提供兩種規(guī)格:

·HL-200-PCIe卡,設(shè)有8個100Gb以太網(wǎng)端口;

·HL-205-基于OCP-OAM標準的子卡,設(shè)有10個100Gb以太網(wǎng)端口或20個50Gb以太網(wǎng)端口。

HLS-1 covered.jpg

另外,Habana推出了一款名為HLS-1的8-Gaudi系統(tǒng),配備了8個HL-205子卡、PCIe外部主機連接器和24個用于連接現(xiàn)有以太網(wǎng)交換機的100Gbps以太網(wǎng)端口,讓客戶能夠通過在19英寸標準機柜中部署多個HLS-1系統(tǒng)實現(xiàn)性能擴展。

HLS-1_Branded.jpg

Gaudi?處理器是Habana Labs繼去年推出Goya?人工智能推理處理器后的第二款人工智能專用處理器。Goya?處理器自2018年第四季度開始發(fā)貨,并向業(yè)界展示了領(lǐng)先的推理性能,可實現(xiàn)業(yè)界最高的吞吐量、功效比(圖片/每秒瓦)以及實時。

Habana Labs首席執(zhí)行官David Dahan 表示:“人工智能模型訓練所需的計算能力每年呈指數(shù)增長。因此,提高生產(chǎn)率和可擴展性,解決數(shù)據(jù)中心和云計算對計算能力的迫切需求成為至關(guān)重要的任務(wù)。憑借Gaudi?處理器的創(chuàng)新架構(gòu),Habana Labs帶來了業(yè)界最高的性能,同時集成了標準以太網(wǎng),進而實現(xiàn)無限可擴展性。Gaudi?處理器將打破人工智能訓練處理器領(lǐng)域的現(xiàn)狀。”

Facebook技術(shù)和戰(zhàn)略總監(jiān)Vijay Rao表示:“Facebook正在尋找開放的平臺以進行行業(yè)創(chuàng)新融合。我們很高興看到Habana Labs的Goya?人工智能推理處理器為Glow機器學習編譯器實現(xiàn)后端開源,并且Gaudi?人工智能訓練處理器采用OCP加速器模塊 (OAM)規(guī)范?!?/span>

Gaudi?是一款完全可編程且可定制的處理器,搭載第二代Tensor處理核(TPC?) 并集成開發(fā)工具、庫和編譯器,共同提供全面而靈活的解決方案。此外,Habana Labs的SynapseAI?軟件棧包含一個豐富的內(nèi)核庫和開放工具鏈,以供客戶添加專有內(nèi)核。

Habana Labs將于2019年下半年面向特定客戶提供Gaudi?人工智能訓練處理器的樣品。欲了解更多關(guān)于Gaudi?處理器和Goya處理器的信息,敬請瀏覽www.habana.ai。


本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉