當(dāng)前位置:首頁 > 芯聞號 > 美通社全球TMT
[導(dǎo)讀] (全球TMT2021年12月7日訊)燧原科技發(fā)布第二代云端人工智能推理加速卡“云燧i20”。作為全新一代云端AI推理加速產(chǎn)品,云燧i20擁有迄今為止業(yè)內(nèi)最大的AI加速卡存儲帶寬,高達(dá)819 GB/s,遠(yuǎn)超行業(yè)同類產(chǎn)品水平;同時全面支持從FP32、TF32、FP16、BF16到I...

(全球TMT2021年12月7日訊)燧原科技發(fā)布第二代云端人工智能推理加速卡“云燧i20”。作為全新一代云端AI推理加速產(chǎn)品,云燧i20擁有迄今為止業(yè)內(nèi)最大的AI加速卡存儲帶寬,高達(dá)819 GB/s,遠(yuǎn)超行業(yè)同類產(chǎn)品水平;同時全面支持從FP32、TF32、FP16、BF16到INT8的計(jì)算精度。單精度FP32峰值算力達(dá)到32 TFLOPS,單精度張量TF32峰值算力達(dá)到128 TFLOPS,整型INT8峰值算力達(dá)到256 TOPS。對比第一代推理產(chǎn)品,云燧i20將浮點(diǎn)算力提升到1.8倍,整型算力提升到3.6倍。

燧原科技發(fā)布第二代人工智能推理加速卡“云燧i20”
燧原科技發(fā)布第二代人工智能推理加速卡“云燧i20”

升級后的“馭算TopsRider”軟件棧,在性能、開發(fā)效率和模型覆蓋面上得到大幅提升。通過引入通用高層圖優(yōu)化和大規(guī)模算子融合技術(shù),充分釋放了大容量片內(nèi)存儲和高帶寬存儲的利用率,將模型平均性能提升3.5倍,硬件算力利用率平均提升2倍;通過升級的編程模型以及算子自動分片、自動生成技術(shù),自定義算子開發(fā)效率翻倍,模型遷移成本大大降低;此外,馭算增強(qiáng)了對動態(tài)性的支持,使云燧i20在檢測、語音識別、語義理解等場景更具競爭力。

在經(jīng)濟(jì)效益和部署靈活性層面,基于虛擬化和多實(shí)例加速技術(shù),云燧i20能夠?qū)崿F(xiàn)單卡多用戶,同時支持6個業(yè)務(wù)互不干擾、安全隔離運(yùn)行。讓更多云端推理應(yīng)用同時享受專有的算力加速,為客戶業(yè)務(wù)架構(gòu)帶來輕耦合、靈活可靠的實(shí)現(xiàn)方式,顯著提升資源利用率與投入產(chǎn)出比。

超大帶寬推理加速卡,兼具高吞吐、低延時特性

目前以語音識別、圖片識別、視頻內(nèi)容分析為主的感知類應(yīng)用,內(nèi)容推薦和欺詐交易攔截等決策類應(yīng)用在云端大部分都是以實(shí)時在線的方式提供服務(wù);同時神經(jīng)網(wǎng)絡(luò)的參數(shù)越來越多,數(shù)據(jù)帶寬需求也越來越高,兼顧高帶寬和低延遲變得至關(guān)重要。云燧i20創(chuàng)新性地采用了高帶寬HBM2E存儲,實(shí)現(xiàn)了高達(dá)819GB/s的超大帶寬,為各類云端推理業(yè)務(wù)提供高吞吐、低延時的性能,保障其準(zhǔn)確、平穩(wěn)、高效的運(yùn)行。

自主創(chuàng)新芯片架構(gòu),以更高性價比提供極致化性能

新一代“邃思”AI推理芯片采用第二代高性能計(jì)算核心和數(shù)據(jù)引擎,由12nm工藝打造,通過架構(gòu)升級,大大提高了單位面積的晶體管效率,從而實(shí)現(xiàn)了與目前業(yè)內(nèi)7nm GPU相匹敵的計(jì)算能力。不僅如此,基于12nm成熟工藝帶來的成本優(yōu)勢,使得云燧i20在相同性能表現(xiàn)下更具性價比優(yōu)勢。并且供應(yīng)鏈體系更加穩(wěn)定成熟,客戶的業(yè)務(wù)需求可以得到及時滿足。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉