當(dāng)前位置:首頁(yè) > 芯聞號(hào) > 美通社全球TMT
[導(dǎo)讀]北京2024年12月25日 /美通社/ -- 12月25日,浪潮信息與智源研究院達(dá)成戰(zhàn)略合作協(xié)議,雙方將緊密協(xié)作共建大模型多元算力開(kāi)源創(chuàng)新生態(tài),提升大模型創(chuàng)新研發(fā)的算力效率,降低大模型應(yīng)用開(kāi)發(fā)的算力門(mén)檻。目前,智源Triton算子庫(kù)FlagGems已正式接入浪潮信息的元腦企智EP...

北京2024年12月25日 /美通社/ -- 12月25日,浪潮信息與智源研究院達(dá)成戰(zhàn)略合作協(xié)議,雙方將緊密協(xié)作共建大模型多元算力開(kāi)源創(chuàng)新生態(tài),提升大模型創(chuàng)新研發(fā)的算力效率,降低大模型應(yīng)用開(kāi)發(fā)的算力門(mén)檻。目前,智源Triton算子庫(kù)FlagGems已正式接入浪潮信息的元腦企智EPAI企業(yè)大模型開(kāi)發(fā)平臺(tái),助力企業(yè)實(shí)現(xiàn)更快速、更廣泛、更高效的多元算力適配與使用。

浪潮信息與智源研究院達(dá)成戰(zhàn)略合作,共建大模型多元算力開(kāi)源創(chuàng)新生態(tài)


  • 面向應(yīng)用,攜手共建多元算力系統(tǒng)生態(tài)

人工智能的持續(xù)進(jìn)步推動(dòng)了算力多元化與模型多樣化,在為產(chǎn)業(yè)注入創(chuàng)新活力的同時(shí),也帶來(lái)了較高的大模型應(yīng)用開(kāi)發(fā)技術(shù)門(mén)檻。元腦企智EPAI(Enterprise Platform of AI) 是浪潮信息為企業(yè)AI大模型落地應(yīng)用打造的高效、易用、安全的端到端開(kāi)發(fā)平臺(tái),支持主流開(kāi)源與閉源大模型的應(yīng)用快速開(kāi)發(fā),可實(shí)現(xiàn)大模型應(yīng)用在跨算力平臺(tái)上的無(wú)感遷移,降低多元、多模的適配與試錯(cuò)成本。

FlagGems是由智源研究院于2024年6月推出的面向多元算力的開(kāi)源大模型通用算子庫(kù),在Triton生態(tài)開(kāi)源開(kāi)放的基礎(chǔ)上,面向多元算力,遵循統(tǒng)一的中間語(yǔ)言、統(tǒng)一的算子接口和統(tǒng)一的開(kāi)源算子庫(kù)實(shí)現(xiàn)路徑,以大模型需求為導(dǎo)向,為多元算力提供開(kāi)源、統(tǒng)一、高效的算子層生態(tài)接入方案。截止12月,F(xiàn)lagGems已提供超過(guò)130個(gè)大模型算子,是目前提供算子數(shù)量最多、覆蓋廣度最大的開(kāi)源算子庫(kù)。

此次,智源研究院攜手浪潮信息,將FlagGems算子庫(kù)與元腦企智EPAI內(nèi)置的核心計(jì)算框架進(jìn)行深度融合,旨在確保大模型應(yīng)用開(kāi)發(fā)能夠使用高性能、跨硬件、多框架兼容的算子集合,順利跨越各類(lèi)硬件架構(gòu),滿足多種開(kāi)發(fā)框架的需求。現(xiàn)在,基于元腦企智EPAI大模型開(kāi)發(fā)平臺(tái),企業(yè)可以利用針對(duì)大模型應(yīng)用開(kāi)發(fā)場(chǎng)景優(yōu)化的先進(jìn)算子集合,在多種算力平臺(tái)上高效構(gòu)建、優(yōu)化和執(zhí)行復(fù)雜的行業(yè)應(yīng)用算法。在復(fù)雜的訓(xùn)練任務(wù)及實(shí)時(shí)性要求嚴(yán)苛的推理場(chǎng)景中,均能實(shí)現(xiàn)穩(wěn)定且高效的運(yùn)算性能。此外,企業(yè)也無(wú)需關(guān)心多元異構(gòu)加速卡之間的軟硬件差異,真正實(shí)現(xiàn)大模型應(yīng)用在跨算力平臺(tái)上的無(wú)縫開(kāi)發(fā)與遷移。

  • 智源研究院 × 浪潮信息:開(kāi)源開(kāi)放,產(chǎn)業(yè)協(xié)作破解多元多模挑戰(zhàn)

算力產(chǎn)業(yè)在大模型技術(shù)趨勢(shì)的推動(dòng)下飛速發(fā)展, 但硬件架構(gòu)、指令集的差異及算子庫(kù)的獨(dú)立實(shí)現(xiàn)卻形成了生態(tài)藩籬,顯著提高了企業(yè)應(yīng)用大模型的算力門(mén)檻,構(gòu)建一個(gè)開(kāi)源、統(tǒng)一、高效的多元算力系統(tǒng)生態(tài)顯得尤為迫切。

智源研究院副院長(zhǎng)兼總工程師林詠華表示:"元腦企智 EPAI為企業(yè)提供從底層算力到上層應(yīng)用的一站式支撐,而智源FlagGems提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齒輪組',確保模型在各類(lèi)硬件架構(gòu)中順滑運(yùn)轉(zhuǎn),適配多種開(kāi)發(fā)框架需求,讓主流大模型跨越硬件藩籬,無(wú)論是復(fù)雜的訓(xùn)練任務(wù),還是實(shí)時(shí)性要求嚴(yán)苛的推理場(chǎng)景,均能穩(wěn)定、高效運(yùn)行,性能表現(xiàn)媲美原生模型。"

浪潮信息高級(jí)副總裁劉軍表示:"在多元多模的產(chǎn)業(yè)格局下,AI的產(chǎn)業(yè)化落地本質(zhì)上是推動(dòng)人工智能與百行千業(yè)的深度融合,浪潮信息元腦企智EPAI企業(yè)大模型開(kāi)發(fā)平臺(tái)與智源通用算子庫(kù)FlagGems的全面對(duì)接,是雙方解決生態(tài)離散,化解大模型產(chǎn)業(yè)化落地的算力轉(zhuǎn)化和開(kāi)發(fā)復(fù)雜等高門(mén)檻難題的重要舉措,將為AI應(yīng)用創(chuàng)新注入更強(qiáng)大、多元的算力支持,助力構(gòu)建協(xié)同共生、開(kāi)放共贏的多元算力系統(tǒng)生態(tài),充分釋放智能生產(chǎn)力。"

未來(lái),浪潮信息將與智源研究院攜手并進(jìn),持續(xù)推進(jìn)硬件開(kāi)放與軟件開(kāi)源, 以開(kāi)源開(kāi)放、多元多模激發(fā)創(chuàng)新活力,以多元算力系統(tǒng)生態(tài)加速創(chuàng)新落地,協(xié)力共建一個(gè)更加高效、靈活、開(kāi)放的人工智能應(yīng)用生態(tài)。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車(chē)的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

倫敦2024年8月29日 /美通社/ -- 英國(guó)汽車(chē)技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車(chē)工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車(chē)。 SODA V工具的開(kāi)發(fā)耗時(shí)1.5...

關(guān)鍵字: 汽車(chē) 人工智能 智能驅(qū)動(dòng) BSP

北京2024年8月28日 /美通社/ -- 越來(lái)越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時(shí)企業(yè)卻面臨越來(lái)越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對(duì)日本游戲市場(chǎng)的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)開(kāi)幕式在貴陽(yáng)舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語(yǔ)權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對(duì)環(huán)境變化,經(jīng)營(yíng)業(yè)績(jī)穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤(rùn)率延續(xù)升勢(shì) 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長(zhǎng) 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競(jìng)爭(zhēng)力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競(jìng)爭(zhēng)優(yōu)勢(shì)...

關(guān)鍵字: 通信 BSP 電信運(yùn)營(yíng)商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺(tái)與中國(guó)電影電視技術(shù)學(xué)會(huì)聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會(huì)上宣布正式成立。 活動(dòng)現(xiàn)場(chǎng) NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長(zhǎng)三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會(huì)上,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司(以下簡(jiǎn)稱"軟通動(dòng)力")與長(zhǎng)三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉