當(dāng)前位置:首頁 > 芯聞號 > 美通社全球TMT
[導(dǎo)讀]北京2024年9月29日 /美通社/ -- 9月27-29日,2024中國算力大會在鄭州舉行。會上,浪潮信息重磅發(fā)布元腦企智EPAI一體機,通過軟硬件高度協(xié)同的一體化設(shè)計,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發(fā)平臺,顯著提高企業(yè)大模型以及AI原生應(yīng)用的開發(fā)效...

北京2024年9月29日 /美通社/ -- 9月27-29日,2024中國算力大會在鄭州舉行。會上,浪潮信息重磅發(fā)布元腦企智EPAI一體機,通過軟硬件高度協(xié)同的一體化設(shè)計,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型開發(fā)平臺,顯著提高企業(yè)大模型以及AI原生應(yīng)用的開發(fā)效率,加速大模型產(chǎn)業(yè)化落地。

企業(yè)大模型應(yīng)用開發(fā)提速 浪潮信息發(fā)布元腦企智EPAI一體機


大模型落地挑戰(zhàn)巨大

隨著大模型和生成式技術(shù)的飛躍式發(fā)展,基于大模型的應(yīng)用創(chuàng)新正在成為新的主題,如何以大模型賦能現(xiàn)有的技術(shù)、業(yè)務(wù),已成為企業(yè)在新一輪技術(shù)周期中保持競爭力的要素之一。但企業(yè)在應(yīng)用大模型的過程中往往面臨著諸多挑戰(zhàn),如生態(tài)離散導(dǎo)致的多元多模適配難,模型訓(xùn)練和部署復(fù)雜、數(shù)據(jù)治理難、模型"幻覺"問題以及對專業(yè)技術(shù)人才的依賴等,導(dǎo)致大模型與行業(yè)場景的融合進展緩慢。

首先,多元多模適配難度大、周期長、成本高。不同場景、不同業(yè)務(wù)對模型能力的多樣需求,業(yè)務(wù)生產(chǎn)環(huán)境往往是多模并存的狀態(tài),而由于芯片生態(tài)離散、特定應(yīng)用加速等原因,所使用的算力資源也是多元并用的。因此,大模型應(yīng)用開發(fā)需考慮與多元算力、多樣大模型的選擇、適配、組合調(diào)度等問題,難度大,周期長,成本高。

其次,巨大參數(shù)量級的通用大模型,很難直接用于復(fù)雜、離散的行業(yè)場景,各行業(yè)知識專業(yè)化程度高,可遷移性低,通用大模型本身難以覆蓋,所以經(jīng)常出現(xiàn)大模型"幻覺"或是"胡言亂語"的問題,因此必須結(jié)合行業(yè)和企業(yè)專業(yè)數(shù)據(jù)進行再學(xué)習(xí)。

最后,要實現(xiàn)大模型與行業(yè)場景的深度結(jié)合,實現(xiàn)高效、高可靠、高質(zhì)量的模型應(yīng)用效果,涉及數(shù)據(jù)、微調(diào)、RAG、部署、上線和運維等極為復(fù)雜的流程,特別是數(shù)據(jù)治理和模型微調(diào),需要具有豐富經(jīng)驗的實施團隊才能勝任,技術(shù)門檻高。

元腦企智EPAI一體機,讓大模型開發(fā)快到飛起

對于大多數(shù)企業(yè)而言,大模型應(yīng)用開發(fā)的系統(tǒng)性、復(fù)雜性,往往讓企業(yè)對大模型開發(fā)望而卻步。因此,實現(xiàn)大模型的深入行業(yè)應(yīng)用與廣泛落地,關(guān)鍵在于如何有效提高AI應(yīng)用創(chuàng)新的質(zhì)量和效率,卓越的大模型及應(yīng)用開發(fā)工具成為釋放智能生產(chǎn)力的關(guān)鍵。

浪潮信息元腦企智EPAI一體機基于專為大模型應(yīng)用場景設(shè)計的元腦服務(wù)器,搭載了元腦企智EPAI企業(yè)大模型開發(fā)平臺,支持多元算力、多模管理、全鏈工具以及本地部署,可一站式解決數(shù)據(jù)處理、模型微調(diào)、RAG搭建、模型部署、應(yīng)用上線和系統(tǒng)運維等環(huán)節(jié)開發(fā)難題,為客戶提供多元多模、簡單易用、本地部署、安全可靠的大模型應(yīng)用開發(fā)平臺,滿足企業(yè)人工智能應(yīng)用從開發(fā)到實施的全棧需求。

企業(yè)大模型應(yīng)用開發(fā)提速 浪潮信息發(fā)布元腦企智EPAI一體機


多元多模:元腦企智EPAI一體機具備多元算力和多模管理能力,通過大模型計算框架TensorGlue實現(xiàn)異構(gòu)算力調(diào)度,通過算子基礎(chǔ)化技術(shù)實現(xiàn)上層模型算法和下層基礎(chǔ)設(shè)施的邏輯解耦,從而高效的屏蔽模型和芯片差異,降低企業(yè)跨算力平臺遷移、多元模型部署適配的試錯成本。目前,元腦企智EPAI一體機可以支持10+業(yè)界主流大模型計算框架,內(nèi)置7個主流基礎(chǔ)大模型,預(yù)設(shè)了20+微調(diào)參數(shù),用戶可以針對知識問答、智能編碼、文檔理解、智能助手等不同應(yīng)用場景和任務(wù)需求,選擇最佳產(chǎn)品型號和模型算法,快速開發(fā)模型應(yīng)用。

簡單易用:元腦企智EPAI一體機提供從數(shù)據(jù)準(zhǔn)備、大模型微調(diào)、知識庫構(gòu)建、大模型部署上線運維的全流程支持工具鏈。其中,針對數(shù)據(jù)準(zhǔn)備,預(yù)先內(nèi)置了上億條基礎(chǔ)知識數(shù)據(jù)以及自動化數(shù)據(jù)處理工具,支持10種以上企業(yè)常見的數(shù)據(jù)格式,并且以超過95%的抽取準(zhǔn)確率,把這些數(shù)據(jù)轉(zhuǎn)化為知識庫以及可供模型進行微調(diào)的數(shù)據(jù);針對大模型微調(diào),采用低代碼可視化界面來進行微調(diào),并且內(nèi)置了Lora、SFT等多種微調(diào)框架以及20多種優(yōu)化參數(shù),用戶可依據(jù)具體業(yè)務(wù)需求和數(shù)據(jù)特性,選擇最為合適的框架與技術(shù),快速且低成本地構(gòu)建起企業(yè)專屬大模型能力。

本地部署、安全可靠:由于大模型應(yīng)用開發(fā)需要結(jié)合企業(yè)私有數(shù)據(jù),要求企業(yè)數(shù)據(jù)不出域。本地部署可以確保用戶數(shù)據(jù)不被上傳至云端,避免數(shù)據(jù)泄露和濫用的風(fēng)險,這在處理敏感信息或符合嚴(yán)格數(shù)據(jù)保護法規(guī)的行業(yè)中尤為重要。元腦企智EPAI一體機的本地化部署模式提供全鏈路的企業(yè)數(shù)據(jù)防護能力,設(shè)置多級過濾和審核體系,讓數(shù)據(jù)的流轉(zhuǎn)更安全,讓生成結(jié)果更可靠,構(gòu)建起一個既能充分利用數(shù)據(jù)價值,又能保護用戶隱私、符合法規(guī)要求的安全數(shù)據(jù)處理環(huán)境,做到"數(shù)據(jù)可用不可見"。

企業(yè)大模型應(yīng)用開發(fā)提速 浪潮信息發(fā)布元腦企智EPAI一體機


元腦企智EPAI一體機能顯著提升大模型應(yīng)用的開發(fā)效率,并極大節(jié)省人力成本。浪潮信息先行先試,采用1臺元腦企智EPAI一體機標(biāo)準(zhǔn)版,低代碼完成企業(yè)知識庫構(gòu)建、模型微調(diào)、應(yīng)用開發(fā)等工作,1人1月即簡單高效、低門檻地打造出智能售前助手"元小智",賦能日常售前業(yè)務(wù),實現(xiàn)智慧化變革,團隊工作效率提升3-5倍。

企業(yè)大模型應(yīng)用開發(fā)提速 浪潮信息發(fā)布元腦企智EPAI一體機


浪潮信息產(chǎn)品方案開發(fā)部總經(jīng)理魏健表示,本次發(fā)布了基礎(chǔ)版、標(biāo)準(zhǔn)版、高級版、創(chuàng)新版和集群版五個版本,主要面向制造、金融等行業(yè)客戶、傳統(tǒng)ISV和SI三類用戶提供一站式大模型生產(chǎn)及應(yīng)用全流程開發(fā)工具鏈,同時支持接入更多元腦伙伴的算法和模型能力,共同打造AI原生應(yīng)用開發(fā)的"超級工作臺",加速AI應(yīng)用創(chuàng)新和落地。

本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉