Intel Vision 2024大會: 英特爾發(fā)布全新軟硬件平臺,全速助力企業(yè)推進AI創(chuàng)新
新聞亮點
?英特爾發(fā)布了為企業(yè)客戶打造的全新AI戰(zhàn)略,其開放、可擴展的特性廣泛適用于AI各領(lǐng)域。
?宣布面向數(shù)據(jù)中心、云和邊緣的下一代英特爾®至強®6處理器的全新品牌。
?推出英特爾®Gaudi 3 AI加速器,其推理能力和能效均有顯著提高。多家OEM客戶將采用,為企業(yè)在AI數(shù)據(jù)中心市場提供更廣泛的產(chǎn)品選擇空間。
?英特爾聯(lián)合SAP、RedHat、VMware和其他行業(yè)領(lǐng)導(dǎo)者共同宣布,將創(chuàng)建一個開放平臺助力企業(yè)推動AI創(chuàng)新,在RAG(檢索增強生成)技術(shù)的支持下,加速部署安全的生成式AI系統(tǒng)。
?通過超以太網(wǎng)聯(lián)盟(UEC),英特爾正在驅(qū)動面向AI高速互聯(lián)技術(shù)(AI Fabrics)的開放式以太網(wǎng)網(wǎng)絡(luò)創(chuàng)新。英特爾發(fā)布了一系列針對AI優(yōu)化的以太網(wǎng)解決方案,包括英特爾AI網(wǎng)絡(luò)連接卡(AI NIC)和AI連接芯粒。
美國當(dāng)?shù)貢r間4月9日,英特爾舉辦了面向客戶和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng)新大會,宣布了英特爾®至強®6處理器的全新品牌,推出英特爾Gaudi 3加速器,以高性能、開放性和靈活性助力企業(yè)推進生成式AI創(chuàng)新,并發(fā)布了涵蓋全新開放、可擴展系統(tǒng),下一代產(chǎn)品和一系列戰(zhàn)略合作的全棧解決方案,以加速生成式AI落地。根據(jù)cnvrg.io的調(diào)研結(jié)果,2023年只有10%的企業(yè)成功將其生成式AI項目產(chǎn)品化。英特爾的最新解決方案有望幫助企業(yè)應(yīng)對推廣AI項目時所面臨的挑戰(zhàn)。
英特爾公司首席執(zhí)行官帕特·基辛格表示:“創(chuàng)新技術(shù)正在以前所未有的速度發(fā)展,每家公司都在加速成為AI公司,這一切都需要半導(dǎo)體技術(shù)提供支持。從PC到數(shù)據(jù)中心再到邊緣,英特爾正在讓AI走進千行百業(yè)。英特爾最新的Gaudi、至強和酷睿平臺將提供靈活的、可定制化的解決方案,滿足客戶和合作伙伴不斷變化的需求,把握住未來的巨大機遇?!?
企業(yè)希望將生成式AI從試驗階段擴展到應(yīng)用階段。因此,他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經(jīng)濟實用、節(jié)能的處理器所打造的可快速部署的解決方案。并且,Gaudi 3還能滿足復(fù)雜性、成本效益、碎片化、數(shù)據(jù)可靠性和合規(guī)性等需求。
推出用于AI訓(xùn)練和推理的Gaudi 3
英特爾Gaudi 3 AI加速器將為AI系統(tǒng)提供動力,該AI系統(tǒng)可通過以太網(wǎng)的通用標(biāo)準(zhǔn)連接多達(dá)數(shù)萬個加速器。與上一代產(chǎn)品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來AI訓(xùn)練和推理方面的重大飛躍。
英特爾Gaudi 3預(yù)計可大幅縮短70億和130億參數(shù)Llama2模型,以及1750億參數(shù)GPT-3模型的訓(xùn)練時間。此外,在Llama 7B、70B和Falcon 180B大語言模型(LLM)的推理吞吐量和能效方面也展現(xiàn)了出色性能。
英特爾Gaudi 3提供開放的、基于社區(qū)的軟件和行業(yè)標(biāo)準(zhǔn)以太網(wǎng)網(wǎng)絡(luò),允許企業(yè)靈活地從單個節(jié)點擴展到擁有數(shù)千個節(jié)點的集群、超級集群和超大集群,支持大規(guī)模的推理、微調(diào)和訓(xùn)練。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨。
英特爾AI解決方案為客戶創(chuàng)造價值
英特爾概述了面向開放的、可擴展的AI系統(tǒng)的戰(zhàn)略,其中包括硬件、軟件、框架和工具。英特爾讓廣泛的AI開放生態(tài)系統(tǒng)參與者,如設(shè)備制造商、數(shù)據(jù)庫提供商、系統(tǒng)集成商、軟件和服務(wù)提供商等,能夠提供滿足企業(yè)特定生成式AI需求的解決方案。與此同時,亦讓企業(yè)與他們已知、信任的生態(tài)系統(tǒng)合作伙伴展開合作并采取相應(yīng)解決方案。
生態(tài)系統(tǒng)聯(lián)合創(chuàng)建開放平臺,助力企業(yè)AI創(chuàng)新發(fā)展
英特爾聯(lián)合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同宣布,將創(chuàng)建一個開放平臺助力企業(yè)推動AI創(chuàng)新。這一凝結(jié)全行業(yè)力量的計劃旨在開發(fā)開放的、多供應(yīng)商的生成式AI系統(tǒng),通過RAG(檢索增強生成)技術(shù),提供一流的部署便利性、性能和價值。RAG可使企業(yè)在標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施上運行的大量現(xiàn)存專有數(shù)據(jù)源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業(yè)中的應(yīng)用。
在該計劃的初始階段,基于安全的至強處理器和Gaudi解決方案,英特爾將面向生成式AI進程(pipelines)推出參考實現(xiàn),發(fā)布技術(shù)概念框架,并繼續(xù)增進英特爾Tiber開發(fā)者云平臺基礎(chǔ)設(shè)施的功能,以便為RAG及未來進程的生態(tài)系統(tǒng)開發(fā)和確認(rèn)打下基礎(chǔ)。英特爾鼓勵生態(tài)系統(tǒng)進一步參與到這一開放平臺的創(chuàng)建中來,以促進企業(yè)采用該平臺,擴大解決方案的應(yīng)用范圍,并取得業(yè)務(wù)成果。
英特爾擴展AI路線圖和開放生態(tài)系統(tǒng)方法
英特爾還分享了企業(yè)AI各細(xì)分領(lǐng)域的下一代產(chǎn)品和服務(wù)的最新信息。
全新英特爾®至強®6處理器:英特爾至強處理器為運行當(dāng)前的生成式AI解決方案提供了性能高效的解決方案,包括使用專有數(shù)據(jù)生成特定業(yè)務(wù)結(jié)果的RAG。同時,英特爾還為面向數(shù)據(jù)中心、云和邊緣的下一代處理器進行了品牌煥新,即英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將于2024年第二季度推出,提供卓越的效率,配備性能核(P-cores)的英特爾至強6處理器將緊隨其后推出,帶來更高的AI性能。
?配備能效核的英特爾至強6處理器(代號為Sierra Forest):
*與第二代英特爾®至強®處理器相比,每瓦性能提高2.4倍,機架密度提高2.7倍。
*客戶能以近3:1的比例替換舊系統(tǒng),大幅降低能耗,幫助其實現(xiàn)可持續(xù)發(fā)展目標(biāo)。
?配備性能核的英特爾至強6處理器(代號為Granite Rapids):
*包含了對MXFP4數(shù)據(jù)格式的軟件支持,與使用FP16的第四代英特爾®至強®處理器相比,可將下一個令牌(token)的延遲時間最多縮短6.5倍,能夠運行700億參數(shù)的Llama-2模型。
客戶端、邊緣和連接:英特爾分享了客戶端產(chǎn)品的發(fā)展勢頭以及諸多邊緣和網(wǎng)絡(luò)互聯(lián)產(chǎn)品的路線圖更新,包括:
?英特爾®酷睿?Ultra處理器為生產(chǎn)力、安全性和內(nèi)容創(chuàng)作提供了全新能力,并為企業(yè)煥新其PC設(shè)備提供了巨大動力。英特爾預(yù)計將于2024年出貨4000萬臺AI PC,以及超過230種的設(shè)計,覆蓋輕薄PC和游戲掌機設(shè)備。
?將于2024年推出的下一代英特爾酷睿Ultra客戶端處理器家族(代號Lunar Lake),將具備超過100 TOPS平臺算力,以及在神經(jīng)網(wǎng)絡(luò)處理單元(NPU)上帶來超過45 TOPS的算力,從而為下一代AI PC提供強大支持。
?英特爾發(fā)布了涵蓋英特爾酷睿Ultra、英特爾®酷睿?、英特爾凌動®處理器和英特爾銳炫?顯卡系列產(chǎn)品在內(nèi)的全新邊緣芯片,主要面向零售、工業(yè)制造和醫(yī)療等關(guān)鍵領(lǐng)域。英特爾邊緣AI產(chǎn)品組合內(nèi)的所有新品將于本季度上市,并將在今年年內(nèi)獲得英特爾Tiber邊緣平臺的支持。
?通過超以太網(wǎng)聯(lián)盟(UEC),英特爾正在驅(qū)動面向AI高速互聯(lián)技術(shù)(AI Fabrics)的開放式以太網(wǎng)網(wǎng)絡(luò)創(chuàng)新,并推出一系列針對AI優(yōu)化的以太網(wǎng)解決方案。這些創(chuàng)新旨在革新可大規(guī)??v向(scale-up)和橫向(scale-out)擴展的AI高速互聯(lián)技術(shù),以支持AI模型的訓(xùn)練和推理,這些模型的規(guī)模日益龐大,每一代都會增長一個數(shù)量級。英特爾的產(chǎn)品組合包括英特爾AI網(wǎng)絡(luò)連接卡(AI NIC)、集成到XPU的AI連接芯粒、基于Gaudi加速器的系統(tǒng),以及一系列面向英特爾代工的AI互聯(lián)軟硬件參考設(shè)計。
英特爾Tiber業(yè)務(wù)解決方案組合
英特爾發(fā)布了英特爾Tiber業(yè)務(wù)解決方案組合,以簡化企業(yè)軟件和服務(wù)的部署,包括生成式AI。
這一統(tǒng)一的體驗將使企業(yè)客戶和開發(fā)人員能夠更輕松地找到適合其需求的解決方案,加快創(chuàng)新并釋放價值,同時不犧牲安全性、合規(guī)性或性能??蛻艏慈掌鸨憧砷_始探索英特爾Tiber產(chǎn)品組合,今年第三季度這一解決方案將會全面推出。
英特爾始終致力于讓AI更易于使用、更開放、更安全,從而滿足全球企業(yè)的不同需求。通過Intel Vision 2024大會上公布的全新合作和解決方案,英特爾將在AI浪潮中全力引領(lǐng)創(chuàng)新,讓AI為各行各業(yè)帶來前所未有的價值。