全方位剖析：第五代至強(qiáng)為何成為AI時(shí)代新寵兒？

自2023年底第五代英特爾^®至強(qiáng)^®可擴(kuò)展處理器發(fā)布以來，這款專為AI加速而生的CPU就一直在業(yè)內(nèi)保持著很高的熱度，其強(qiáng)大的算力、出色的性能、成熟的生態(tài)、廣泛的合作伙伴等，都讓人們對它的期待值日益高漲。

第五代至強(qiáng)可擴(kuò)展處理器發(fā)布至今，它到底有哪些新特性值得關(guān)注？具體應(yīng)用實(shí)踐情況又是如何？

為了讓大家有個(gè)全面的了解，在近日舉辦的2024英特爾數(shù)據(jù)中心產(chǎn)品技術(shù)媒體分享會上，多位英特爾技術(shù)專家從技術(shù)特性、產(chǎn)品價(jià)值、實(shí)踐應(yīng)用等角度對其進(jìn)行了詳細(xì)介紹。

提升軟硬件，打造至強(qiáng)“芯”

最近一年多來，人類在算法、計(jì)算等方面取得的突破，讓生成式AI實(shí)現(xiàn)了令人驚嘆的進(jìn)展。

數(shù)據(jù)顯示，全球約有58%的企業(yè)都會運(yùn)用到生成式AI；預(yù)計(jì)到2026年，生成式AI市場規(guī)模有望增長至3000億美元，這其中包括硬件、軟件、解決方案等；到2028年，大約80%以上的PC產(chǎn)品將會轉(zhuǎn)換成AI PC；屆時(shí)，人們將通過AI PC提高工作效率，釋放更多的生產(chǎn)力和創(chuàng)造力。

在這場AI的革命浪潮中，英特爾作為計(jì)算領(lǐng)域的引領(lǐng)者，自然要走在行業(yè)的最前沿。而第五代至強(qiáng)的問世，就是邁向成功的第一步。

據(jù)英特爾市場營銷集團(tuán)副總裁、中國區(qū)數(shù)據(jù)中心銷售總經(jīng)理兼中國區(qū)運(yùn)營商銷售總經(jīng)理莊秉翰介紹，去年年底發(fā)布的第五代至強(qiáng)，主要面向生成式AI設(shè)計(jì)的，是英特爾迄今為止可持續(xù)性最強(qiáng)的數(shù)據(jù)中心處理器，并且與上一代英特爾^®至強(qiáng)^®可擴(kuò)展處理器相比，都有著較大幅度的升級。

具體來說，在硬件方面，其核數(shù)和不同的性能指標(biāo)都達(dá)到了行業(yè)領(lǐng)先水平?！暗谖宕翉?qiáng)最多擁有64個(gè)核；同時(shí)，我們也通過和AI相關(guān)的新的指令集，如AMX、AVX等來提高主頻和性能。這些性能的提升，對一些生成式AI的應(yīng)用也有很大幫助。當(dāng)然還有其他和AI相關(guān)的，比如提高內(nèi)存的帶寬等?！鼻f秉翰介紹說。

據(jù)悉，第五代至強(qiáng)在業(yè)界數(shù)據(jù)中心級的處理器當(dāng)中，擁有較高內(nèi)存帶寬，能夠達(dá)到5600MT/s。英特爾通過加大三級緩存，即把三級緩存的容量提升了三倍，使得數(shù)據(jù)處理無需內(nèi)存，直接在芯片內(nèi)部就可以進(jìn)行處理。

針對這款處理器，除了硬件提升之外，英特爾在軟件生態(tài)方面也做出了很大調(diào)整。

“隨著第五代至強(qiáng)的發(fā)布，我們上傳了300個(gè)以上的深度學(xué)習(xí)模型到社區(qū)，也支持50個(gè)以上的基于機(jī)器學(xué)習(xí)的、且基于第五代至強(qiáng)優(yōu)化過的模型，這些開發(fā)者都可以調(diào)用?！鼻f秉翰談到，不僅如此，我們還更新了AI開發(fā)軟件，可以在第五代至強(qiáng)上的應(yīng)用做到較大優(yōu)化；同時(shí)加大了對主流大模型、生成式AI模型的框架投入，如PyTorch和TensorFlow等，讓使用PyTorch和TensorFlow開發(fā)的資產(chǎn)，均可以無縫拓展至英特爾至強(qiáng)可擴(kuò)展處理器上。

總之，基于硬件和軟件的優(yōu)化，第五代至強(qiáng)與第四代至強(qiáng)相比，在AI訓(xùn)練、實(shí)時(shí)推理、批量推理上，基于不同的算法，都可以看到不同性能的提升，最高可提升40%。

增強(qiáng)架構(gòu)設(shè)計(jì)，助力CPU迭代升級

為了改善工作負(fù)載的性能，第五代至強(qiáng)在架構(gòu)設(shè)計(jì)方面也進(jìn)行了增強(qiáng)，這主要表現(xiàn)為五個(gè)方面：

一是，制程技術(shù)的改進(jìn)。據(jù)英特爾資深技術(shù)專家介紹，制程是半導(dǎo)體領(lǐng)域離不開的話題，第四代和第五代至強(qiáng)都是基于Intel 7的制程，采用的是Dual-poly-pitch SuperFin晶體管技術(shù)。為了展現(xiàn)第五代至強(qiáng)的卓越性能，我們在關(guān)鍵技術(shù)指標(biāo)做了改進(jìn)，特別是在系統(tǒng)的漏電流控制和動態(tài)電容方面，這兩項(xiàng)指標(biāo)都對整個(gè)晶體管的性能表現(xiàn)有著較大的影響。通過這些調(diào)整，第五代至強(qiáng)在同等功耗下的頻率可以提升3%（其中2.5%是由漏電流控制貢獻(xiàn)的，動態(tài)電容下降貢獻(xiàn)了0.5%）。

二是，芯片布局的改變。現(xiàn)階段，人們對服務(wù)器的算力要求越來越高，因此需要在里面放更多的核心，以及更多的內(nèi)存帶寬。但這就意味著會有更多的IO，會使芯片面積不斷增加。為了解決這一問題，第五代至強(qiáng)對芯片切分方式做了調(diào)整，把原來芯片分為四個(gè)部分的做法變成切為兩份，這樣就可以更好的對芯片的質(zhì)量和面積進(jìn)行控制。

三是，性能能效的提升。為了說明第五代至強(qiáng)在性能能效方面的優(yōu)勢，英特爾官方給出了兩組數(shù)據(jù)：一個(gè)是常規(guī)的整數(shù)計(jì)算，相較于上一代，第五代至強(qiáng)針對AI負(fù)載的性能大幅提升了42%；二是SoC芯片拓?fù)浣Y(jié)構(gòu)的改變，把原來的4芯片封裝改為2芯片封裝，使芯片之間的功耗減少，從而將更多功耗放在處理器的性能提升上。

四是，三級緩存（LLC）的增加。正如前面提到的，把三級緩存的容量提升三倍，可以使數(shù)據(jù)處理無需內(nèi)存，直接在芯片內(nèi)部進(jìn)行處理?！艾F(xiàn)在我們每個(gè)模塊的LLC容量都從1.875MB增加到了5MB，這個(gè)提升是非常大的，所以第五代至強(qiáng)有著高達(dá)320MB的緩存?！痹摷夹g(shù)專家解釋說。

五是，內(nèi)存IO的擴(kuò)展。第五代至強(qiáng)的DDR速度從4800MT/s提升到了5600MT/s，可以確保高度的信號完整性。要知道，實(shí)現(xiàn)這一過程并不容易，因?yàn)樗袃?nèi)存速度的增加，都是在現(xiàn)有的基板和PCB的基礎(chǔ)上去實(shí)現(xiàn)的。所以，要想達(dá)到更高的速度，就需要從芯片設(shè)計(jì)到基板設(shè)計(jì)，以及鏈路上一系列整體的提升。為此，英特爾做了很多優(yōu)化，包括一些MIM的內(nèi)存、基板上走線的提升，以及片上的低噪聲的供電措施等。

發(fā)揮資源優(yōu)勢，持續(xù)貢獻(xiàn)更多力量

除了核心技術(shù)、架構(gòu)細(xì)節(jié)之外，第五代至強(qiáng)在解決方案和實(shí)踐應(yīng)用中的表現(xiàn)同樣值得一提。

在英特爾看來，解決方案的目的其實(shí)很簡單，就是將底層硬件的能力充分發(fā)揮出來，真正將硬件能力轉(zhuǎn)化為用戶價(jià)值。而為了實(shí)現(xiàn)這一目標(biāo)，英特爾投入了大量資源，比如在工藝、微架構(gòu)、系統(tǒng)、生態(tài)上的投入，以及在數(shù)據(jù)安全和模型安全等方面的投入，這些英特爾都有端到端的解決方案。

據(jù)介紹，在云計(jì)算時(shí)代，英特爾在虛擬化技術(shù)上投入了“重兵”，在提升虛擬化效率的同時(shí)，也減少了對底層硬件的損耗。而到了AI時(shí)代亦是如此，其AI推理能力比上一代大幅提升了42%，同時(shí)核數(shù)也增加了，內(nèi)存帶寬也更多了，三級緩存容量也增大了，英特爾同樣也在努力發(fā)揮著這些硬件能力。

“過去的10年，英特爾致力于構(gòu)建一個(gè)完備的生態(tài)，通過軟、硬件結(jié)合幫助生態(tài)合作伙伴們充分挖掘和利用底層CPU能力?？梢哉f，我們挖掘CPU的能力并非是單一的。”英特爾技術(shù)專家表示，CPU就像是一位大俠，十八般武藝樣樣精通，一個(gè)人可以應(yīng)對很多人，單打獨(dú)斗能力很強(qiáng)；而GPU更像是一支軍隊(duì)，人數(shù)眾多，執(zhí)行的任務(wù)簡單且并發(fā)高。所以，CPU和GPU適用的場景是不同的。面向AI時(shí)代，英特爾正在逐步優(yōu)化CPU的架構(gòu)，讓性能得到不斷的提升。

會上，英特爾官方還分享了幾個(gè)關(guān)于第五代至強(qiáng)的應(yīng)用案例，在展示該處理器強(qiáng)大的同時(shí)，也進(jìn)一步體現(xiàn)了英特爾擁有開放生態(tài)的共贏格局。

在技術(shù)革新的道路上，英特爾永不止步。據(jù)官方透露，繼第五代至強(qiáng)之后，2024年還會發(fā)布全新一代的至強(qiáng)可擴(kuò)展處理器，并且將迎來豐富的產(chǎn)品組合，可以同時(shí)滿足性能的要求和社會對能耗的要求。

除此之外，英特爾還將計(jì)劃推出下一代的P-core（性能核）和E-core（能效核）處理器。其中，P-core看重的是整體性能的提升，而E-core則看重的是每瓦帶來的性能提升。未來，底層能源的利用率便是企業(yè)最大的優(yōu)勢，誰的能源利用率高、轉(zhuǎn)化率高，誰就更有競爭力。