基礎(chǔ)設(shè)施處理器（IPU）：云服務(wù)提供商的全新戰(zhàn)略資源

越來(lái)越多的現(xiàn)代云數(shù)據(jù)中心內(nèi)的工作負(fù)載正在按照微服務(wù)集合的結(jié)構(gòu)進(jìn)行整合。雖然微服務(wù)導(dǎo)向的架構(gòu)有很多好處，但也因?yàn)榫酆系奶攸c(diǎn)而造成了大量的通信開(kāi)銷，而用于這種基礎(chǔ)設(shè)施開(kāi)銷的CPU循環(huán)不會(huì)為云服務(wù)提供商產(chǎn)生收入。Srirama、Dhanota等人近期發(fā)表的一篇論文發(fā)現(xiàn)， 超大規(guī)模數(shù)據(jù)中心的微服務(wù)開(kāi)銷高達(dá)31-83%1，如下圖所示。

在某些情況下，絕大多數(shù)CPU循環(huán)用于開(kāi)銷

英特爾近期發(fā)布了基礎(chǔ)設(shè)施處理器（IPU）。通過(guò)基于IPU的架構(gòu)，云服務(wù)提供商可以把基礎(chǔ)設(shè)施任務(wù)從CPU轉(zhuǎn)移到IPU，而釋放的服務(wù)器CPU循環(huán)可用于處理能夠產(chǎn)生收益的任務(wù)，這樣就可以將從數(shù)據(jù)中心獲得的收入最大化。通過(guò)把基礎(chǔ)設(shè)施任務(wù)轉(zhuǎn)移到IPU，云服務(wù)提供商可以把服務(wù)器CPU全部租賃給客戶。

云數(shù)據(jù)中心就像酒店，而不是家

我們可以用酒店和家進(jìn)行簡(jiǎn)單的類比，這有助于解釋工作負(fù)載所有權(quán)的劃分，而正是這種劃分推動(dòng)了IPU的發(fā)展。在我的家里，我希望能夠輕易地從客廳走到廚房或餐桌，因此我們?cè)O(shè)計(jì)了一個(gè)開(kāi)放式的廚房，將所有功能都集中在一個(gè)大房間中，這樣我們就可以輕松地從一個(gè)區(qū)域轉(zhuǎn)移到另一個(gè)區(qū)域。

酒店則不同，客房、餐廳和廚房是不同的區(qū)域。酒店員工的工作區(qū)域與酒店客人的餐飲、休憩和會(huì)議區(qū)域嚴(yán)格分離。通常，酒店里會(huì)有很多道門(mén)將內(nèi)部不同的功能區(qū)分開(kāi)，有時(shí)出于安保原因，你甚至需要佩戴胸牌才能穿過(guò)賓客區(qū)和員工區(qū)之間的門(mén)。

酒店和獨(dú)立住宅擁有不同的設(shè)計(jì)

類似于酒店劃分住客和員工活動(dòng)的不同區(qū)域，包含IPU的數(shù)據(jù)中心架構(gòu)也對(duì)租戶和云服務(wù)提供商的工作負(fù)載進(jìn)行區(qū)隔。通過(guò)把IPU引入數(shù)據(jù)中心來(lái)實(shí)施基礎(chǔ)設(shè)施功能，云服務(wù)提供商的基礎(chǔ)設(shè)施工作負(fù)載將在IPU上運(yùn)行，這就解除了服務(wù)器CPU的負(fù)擔(dān)，使其用于運(yùn)行更多租戶的應(yīng)用。

基于IPU的數(shù)據(jù)中心架構(gòu)具備以下幾大優(yōu)勢(shì)：

? 可以嚴(yán)格分離基礎(chǔ)設(shè)施功能和租戶的工作負(fù)載，更好地隔離這些功能將大大加強(qiáng)系統(tǒng)安全。

? 租戶可以全面掌控服務(wù)器CPU，并獲得其全部的性能。

? 基礎(chǔ)設(shè)施工作負(fù)載的飆升不再會(huì)造成服務(wù)器CPU的性能問(wèn)題。如上面的統(tǒng)計(jì)所示，這一問(wèn)題在傳統(tǒng)數(shù)據(jù)中心的架構(gòu)模式下日趨嚴(yán)重。

? 通過(guò)把基礎(chǔ)設(shè)施任務(wù)從CPU轉(zhuǎn)移到IPU，可以讓服務(wù)器CPU處理可以產(chǎn)生收益的任務(wù)，云服務(wù)提供商可以從數(shù)據(jù)中心獲取最大化的收入。通過(guò)把基礎(chǔ)設(shè)施任務(wù)轉(zhuǎn)移到IPU，云服務(wù)提供商可以把服務(wù)器CPU全部租賃給客戶。

? IPU專門(mén)處理基礎(chǔ)設(shè)施任務(wù)而不是通用任務(wù)，它可以應(yīng)用硬件加速并更精細(xì)地優(yōu)化計(jì)算，從而大幅提高性能和能效。

? IPU能夠讓云數(shù)據(jù)中心實(shí)現(xiàn)全面的無(wú)磁盤(pán)服務(wù)器架構(gòu)。在傳統(tǒng)的企業(yè)數(shù)據(jù)中心架構(gòu)中，每臺(tái)服務(wù)器擁有自己的一套磁盤(pán)驅(qū)動(dòng)器和固態(tài)盤(pán)。

由于難以預(yù)測(cè)每個(gè)租戶的存儲(chǔ)使用情況，在傳統(tǒng)數(shù)據(jù)中心架構(gòu)中，每臺(tái)服務(wù)器必須超額配置存儲(chǔ)資源，才能應(yīng)對(duì)高峰期存儲(chǔ)負(fù)載。在無(wú)磁盤(pán)服務(wù)器架構(gòu)下，中央服務(wù)為所有租戶提供存儲(chǔ)資源。下圖顯示了一種可能的無(wú)磁盤(pán)服務(wù)器架構(gòu)。

通過(guò)網(wǎng)絡(luò)利用虛擬存儲(chǔ)進(jìn)行擴(kuò)展

管理一項(xiàng)中央存儲(chǔ)服務(wù)比管理數(shù)據(jù)中心中數(shù)十萬(wàn)臺(tái)服務(wù)器的存儲(chǔ)資源要容易得多，效率也高得多。

數(shù)據(jù)中心演進(jìn)

幾年來(lái)，英特爾與包括微軟、百度、京東和 VMware 在內(nèi)的大型云服務(wù)提供商緊密合作，持續(xù)推動(dòng)數(shù)據(jù)中心產(chǎn)品的創(chuàng)新與演進(jìn)。通過(guò)基于英特爾® 至強(qiáng)® D處理器、英特爾® FPGA 和以太網(wǎng)組件的產(chǎn)品，我們成為IPU市場(chǎng)的量產(chǎn)領(lǐng)先者。英特爾與超大規(guī)模合作伙伴聯(lián)手，設(shè)計(jì)推出了第一代 基于FPGA的IPU 平臺(tái)，并且已經(jīng)部署在多個(gè)云服務(wù)提供商自有并負(fù)責(zé)運(yùn)營(yíng)的數(shù)據(jù)中心內(nèi)。

在FPGA產(chǎn)品進(jìn)入IPU領(lǐng)域的五年間，我們觀察到超大規(guī)模云服務(wù)提供商正在分階段實(shí)現(xiàn)IPU的價(jià)值：

? 第一階段：加速網(wǎng)絡(luò)——把虛擬交換機(jī)和防火墻等常見(jiàn)網(wǎng)絡(luò)任務(wù)從服務(wù)器CPU轉(zhuǎn)移到IPU。把流量查找和封裝/解封等用戶面功能（UPF）從CPU轉(zhuǎn)移到IPU，從而釋放CPU循環(huán)。

? 第二階段：加速存儲(chǔ)——把存儲(chǔ)堆棧從服務(wù)器CPU轉(zhuǎn)移到IPU，提高了存儲(chǔ)吞吐量，并降低了存儲(chǔ)的復(fù)雜性、開(kāi)銷和管理負(fù)擔(dān)。

? 第三階段：加速安全——轉(zhuǎn)移加密/解密、壓縮和其它消耗服務(wù)器CPU循環(huán)的安全功能。（這些安全功能經(jīng)常與第二階段轉(zhuǎn)移的存儲(chǔ)功能搭配）。此外，IPU可以開(kāi)啟主機(jī)系統(tǒng)的啟動(dòng)和配置，而通過(guò)隔離安全功能和提供與CPU分離的信任根，此舉可以進(jìn)一步加強(qiáng)安全。

? 第四階段：基礎(chǔ)設(shè)施處理——或許是最精妙的用途，把虛擬機(jī)管理程序服務(wù)管理功能從CPU轉(zhuǎn)移到IPU。

目前的基于FPGA的英特爾IPU 將英特爾® Stratix® 10 FPGA 和英特爾至強(qiáng) D 處理器進(jìn)行整合。它們將優(yōu)化的加速器（基于可配置、基于 FPGA 的數(shù)據(jù)路徑）與軟件可編程 的CPU 相結(jié)合，可以安全地加速和管理數(shù)據(jù)中心的基礎(chǔ)設(shè)施功能。

這種混合 IPU 架構(gòu)可以以硬件的速度進(jìn)行網(wǎng)絡(luò)管理，其超高的軟件靈活性可以使用戶更輕松地實(shí)施控制面功能。使用 FPGA 板載資源的基于硬件的數(shù)據(jù)路徑和基于軟件的控制平面與 IPU 的板載處理器上的基礎(chǔ)設(shè)施 OS 堆棧一起運(yùn)行的可編程性使這些 IPU 變得強(qiáng)大?；谟布臄?shù)據(jù)路徑(使用FPGA的板載資源)和基于軟件的控制平面(與IPU的板載處理器上的基礎(chǔ)架構(gòu)操作系統(tǒng)堆棧一起運(yùn)行)所提供的可編程性使得IPU具有強(qiáng)大的性能表現(xiàn)。 而IPU 與 SmartNIC 的不同之處在于，它是一個(gè)安全、獨(dú)立的控制點(diǎn)，租戶工作負(fù)載無(wú)法直接訪問(wèn)。

英特爾未來(lái)的IPU和智能網(wǎng)卡

未來(lái)，我們將推出更多基于FPGA的IPU平臺(tái)和專用 ASIC，這些解決方案建立在強(qiáng)大的軟件基礎(chǔ)之上，使云運(yùn)營(yíng)商和生態(tài)系統(tǒng)廠商能夠構(gòu)建領(lǐng)先的云編排軟件。在近期舉行的英特爾架構(gòu)日上，我們?yōu)镮PU系列引入了兩個(gè)新的成員——Mount Evans 和 Oak Springs Canyon，以及此前代號(hào)為 Arrow Creek的英特爾 N6000 加速開(kāi)發(fā)平臺(tái)。

作為成功的 Big Spring Canyon 平臺(tái)的后續(xù)產(chǎn)品，Oak Springs Canyon（OSC）是一個(gè)基于英特爾® Agilex? FPGA的平臺(tái)，其目前在性能、功耗和工作負(fù)載效率方面領(lǐng)先整個(gè)FPGA行業(yè)2。OSC 與基于英特爾至強(qiáng)CPU的服務(wù)器協(xié)同工作，提供卸載2x100G 工作負(fù)載所需的基礎(chǔ)設(shè)施加速。OSC 擁有豐富的軟件生態(tài)系統(tǒng)，并針對(duì)英特爾® CPU進(jìn)行了優(yōu)化，同時(shí)還采用了英特爾開(kāi)放 FPGA 堆棧，這是一個(gè)可擴(kuò)展、開(kāi)源軟硬件基礎(chǔ)設(shè)施堆棧，使我們的合作伙伴和客戶能夠開(kāi)發(fā)定制的解決方案。OSC的能力和特性能夠滿足新興云服務(wù)提供商對(duì)于部署100GB工作負(fù)載的需求。

英特爾的另一個(gè)新開(kāi)發(fā)項(xiàng)目是此前的代號(hào)為 Arrow Creek的英特爾 N6000 加速開(kāi)發(fā)平臺(tái)，它是一個(gè)基于 FPGA 的智能網(wǎng)卡100GbE網(wǎng)絡(luò)加速開(kāi)發(fā)平臺(tái)（ADP）。它是在英特爾® FPGA 可編程加速卡（英特爾® FPGA PAC）N3000取得成功的基礎(chǔ)之上開(kāi)發(fā)的，后者目前已經(jīng)被部署在一些世界頂級(jí)通信服務(wù)提供商運(yùn)營(yíng)的數(shù)據(jù)中心內(nèi)?；谟⑻貭朅gilex FPGA 和英特爾® 以太網(wǎng)控制器E810，這個(gè)全新的英特爾N6000加速開(kāi)發(fā)平臺(tái)，將能夠與基于英特爾處理器的服務(wù)器搭配使用，并支持多種類型的基礎(chǔ)設(shè)施任務(wù)，以幫助電信運(yùn)營(yíng)商提供靈活的加速工作負(fù)載，例如Juniper Contrail、OVS 和 SRv6。

英特爾宣布了第一款 ASIC IPU，代號(hào)為Mount Evans，是我們與大型云服務(wù)提供商聯(lián)合設(shè)計(jì)開(kāi)發(fā)的。Mount Evans IPU基于同類最佳的數(shù)據(jù)包處理引擎，能夠在ASIC上進(jìn)行實(shí)例化，它支持大量的現(xiàn)有使用場(chǎng)景，例如vSwitch卸載、防火墻和虛擬路由，并為未來(lái)使用場(chǎng)景留出顯著空間。通過(guò)擴(kuò)展英特爾經(jīng)過(guò)驗(yàn)證的高性能傲騰NVMe控制器而開(kāi)發(fā)的另外一項(xiàng)技術(shù)讓Mt. Evans能夠模擬NVMe設(shè)備。 在FPGA IPU上運(yùn)行的相同英特爾基礎(chǔ)設(shè)施操作系統(tǒng)也將能夠在Mount Evans上運(yùn)行。

下一代可靠傳輸協(xié)議以及我們先進(jìn)的加密和壓縮加速器也都是 Mount Evans IPU的其它技術(shù)創(chuàng)新。我們與云服務(wù)提供商合作伙伴在下一代可靠傳輸協(xié)議上進(jìn)行了聯(lián)合創(chuàng)新，以解決有損網(wǎng)絡(luò)上的長(zhǎng)尾時(shí)延問(wèn)題。

IPU：云服務(wù)提供商新的戰(zhàn)略性資源

IPU是英特爾云計(jì)算戰(zhàn)略中的一個(gè)戰(zhàn)略性組成部分。我們領(lǐng)先的IPU產(chǎn)品組合為通用基礎(chǔ)設(shè)施奠定了基礎(chǔ)，使我們的云客戶能夠在不久的將來(lái)，在異構(gòu)數(shù)據(jù)中心架構(gòu)中充分利用其通用計(jì)算、XPU和加速資源。這些功能的融合完美契合了持續(xù)的微服務(wù)發(fā)展趨勢(shì)，并提供機(jī)會(huì)來(lái)構(gòu)建與高速硬件網(wǎng)絡(luò)組件和通用軟件框架相匹配的優(yōu)化、基于功能的基礎(chǔ)設(shè)施。IPU 為云服務(wù)提供商提供了重新布局?jǐn)?shù)據(jù)中心架構(gòu)、加速云計(jì)算以及在數(shù)據(jù)中心的每個(gè)服務(wù)器 CPU上托管更多創(chuàng)收服務(wù)，即在虛擬機(jī)上運(yùn)行租戶應(yīng)用程序的機(jī)會(huì)。

憑借其提高性能、降低成本和提供更好的云數(shù)據(jù)中心架構(gòu)的能力，我們認(rèn)為 IPU 將成為未來(lái)數(shù)據(jù)中心設(shè)計(jì)的戰(zhàn)略元件。

作者：Patricia Kummrow，英特爾公司網(wǎng)絡(luò)與邊緣事業(yè)部副總裁兼以太網(wǎng)產(chǎn)品部總經(jīng)理