"網(wǎng)卡"智能化 釋放網(wǎng)絡(luò)進階價值

北京2022年10月26日 /美通社/ -- 從智能網(wǎng)卡的出現(xiàn)，到DPU在云基礎(chǔ)設(shè)施領(lǐng)域的興起，其所涉及到的芯片、產(chǎn)品以及云服務(wù)等多個領(lǐng)域的提供商，對于智能網(wǎng)卡的解讀也越加豐富。與此同時，伴隨DPU的不斷迭代升級，進一步引發(fā)了整個產(chǎn)業(yè)對于IT基礎(chǔ)架構(gòu)體系未來演進方向的熱烈探討。

在由高效能服務(wù)器和存儲技術(shù)國家重點實驗室與開放計算中國社區(qū)聯(lián)合主辦的"第六期開放計算技術(shù)沙龍：網(wǎng)絡(luò)技術(shù)研究與實踐"線上研討會中，來自阿里云神龍計算平臺、中國電子云、NVIDIA、矩向科技以及網(wǎng)絡(luò)、芯片領(lǐng)域的合作伙伴、專家，圍繞DPU的價值、作用以及未來發(fā)展方向，進行了充分解讀。

DPU 使數(shù)據(jù)中心性能提升 開放全新"視野"

DPU作為數(shù)據(jù)處理單元，它在網(wǎng)絡(luò)計算領(lǐng)域中正扮演著關(guān)鍵角色。借助DPU，傳統(tǒng)通信方式中所存在的網(wǎng)絡(luò)擁塞及主機CPU資源被大量消耗的問題有望得到有效解決。同時，它還能夠有效應(yīng)對多租戶應(yīng)用性能隔離的難題。

NVIDIA網(wǎng)絡(luò)高級總監(jiān)宋慶春介紹到，DPU作為NVIDIA "云原生超級計算架構(gòu)"中的重要一員，使計算平臺、網(wǎng)絡(luò)、存儲均成為計算單元，實現(xiàn)了在一個數(shù)據(jù)中心里，數(shù)據(jù)在哪里，計算就在哪里。如此也就實現(xiàn)了在一個統(tǒng)一的架構(gòu)下面，無論是像AI訓(xùn)練這樣的大規(guī)模應(yīng)用，還是非常小的一些基于VM實現(xiàn)的應(yīng)用，租戶都可以使其性能達(dá)到最大化。

宋慶春通過一組數(shù)據(jù)，展現(xiàn)了DPU給用戶所帶來的收益。iAlltoall是HPC、AI應(yīng)用過程中會經(jīng)常采用的一種通信模型，通過用DPU和CPU實現(xiàn)計算通信Overlap，讓iAlltoall性能得到44％提升。iAllgather是AI大規(guī)模模型訓(xùn)練過程中會使用的一個通信模型，通過DPU和CPU計算通信的Overlap，能夠讓iAllgather性能提升36％。

面對DPU在超大規(guī)模云數(shù)據(jù)中心領(lǐng)域被逐漸廣泛接受的現(xiàn)狀，矩向科技創(chuàng)始人黃朝波指出當(dāng)下的DPU演進還在持續(xù)當(dāng)中。黃朝波認(rèn)為，伴隨著Chiplet等技術(shù)的成熟，在邊緣計算和企業(yè)云等規(guī)模更大、計算負(fù)載輕量的一些場景中，CPU、GPU和DPU會融合成一顆芯片，市場上將會出現(xiàn)超異構(gòu)處理器——HPU產(chǎn)品。

智能網(wǎng)卡演進 促動數(shù)據(jù)中心體系架構(gòu)創(chuàng)新

面對業(yè)界對于SmartNIC、DPU、IPU抑或是新進"登場"的CIPU的廣泛關(guān)注，中國電子云研發(fā)副總裁劉年超認(rèn)為，智能網(wǎng)卡雖然在命名方式方面缺乏統(tǒng)一的標(biāo)準(zhǔn)，但它的出現(xiàn)反映出一種趨勢，以CPU為中心的體系架構(gòu)，正在發(fā)生新的變化。

新一代 DPU/IPU 設(shè)備的共同特點是它們采用易于編程的多核CPU、先進的網(wǎng)絡(luò)接口以及一組強大的網(wǎng)絡(luò)、存儲和安全加速器，并可以進行編程以執(zhí)行多個軟件定義的硬件加速功能。劉年超認(rèn)為，這不僅在技術(shù)層面實現(xiàn)了對Host CPU計算性能的卸載，同時對于云服務(wù)商而言，DPU的應(yīng)用能夠讓云服務(wù)商有更多可進行銷售的產(chǎn)品或服務(wù)，提升了主機CPU的對外售賣能力。

在大規(guī)模部署過程中，劉年超認(rèn)為，DPU作為一個"小系統(tǒng)"，對它的運維和管理也顯得尤為重要。中國電子云通過獨立的BMC，面對不同用戶的實際應(yīng)用場景，均可實現(xiàn)對DPU網(wǎng)卡的直接管理。

在過去5年的DPU研發(fā)迭代過程中，阿里云愈加意識到自身的數(shù)據(jù)中心架構(gòu)正在發(fā)生新的變化。阿里云神龍計算平臺負(fù)責(zé)人蔣林泉認(rèn)為阿里云的新架構(gòu)有可能不再以CPU為核心，它更需要借助以阿里云自主研發(fā)的CIPU（Cloud Infrastructure Processing Unit）為中心，連接起SSD、RDMA，CPU、GPU和其他異構(gòu)計算設(shè)備。這一點已經(jīng)在阿里云自研的云操作系統(tǒng)——飛天的一步步演進過程中得到了驗證。阿里云已經(jīng)認(rèn)識到，當(dāng)初的智能網(wǎng)卡已經(jīng)不再是插在服務(wù)器上的一張網(wǎng)卡。在未來，它的物理形態(tài)很有可能還會發(fā)生變化。

面對智能網(wǎng)卡以及DPU的技術(shù)演進特點，為了確保用戶在智能網(wǎng)卡的應(yīng)用實踐過程中，最大限度降低試錯成本、契合應(yīng)用場景的實際需求，浪潮網(wǎng)絡(luò)在智能網(wǎng)卡解決方案的制定過程中，從軟、硬件層面充分考慮了不同規(guī)模、不同IT技術(shù)能力儲備的企業(yè)用戶需求。

針對IT能力儲備有限的傳統(tǒng)企業(yè)，浪潮網(wǎng)絡(luò)提供完備的軟硬件一體化智能網(wǎng)卡方案，為上層應(yīng)用提供標(biāo)準(zhǔn)的計算、存儲、網(wǎng)絡(luò)卸載和加速服務(wù)，簡化與主機軟件的集成，幫助客戶快速獲取智能網(wǎng)卡的技術(shù)紅利。從而降低最終用戶在網(wǎng)絡(luò)應(yīng)用開發(fā)和運維管理等方面的技術(shù)門檻。對于大型互聯(lián)網(wǎng)、電信以及金融行業(yè)，浪潮網(wǎng)絡(luò)不僅提供了相應(yīng)的技術(shù)支持服務(wù)，在產(chǎn)品線上也提供了業(yè)界領(lǐng)先，具備集成2個25GE或1個100GE以太網(wǎng)口，與主機端實現(xiàn)PCIe 4.0高速連接的N20X智能網(wǎng)卡。

浪潮網(wǎng)絡(luò)智能網(wǎng)卡具備三大性能優(yōu)勢：

• 采用高性能FPGA+SOC架構(gòu)，能夠?qū)崿F(xiàn)高性能的加速與卸載功能，滿足客戶對低延遲、高性能、大吞吐的需要，可以確保網(wǎng)絡(luò)延遲小于三微秒，整體性能是傳統(tǒng)網(wǎng)絡(luò)的六倍。
• 全可編程的特性，根據(jù)業(yè)務(wù)新需求，進行軟件重新編排和硬件再利用，形成有效算力，資源得到最大化利用。支持最新的P4編程，大大降低了協(xié)議定制的復(fù)雜度，將原本ASIC需要接近半年的時間縮短到幾天或者幾周，滿足靈活的、快速的、彈性的業(yè)務(wù)升級需要。
• 在實際應(yīng)用環(huán)境中，通過在主機側(cè)部署浪潮智能網(wǎng)卡，全面卸載網(wǎng)絡(luò)、安全、存儲業(yè)務(wù)，釋放了30%以上的CPU算力，通過智能網(wǎng)卡的批量部署，可以統(tǒng)一基礎(chǔ)設(shè)施架構(gòu)，更好的支持業(yè)務(wù)的彈性擴展。

與此同時，智能網(wǎng)卡的應(yīng)用需求正在從超算平臺、超大規(guī)模數(shù)據(jù)中心，逐漸向邊緣數(shù)據(jù)中心滲透。這種趨勢更加凸顯出云邊協(xié)同對于構(gòu)建開放網(wǎng)絡(luò)的重要性。浪潮網(wǎng)絡(luò)所打造的云邊協(xié)同智慧聯(lián)接架構(gòu)，在云中心側(cè)以領(lǐng)先的開放網(wǎng)絡(luò)平臺為核心，打造高性能、低成本、彈性可擴展的解決方案，使新業(yè)務(wù)上線時間縮短20%，提升排障效率30%，實現(xiàn)秒級網(wǎng)絡(luò)業(yè)務(wù)調(diào)整，滿足云業(yè)務(wù)彈性、敏捷擴展的需求。在邊緣側(cè)，浪潮網(wǎng)絡(luò)通過新一代邊緣網(wǎng)絡(luò)平臺，融合傳統(tǒng)有線、無線網(wǎng)絡(luò)，以及Zigbee、LoRa等終端網(wǎng)絡(luò)，打造低延遲、實時可靠的邊緣網(wǎng)絡(luò)，實現(xiàn)網(wǎng)絡(luò)的智能可視化調(diào)度，將網(wǎng)絡(luò)傳輸力提升27%、算力利用率提升30%。目前，浪潮網(wǎng)絡(luò)的云邊協(xié)同智慧聯(lián)接架構(gòu)已在政府、教育、醫(yī)療、制造等諸多行業(yè)得到廣泛部署和應(yīng)用。

對于智能網(wǎng)卡、DPU技術(shù)及產(chǎn)品的長期研發(fā)、推廣，體現(xiàn)出浪潮網(wǎng)絡(luò)以產(chǎn)品創(chuàng)新為引擎的技術(shù)實力。浪潮網(wǎng)絡(luò)通過云邊協(xié)同的智慧網(wǎng)絡(luò)，實現(xiàn)云、邊、端的智慧聯(lián)接、資源調(diào)度，為數(shù)據(jù)賦能，推動行業(yè)的數(shù)字化、智能化發(fā)展。