Rambus通過(guò)GDDR7內(nèi)存控制器IP推動(dòng)AI 2.0發(fā)展

作為 Rambus 行業(yè)領(lǐng)先的接口和安全數(shù)字 IP 產(chǎn)品組合的最新成員，GDDR7 內(nèi)存控制器將為下一波AI推理浪潮中的服務(wù)器和客戶端提供所需的突破性內(nèi)存吞吐量。

面向AI 2.0的內(nèi)存解決方案

AI 2.0代表著生成式AI革命性世界的到來(lái)。AI 2.0借助大語(yǔ)言模型(LLM)及其衍生模型的巨大增長(zhǎng)創(chuàng)建新的多模態(tài)內(nèi)容。多模態(tài)意味著可以將文本、圖像、語(yǔ)音、音樂(lè)、視頻等混合輸入到模型中，從而創(chuàng)建出這些以及其他媒體格式的輸出，例如根據(jù)圖像創(chuàng)建3D模型或根據(jù)文本提示創(chuàng)建視頻等。

LLM的參數(shù)規(guī)模已超過(guò)萬(wàn)億，數(shù)據(jù)集樣本規(guī)模也已達(dá)到數(shù)十億。訓(xùn)練LLM需要巨大的算力，這離不開(kāi)最新高性能內(nèi)存解決方案的支持。

通過(guò)GDDR7增強(qiáng)AI推理能力

AI 2.0訓(xùn)練流程的輸出結(jié)果是一個(gè)推理模型，該模型可根據(jù)用戶提示創(chuàng)建新的多模態(tài)內(nèi)容。由于準(zhǔn)確性和保真度會(huì)隨著模型規(guī)模的擴(kuò)大而提高，因此推理模型的規(guī)模也在不斷擴(kuò)大。隨著AI推理變得越來(lái)越普遍，并從數(shù)據(jù)中心向邊緣和終端移動(dòng)，這就促使整個(gè)計(jì)算領(lǐng)域需要更加強(qiáng)大的處理引擎和量身定制的高性能內(nèi)存解決方案。

GPU一直是推理引擎的首選，在服務(wù)器和臺(tái)式機(jī)等邊緣和終端應(yīng)用中，GPU一直使用的是GDDR6內(nèi)存。但GDDR6的數(shù)據(jù)傳輸速率已達(dá)到標(biāo)準(zhǔn)NRZ信號(hào)的實(shí)際極限——24Gbps。為了滿足未來(lái)GPU的帶寬需求，需要使用新信號(hào)機(jī)制的新一代GDDR。而使用PAM3信號(hào)的GDDR7內(nèi)存可將數(shù)據(jù)傳輸速率提高至40 Gbps或以上。

面向AI 2.0的Rambus半導(dǎo)體IP

作為AI 2.0的首選半導(dǎo)體IP供應(yīng)商，Rambus提供業(yè)界領(lǐng)先的 HBM、PCIe和 CXL控制器 IP，現(xiàn)在更提供業(yè)界首個(gè)GDDR7內(nèi)存控制器IP。Rambus GDDR7控制器為GDDR7存儲(chǔ)器的實(shí)現(xiàn)提供了功能齊全且具有高帶寬效率的解決方案。它支持40 Gbps的運(yùn)行速度，為GDDR7存儲(chǔ)器設(shè)備提供160 GB/s的吞吐量，較業(yè)界吞吐量最高的GDDR6控制器(同樣來(lái)自Rambus)提高了67%。Rambus GDDR7控制器實(shí)現(xiàn)了適用于最先進(jìn)AI加速器、圖形和高性能計(jì)算(HPC)應(yīng)用的GDDR內(nèi)存部署。

Rambus半導(dǎo)體IP總經(jīng)理Neeraj Paliwal表示：“AI 2.0工作負(fù)載對(duì)帶寬提出了前所未有的高要求，因此提供更高的內(nèi)存性能變得至關(guān)重要。借助我們開(kāi)創(chuàng)性的GDDR7控制器IP解決方案，設(shè)計(jì)人員可以快速利用最新一代GDDR存儲(chǔ)器的優(yōu)勢(shì)，實(shí)現(xiàn)業(yè)界領(lǐng)先的吞吐量。”

IDC內(nèi)存半導(dǎo)體副總裁Soo-Kyoum Kim表示：“GDDR7內(nèi)存的性能較GDDR6大幅提升。對(duì)任何希望充分利用GDDR7優(yōu)化的速率和延遲特性的人來(lái)說(shuō)， Rambus GDDR7控制器IP將成為重要的工具?！?

Rambus GDDR7控制器的主要特點(diǎn)：

? 支持包括PAM3和NRZ信號(hào)在內(nèi)的所有GDDR7鏈路功能

? 支持多種GDDR7設(shè)備尺寸和速率

? 專門針對(duì)各種流量情況進(jìn)行優(yōu)化，可實(shí)現(xiàn)高效率和低延遲

? 靈活的AXI接口支持

? 低功耗支持(自刷新、休眠自刷新、動(dòng)態(tài)頻率縮放等)

? 可靠性、可用性和可維護(hù)性(RAS)功能，例如端到端數(shù)據(jù)路徑奇偶校驗(yàn)、存儲(chǔ)寄存器奇偶校驗(yàn)保護(hù)等

? 全方位的內(nèi)存測(cè)試支持

? 對(duì)現(xiàn)有第三方PHY的集成支持

? 使用最新的GDDR7 VIP和內(nèi)存供應(yīng)商內(nèi)存模型進(jìn)行驗(yàn)證