“加速一切”，NVIDIA CEO 黃仁勛在 COMPUTEX 開幕前發(fā)表主題演講

時間：2024-06-04 14:59:23

關鍵字：半導體數(shù)據(jù)中心機器人

手機看文章

掃描二維碼
隨時隨地手機看文章

[導讀]黃仁勛詳細介紹了推動新工業(yè)革命的全新半導體、軟件和系統(tǒng)，它們將為新型數(shù)據(jù)中心、工廠、消費級設備、機器人等提供助力；并強調(diào)了降低成本和可持續(xù)增長的重要性。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在 COMPUTEX 大會開幕前發(fā)表主題演講，他表示：“生成式 AI 正在重塑行業(yè)，并為創(chuàng)新和增長帶來新機遇?！?

“今天，我們正處于計算領域重大轉變的最前沿，”黃仁勛表示，“人工智能和加速計算的交匯將重新定義未來?！?

6500 多名行業(yè)領導者、媒體、企業(yè)家、游戲玩家、創(chuàng)作者和AI愛好者在臺灣大學綜合體育館齊聚一堂，現(xiàn)場聆聽黃仁勛的主題演講。

NVIDIA 加速平臺已經(jīng)全面投入生產(chǎn)，不僅通過搭載 NVIDIA RTX 技術的 AI PC和消費級設備為游戲玩家和創(chuàng)作者帶來全新體驗，還支持企業(yè)利用 NVIDIA 全棧計算平臺構建和部署的 AI 工廠。

“加速計算是計算行業(yè)的未來，”黃仁勛表示，“憑借NVIDIA在AI和加速計算領域的創(chuàng)新，我們正在創(chuàng)造更多可能，推動新一輪技術進步?！泵磕旮侣肪€圖

黃仁勛分享了新半導體技術路線圖，該路線圖將每年更新。他首次宣布了Rubin 平臺，它將配備新 GPU、基于 Arm 的新 CPU — Vera，以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太網(wǎng)交換機的高級網(wǎng)絡平臺。Rubin 將作為 Blackwell 的下一代平臺。

“我們公司的更新節(jié)奏是以年為單位。我們的基本理念非常簡單：打造數(shù)據(jù)中心規(guī)模，以每年的節(jié)奏分步驟實現(xiàn)、并向客戶交付產(chǎn)品，在各個領域?qū)崿F(xiàn)技術突破，”黃仁勛解釋道。

NVIDIA 創(chuàng)意團隊使用NVIDIA Inception初創(chuàng)計劃成員提供的 AI 工具來創(chuàng)作 COMPUTEX 主題演講，該工具基于 NVIDIA NIM和 NVIDIA 加速計算。本次演講演示了各種 demo，重點介紹了上述創(chuàng)新工具以及 NVIDIA 技術帶來的變革性影響。

加速計算實現(xiàn)可持續(xù)增長

黃仁勛在演講開始時表示，NVIDIA 正在降低將數(shù)據(jù)轉化為智能的成本。

他強調(diào)：“加速計算能夠?qū)崿F(xiàn)可持續(xù)增長?！?他同時介紹了 GPU 和 CPU 組合如何實現(xiàn)高達 100 倍的加速計算，同時功耗僅增加三倍，每瓦性能比單獨使用 CPU 提高 25 倍。買的越多，省的越多?！?他強調(diào)了這種方法可顯著節(jié)約成本和能源。

業(yè)界攜手 NVIDIA 打造 AI 工廠，助推新工業(yè)革命

領先的計算機制造商已經(jīng)紛紛開始采用 NVIDIA GPU 和網(wǎng)絡解決方案。永擎電子（ASRock Rack）、華碩（ASUS）、技嘉科技（GIGABYTE）、鴻佰科技（Ingrasys）、英業(yè)達（Inventec）、和碩（Pegatron）、云達科技（QCT）、超微（Supermicro）、緯創(chuàng)（Wistron）和緯穎科技（Wiwynn）等企業(yè)正在打造基于NVIDIA技術的云、專用系統(tǒng)和邊緣AI系統(tǒng)。

NVIDIA MGX?模塊化參考設計平臺加入了對Blackwell產(chǎn)品的支持，包括GB200 NVL2平臺，該平臺專為大語言模型推理、檢索增強生成和數(shù)據(jù)處理提供卓越的性能而打造。

AMD 和英特爾均支持MGX架構，并首次計劃推出基于他們自己CPU主機處理器的模塊設計。任何服務器系統(tǒng)制造商都可以使用這些參考設計節(jié)省開發(fā)時間，并確保設計和性能的一致性。

采用Spectrum-X 的下一代網(wǎng)絡平臺

為了滿足AI對高性能以太網(wǎng)網(wǎng)絡平臺日益增長的需求，黃仁勛宣布了每年推出新的Spectrum-X產(chǎn)品的計劃。NVIDIA Spectrum-X是全球首款專為AI打造的以太網(wǎng)網(wǎng)絡平臺，可將網(wǎng)絡性能較傳統(tǒng)以太網(wǎng)網(wǎng)絡平臺提升1.6倍。Spectrum-X能夠加快AI工作負載的處理、分析和執(zhí)行速度，進而加快AI解決方案的開發(fā)和部署速度。

率先采用Spectrum-X的AI云服務提供商包括CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global和Yotta等，他們的AI基礎設施因此而獲得了超強的網(wǎng)絡性能。

NVIDIA NIM 讓數(shù)百萬人成為生成式 AI 開發(fā)者

現(xiàn)在，全球 2800 萬開發(fā)者都可以借助 NVIDIA NIM 輕松地創(chuàng)建生成式AI應用。NIM是一種推理微服務，通過以經(jīng)過優(yōu)化的容器的形式提供模型，以部署在云、數(shù)據(jù)中心或工作站上。

NIM 還能幫助企業(yè)實現(xiàn)基礎設施投資的效果最大化。例如，與未使用 NIM 的情況相比，在 NIM 中運行 Meta Llama 3-8B所能生成的加速基礎設施AI token可以提升 3 倍。

Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技術合作伙伴正將 NIM 集成到他們的平臺中，加快生成式AI部署到特定領域應用中的速度，例如copilots、代碼助手、數(shù)字人虛擬形象等。從Meta Llama 3 開始，在 Hugging Face上現(xiàn)已開始提供 NIM。

“今天我們在 Hugging Face上發(fā)布了全面優(yōu)化的 Llama 3，”黃仁勛表示?！澳梢栽谌魏卧浦羞\行它。下載該容器，并將其存入數(shù)據(jù)中心，然后就可以托管，并提供給客戶使用?！?

NVIDIA 利用 GeForce RTX AI PC 令 AI 助手栩栩如生搭載 RTX 技術的 NVIDIA RTX AI PC 將通過 200 多款 RTX AI 筆記本電腦和 500 多款采用 AI 技術的應用和游戲徹底改變消費者的體驗。RTX 套件和為NVIDIA ACE 數(shù)字人平臺最新推出的基于 PC 的 NIM 推理微服務，將進一步提高 AI 的可訪問性。另外，NVIDIA 還發(fā)布了搭載 RTX 的 AI 助手技術演示 G-Assist 項目，展示了針對 PC 游戲和應用的上下文感知輔助功能。

Microsoft 和 NVIDIA 正在一起幫助開發(fā)者將新的生成式 AI 功能加入到他們的 Windows 原生和 Web 應用程序中，使開發(fā)者能夠通過 API 輕松訪問由 RTX 加速的 SLM，作為 Windows Copilot Runtime 的一部分實現(xiàn)在設備上運行的 RAG 功能。

NVIDIA 機器人技術獲得行業(yè)領導者的青睞

NVIDIA 正引領價值 50 萬億美元的工業(yè)數(shù)字化變革，各行各業(yè)都在采用自主運營和數(shù)字孿生，通過虛擬模型提高效率并降低成本。NVIDIA通過其開發(fā)者計劃提供對NIM的訪問權限，以促進AI創(chuàng)新。

領先的制造商們正在利用 NVIDIA 的技術改造他們的工廠。黃仁勛展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 創(chuàng)建數(shù)字孿生，通過結合視覺 AI 與機器人開發(fā)工具來實現(xiàn)增強的機器人設施。

“AI的新一波浪潮是物理AI。AI 能夠理解物理定律，并與人類并肩作戰(zhàn)，”黃仁勛表示，他強調(diào)了機器人和人工智能在未來發(fā)展中的重要性。

NVIDIA Isaac平臺為開發(fā)者構建 AI 機器人提供強大的套件，包括由 AI 模型以及Jetson Orin、Thor 等超級計算機驅(qū)動的 AMR、工業(yè)機械臂和人形機器人。

“機器人和物理AI正在成為現(xiàn)實，而不僅是出現(xiàn)在科幻小說。這真的令人興奮，”黃仁勛補充道。