百度 Intel 聯(lián)手打造新一代 Nervana NNP 芯片，性能提升 3 到 4 倍

記者消息，在 7 月 3 日舉行的百度 AI 開發(fā)者大會上，百度發(fā)布了鴻鵠芯片以及多個智能音箱新品，宣布與華為麒麟合作，智能小程序也進入新連接。（詳見記者此前報道）

英特爾副總裁兼人工智能產(chǎn)品事業(yè)部總經(jīng)理 Naveen Rao 也出席現(xiàn)場為百度打 Call，并宣布了與百度在 AI 方面的重磅合作——結(jié)合自家的專業(yè)知識，共同打造用于訓練 AI 的 Nervana 神經(jīng)網(wǎng)絡(luò)處理器（NNP，Neural Network Processor）。

英特爾表示，這款與百度合作開發(fā)的處理器簡稱 NNP-T，代號為“Spring Crest”；它的開發(fā)意味著 AI 模型硬件的發(fā)展進入“新階段”，因為它可以加速大規(guī)模分布式訓練；它還對圖像識別進行了優(yōu)化，刪去了標準的快取階層（cache hierarchy），片上存儲器（on-chip memeory）直接由軟件管理。

據(jù) VentureBeat 報道，NNP-T 有 24 個計算集群，32GB 的高頻寬存儲器（HBM2）和本地 SRAM，因此，這款即將推出的處理器在 AI 訓練方面比同類產(chǎn)品要強上最多 10 倍，比英特爾推出的首款 Nervana NNP 芯片 NNP-L 1000（代號 Lake Crest）的性能強 3-4 倍。（記者按：2016 年，英特爾收購人工智能公司 Nervana，2017 年，英特爾推出專為機器學習設(shè)計的 Nervana NNP 系列芯片）

不過，英特爾也發(fā)表了聲明，AI 并非單一的工作負載，而是一種廣泛的、能夠強化所有手機上或者是大數(shù)據(jù)中心內(nèi)的應(yīng)用性能的強大能力；然而，不同的應(yīng)用對性能和功耗有著不同的要求，因此單一的 AI 硬件無法滿足一切需求。

在 AI 方面，英特爾認為不僅要提供優(yōu)越的硬件選擇，還要通過軟件來最大化釋放硬件的性能，從而幫助客戶自如地運行 AI 應(yīng)用，無論數(shù)據(jù)多么復雜。而英特爾選擇與百度密切合作，則能夠確保英特爾開發(fā)部門始終緊跟客戶對訓練硬件的最新需求。

Naveen Rao 表示，

未來幾年，人工智能模型的復雜性將會激增，對大規(guī)模深度學習計算的需求也會激增。英特爾和百度正專注于自己長達十年的合作，建立全新的硬件，支持軟件協(xié)同設(shè)計，這將隨著不斷變幻的現(xiàn)實情況而發(fā)展。我們稱之為 AI 2.0。

記者了解到，近年來，英特爾與百度已經(jīng)共同創(chuàng)建了許多基于 AI 應(yīng)用的解決方案。

自 2016 年以來，英特爾就一直為百度 PaddlePaddle 深度學習框架而優(yōu)化 Xeon Scalable processor，今后，NNP-T 的優(yōu)化也將專注于 PaddlePaddle 的應(yīng)用，專注于神經(jīng)網(wǎng)絡(luò)的分布式訓練，以完成其他類型的 AI 應(yīng)用。

Constellation 研究公司的首席分析師兼副總裁 Holger Mueller 表示，

處理器架構(gòu)和平臺需要針對進行優(yōu)化才能發(fā)揮作用，無論是目前的還是即將推出的處理器，這就解釋了英特爾與百度本次合作的重要性。

兩家公司探討了集成百度 PaddlePaddle 和英特爾 nGraph DNN（Deep Nerual Network）編譯器，有了 nGraph 的助力，數(shù)據(jù)科學家只用編寫一次代碼就可以讓自己的 DNN 模型在各個平臺上有效地運行，無需做額外的調(diào)整。

百度也借助英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存的高性能，向數(shù)百萬用戶提供個性化移動內(nèi)容，并通過百度 AI 推薦引擎獲得更高效的客戶體驗。

在數(shù)據(jù)安全方面，百度和英特爾在去年推出了 MesaTEE，一個基于英特爾 SGX （Software Guard Extension，軟件保護擴展技術(shù)）的 FaaS 計算框架；MesaTEE 使金融、自動駕駛和醫(yī)療等安全敏感服務(wù)能夠安全地在遠程平臺上處理數(shù)據(jù)。

今年早些時候，百度和英特爾還推出了全新硬件產(chǎn)品 BIE-AI-BOX。這款產(chǎn)品融合了百度智能邊緣技術(shù)，連接攝像頭進行車內(nèi)視頻監(jiān)控和分析。

盡管百度與英特爾長期以來都保持著緊密的合作關(guān)系，但本次兩家公司聯(lián)手打造 AI 加速處理器也顯得十分重要，因為即便硬件的性能再強大，也需要軟件的不斷磨合才能最大化地發(fā)揮 AI 的優(yōu)勢。

總而言之，百度與英特爾各取所長，開發(fā)和優(yōu)化這款加速處理器，不僅能將大規(guī)模神經(jīng)網(wǎng)絡(luò)訓練的步驟化繁為簡，還能在一定程度上，加速 Naveen Rao 所說的 AI 2.0 的到來。