百度 Intel 聯(lián)手打造新一代 Nervana NNP 芯片,性能提升 3 到 4 倍
記者消息,在 7 月 3 日舉行的百度 AI 開發(fā)者大會上,百度發(fā)布了鴻鵠芯片以及多個智能音箱新品,宣布與華為麒麟合作,智能小程序也進入新連接。(詳見記者此前報道)
英特爾副總裁兼人工智能產(chǎn)品事業(yè)部總經(jīng)理 Naveen Rao 也出席現(xiàn)場為百度打 Call,并宣布了與百度在 AI 方面的重磅合作——結(jié)合自家的專業(yè)知識,共同打造用于訓練 AI 的 Nervana 神經(jīng)網(wǎng)絡(luò)處理器(NNP,Neural Network Processor)。
聯(lián)手開發(fā)強大的 AI 加速器英特爾表示,這款與百度合作開發(fā)的處理器簡稱 NNP-T,代號為“Spring Crest”;它的開發(fā)意味著 AI 模型硬件的發(fā)展進入“新階段”,因為它可以加速大規(guī)模分布式訓練;它還對圖像識別進行了優(yōu)化,刪去了標準的快取階層(cache hierarchy),片上存儲器(on-chip memeory)直接由軟件管理。
據(jù) VentureBeat 報道,NNP-T 有 24 個計算集群,32GB 的高頻寬存儲器(HBM2)和本地 SRAM,因此,這款即將推出的處理器在 AI 訓練方面比同類產(chǎn)品要強上最多 10 倍,比英特爾推出的首款 Nervana NNP 芯片 NNP-L 1000(代號 Lake Crest)的性能強 3-4 倍。(記者按:2016 年,英特爾收購人工智能公司 Nervana,2017 年,英特爾推出專為機器學習設(shè)計的 Nervana NNP 系列芯片)
不過,英特爾也發(fā)表了聲明,AI 并非單一的工作負載,而是一種廣泛的、能夠強化所有手機上或者是大數(shù)據(jù)中心內(nèi)的應(yīng)用性能的強大能力;然而,不同的應(yīng)用對性能和功耗有著不同的要求,因此單一的 AI 硬件無法滿足一切需求。
在 AI 方面,英特爾認為不僅要提供優(yōu)越的硬件選擇,還要通過軟件來最大化釋放硬件的性能,從而幫助客戶自如地運行 AI 應(yīng)用,無論數(shù)據(jù)多么復雜。而英特爾選擇與百度密切合作,則能夠確保英特爾開發(fā)部門始終緊跟客戶對訓練硬件的最新需求。
Naveen Rao 表示,
英特爾與百度是長期好伙伴未來幾年,人工智能模型的復雜性將會激增,對大規(guī)模深度學習計算的需求也會激增。英特爾和百度正專注于自己長達十年的合作,建立全新的硬件,支持軟件協(xié)同設(shè)計,這將隨著不斷變幻的現(xiàn)實情況而發(fā)展。我們稱之為 AI 2.0。
記者了解到,近年來,英特爾與百度已經(jīng)共同創(chuàng)建了許多基于 AI 應(yīng)用的解決方案。
自 2016 年以來,英特爾就一直為百度 PaddlePaddle 深度學習框架而優(yōu)化 Xeon Scalable processor,今后,NNP-T 的優(yōu)化也將專注于 PaddlePaddle 的應(yīng)用,專注于神經(jīng)網(wǎng)絡(luò)的分布式訓練,以完成其他類型的 AI 應(yīng)用。
Constellation 研究公司的首席分析師兼副總裁 Holger Mueller 表示,
處理器架構(gòu)和平臺需要針對進行優(yōu)化才能發(fā)揮作用,無論是目前的還是即將推出的處理器,這就解釋了英特爾與百度本次合作的重要性。
兩家公司探討了集成百度 PaddlePaddle 和英特爾 nGraph DNN(Deep Nerual Network)編譯器,有了 nGraph 的助力,數(shù)據(jù)科學家只用編寫一次代碼就可以讓自己的 DNN 模型在各個平臺上有效地運行,無需做額外的調(diào)整。
百度也借助英特爾傲騰數(shù)據(jù)中心級持久內(nèi)存的高性能,向數(shù)百萬用戶提供個性化移動內(nèi)容,并通過百度 AI 推薦引擎獲得更高效的客戶體驗。
在數(shù)據(jù)安全方面,百度和英特爾在去年推出了 MesaTEE,一個基于英特爾 SGX (Software Guard Extension,軟件保護擴展技術(shù))的 FaaS 計算框架;MesaTEE 使金融、自動駕駛和醫(yī)療等安全敏感服務(wù)能夠安全地在遠程平臺上處理數(shù)據(jù)。
今年早些時候,百度和英特爾還推出了全新硬件產(chǎn)品 BIE-AI-BOX。這款產(chǎn)品融合了百度智能邊緣技術(shù),連接攝像頭進行車內(nèi)視頻監(jiān)控和分析。
記者(公眾號:記者)小結(jié)盡管百度與英特爾長期以來都保持著緊密的合作關(guān)系,但本次兩家公司聯(lián)手打造 AI 加速處理器也顯得十分重要,因為即便硬件的性能再強大,也需要軟件的不斷磨合才能最大化地發(fā)揮 AI 的優(yōu)勢。
總而言之,百度與英特爾各取所長,開發(fā)和優(yōu)化這款加速處理器,不僅能將大規(guī)模神經(jīng)網(wǎng)絡(luò)訓練的步驟化繁為簡,還能在一定程度上,加速 Naveen Rao 所說的 AI 2.0 的到來。