關(guān)于英特爾Lake Crest芯片產(chǎn)品線

近年來，人工智能在經(jīng)歷了兩次大的低潮后又成為科技界的大熱門，這和深度學(xué)習(xí)這個(gè)分支的勃興有很大的關(guān)系。在訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)的時(shí)候，人們也越發(fā)認(rèn)識(shí)到，具有大的數(shù)據(jù)吞吐量，且可以并行計(jì)算的GPU比CPU擁有更快的訓(xùn)練速度，更低的功耗，這一度讓CPU的王者英特爾感到異常緊張和失落。

好在，人工智能硬件平臺(tái)爭(zhēng)奪的序幕才剛剛拉開。隨著時(shí)間的推移，人們很快發(fā)現(xiàn)相比GPU和CPU，F(xiàn)PGA具有的低能耗、高性能以及可編程等特性，十分適合感知計(jì)算，而且可以做到快速部署。2015年，英特爾便動(dòng)用167億美元收購(gòu)了當(dāng)時(shí)全球第二大FPGA廠商Altera，也是有史以來最大的一筆收購(gòu)案。

也是在那一年，憑借擁有號(hào)稱最快的深度學(xué)習(xí)框架 neon和首個(gè)結(jié)合機(jī)器智能軟硬件云服務(wù)的Nervana Cloud，深度學(xué)習(xí)初創(chuàng)公司 Nervana 被 VentureBeat 評(píng)為值得關(guān)注的五家深度學(xué)習(xí)初創(chuàng)公司，次年8月，暗中觀察許久的英特爾豪擲4億美元將僅有48名員工的Nervana收入了囊中。

2017年3月，Nervana 以及其他英特爾內(nèi)部的人工智能相關(guān)業(yè)務(wù)和資源被整合進(jìn)一個(gè)部門，即人工智能產(chǎn)品事業(yè)部(AIPG)，由Nervana的聯(lián)合創(chuàng)始人、前CEO Naveen Rao來領(lǐng)導(dǎo)，直接向英特爾CEO科再奇匯報(bào)。

據(jù)AI科技大本營(yíng)了解， 在整合了 Nervana 的技術(shù)之后，英特爾AIPG 計(jì)劃推出 Crest 家族系列產(chǎn)品線。 首先亮相的是一款叫做 Lake Crest 的芯片，它是專為訓(xùn)練DNN而深度定制的ASIC解決方案，預(yù)計(jì)今年下半年測(cè)試，2018年上市。據(jù) Naveen Rao 曾經(jīng)對(duì)媒體介紹，相對(duì)于目前最快的GPU， Lake Crest的加速性能是它的10倍。

在近日英特爾舉辦的人工智能端到端技術(shù)研討會(huì)上，英特爾AIPG資深首席工程師Andres Rodriguez 介紹了英特爾在AI方面的技術(shù)布局、產(chǎn)業(yè)趨勢(shì)以及Nervana系列芯片的進(jìn)展情況。

英特爾AIPG資深首席工程師：Andres Rodriguez

據(jù)Andres Rodriguez介紹：Lake Crest 使用了Flexpoint架構(gòu)，MCM多芯片封裝，搭載32GB HBM2存儲(chǔ)，內(nèi)部互聯(lián)速度是PCIe的20倍。

會(huì)后記者對(duì)Andres Rodriguez進(jìn)行了專訪。

Andres透露， Lake Crest 的測(cè)試時(shí)間之所以從2017年的上半年推遲到了下半年 ，是因?yàn)镹ervana在被intel整合后，其產(chǎn)品的質(zhì)量需要滿足英特爾平臺(tái)的高標(biāo)準(zhǔn)，所以他們添加了一些額外的驗(yàn)證，這或多或少的會(huì)影響產(chǎn)品開發(fā)的速度。

在被問到目前的工作狀態(tài)和Nervana被收購(gòu)前有何不同時(shí)，Andres表示他們的工作模式其實(shí)并沒有發(fā)生特別大的變化，仍保持著一個(gè)初創(chuàng)企業(yè)勇往直前的狀態(tài)。 只是由于被英特爾收購(gòu)后，客戶的期待變得更高，壓力也更大了。

寫到這里正準(zhǔn)備截稿，記者在9月12日南京政府主辦的中國(guó)人工智能峰會(huì)上邂逅了曠視科技的首席科學(xué)家孫劍博士，當(dāng)被問及2018以后會(huì)不會(huì)在訓(xùn)練時(shí)考慮Lake Crest芯片這個(gè)問題，孫博士表示可能會(huì)吧，但硬件平臺(tái)那么多不可能每家都去試，言下之意是畢竟公司已經(jīng)和英偉達(dá)深度合作了，所以……

深度學(xué)習(xí)芯片的架構(gòu)能否被英特爾重新定義需要到2018年才能驗(yàn)證，而在Lake Crest上市后，如何改變用戶的使用習(xí)慣也是需要英特爾好好思考的問題。

Andres Rodriguez接受記者專訪

以下為Andres Rodriguez的采訪實(shí)錄，記者做了不改變?cè)獾恼恚?/p>

關(guān)于Nervana系列芯片：Lake Crest年底測(cè)試，2018年量產(chǎn)

記者：Nervana系列芯片的定位是什么，它和GPU相比有什么不同?

Andres Rodriguez： 首先，我想簡(jiǎn)單介紹一下英特爾Nervana人工智能平臺(tái)，作為我們的NPU，它是Crest家族產(chǎn)品。

和GPU相比，其實(shí)主要有兩點(diǎn)不同：

第一個(gè)不同點(diǎn)是作為整個(gè)Nervana AI平臺(tái)，Lake Crest是為了深度學(xué)習(xí)而量身定制的，因此它本身并沒有內(nèi)置圖像顯卡，換句話說它并不支持相關(guān)圖像的處理，這是跟GPU很大的不同之處。

第二個(gè)重要的不同在于它的計(jì)算能力包括性能上都是針對(duì)深度學(xué)習(xí)而進(jìn)行的量身優(yōu)化。

當(dāng)然，也有一些相似之處，比如整個(gè)Crest家族產(chǎn)品來講，包括市面上一些最新的芯片產(chǎn)品，都是擁有高寬帶內(nèi)存，不用通過CPU就可以進(jìn)行整個(gè)芯片之間包括核心之間的直接互聯(lián)。

同時(shí)整個(gè)Nervana AI平臺(tái)是為了深度學(xué)習(xí)而量身打造的，那么不管是硬件平臺(tái)還是軟件平臺(tái)都可以達(dá)到一個(gè)很好的整合。

記者：我經(jīng)常聽到有關(guān)媒體提到Nervana芯片在深度學(xué)習(xí)訓(xùn)練方面，比GPU擁有更強(qiáng)的加速?？煞襻槍?duì)性的談一談在計(jì)算速度和計(jì)算力這些方面它的具體性能是什么。

Andres Rodriguez： 我們產(chǎn)品整個(gè)詳細(xì)的細(xì)節(jié)目前只對(duì)簽了保密協(xié)議的客戶開放，具體內(nèi)容到今年年底才能公開。性能或是功耗提升具體的數(shù)字我暫時(shí)不能透露給您。但是可以說的是，與其他系列產(chǎn)品相比，我們利用度是非常高。

記者：說起Lake Crest上市或者測(cè)試的時(shí)間，之前有消息稱應(yīng)該是在今年上半年，但是為什么推遲到下半年，中間是遇到了什么困難嗎?

Andres Rodriguez： 因素是多方面的，其中有一個(gè)最主要的原因是在英特爾進(jìn)一步的整合Nervana平臺(tái)之后，對(duì)于Nervana芯片必須進(jìn)行更加嚴(yán)格的測(cè)試，才能讓它更好的滿足英特爾目前對(duì)芯片質(zhì)量的要求，同時(shí)也能夠滿足英特爾在全產(chǎn)品質(zhì)量以及全平臺(tái)系列的高標(biāo)準(zhǔn)。 正是基于這一個(gè)要求，我們必須要做很多的測(cè)試工作。

記者：Lake Crest或者是Crest家族的芯片是如何支持像Caffe、Torch、TensorFlow這些比較流行的人工智能框架?

Andres Rodriguez： 不管是Lake Crest、至強(qiáng)還是Movidius、FPGA，我們對(duì)其他框架提供支持的方式，整體流程都是比較一致的。[!--empirenews.page--]

首先用戶會(huì)把自己的模型寫入他所替代的框架當(dāng)中，在整個(gè)框架底部會(huì)有專門針對(duì)深度學(xué)習(xí)所打造的內(nèi)容庫(kù)，針對(duì)不同的內(nèi)容庫(kù)我們會(huì)對(duì)架構(gòu)進(jìn)行優(yōu)化。

這里我可以拿TensorFlow舉個(gè)例子，TensorFlow有一個(gè)量身定制的算法，同時(shí)至強(qiáng)處理器、FPGA都有專門的單元庫(kù)。不管你使用的哪個(gè)框架、哪種不同的硬件，我們都會(huì)針對(duì)具體內(nèi)容對(duì)它的單元庫(kù)進(jìn)行優(yōu)化，整個(gè)的方法相對(duì)來講是比較一致的。

記者：Crest家族的芯片適用于哪些具體的應(yīng)用場(chǎng)景?

Andres Rodriguez： 整個(gè)Crest芯片家族的系列產(chǎn)品，都是針對(duì)深度學(xué)習(xí)不同類型的負(fù)載而打造的，不管是之前所說的物品檢測(cè)、物體識(shí)別，同時(shí)還有視頻處理、圖像識(shí)別、圖像處理，還有語音處理、自然語言的處理。整個(gè)深度學(xué)習(xí)的通用功能都是非常支持的，這都是它所適用的領(lǐng)域。

除此之外還有訓(xùn)練和推理，以及在數(shù)據(jù)中心當(dāng)中的使用，也是Crest系列家族產(chǎn)品所支持的。同時(shí)，具體的應(yīng)用領(lǐng)域還是很廣泛的，不管是像現(xiàn)在的基因測(cè)序、金融領(lǐng)域以及自動(dòng)駕駛領(lǐng)域，Crest系列的產(chǎn)品都可以使用;同時(shí)它的訓(xùn)練模型取決于具體的環(huán)境，我們也可以把它用在推理過程中，包括數(shù)據(jù)中心，如果你要做推理，我們的Crest家族系列產(chǎn)品也是可以支持的。

記者：如果現(xiàn)在你自己有一個(gè)訓(xùn)練神經(jīng)網(wǎng)絡(luò)的需求，你會(huì)怎么為自己選擇一款芯片呢?

Andres Rodriguez： 其實(shí)不管像我自己還是現(xiàn)在很多市面上的客戶，可能都是跟我處在一樣的情況中，就是有大量可用的至強(qiáng)處理器去考慮。在這種情況下，我可能不需要特意買其他的專門為深度學(xué)習(xí)打造的硬件，因?yàn)樵谥翉?qiáng)處理器上可以完成所有的工作。

對(duì)比六個(gè)月之前，我們的性能已經(jīng)提高了一百多倍，所以我們沒有必要考慮其他的解決方案。另外在整個(gè)訓(xùn)練的過程當(dāng)中，我的工作負(fù)載所需要的時(shí)間可以大幅度的縮短，在處理深度學(xué)習(xí)訓(xùn)練過程中，所有的工作負(fù)載是被分布到不同的核上同時(shí)完成的，這個(gè)可以大量的降低時(shí)間。

記者：你剛才提到Lake Crest是在今年年底發(fā)布，中國(guó)市場(chǎng)和美國(guó)市場(chǎng)同步嗎，都是在同一時(shí)間拿到產(chǎn)品?

Andres Rodriguez： 作為L(zhǎng)ake Crest具體的硅片的話，今年年底我們會(huì)公布具體的細(xì)節(jié)。但實(shí)際的投產(chǎn)包括大規(guī)模的量產(chǎn)還是要等到2018年上半年。作為整個(gè)Lake Crest，會(huì)集成在Nervana Cloud當(dāng)中，客戶在Nervana Cloud對(duì)它進(jìn)行測(cè)試。我們一些非常緊密的合作伙伴，不管是美國(guó)還是中國(guó)的，都可以直接在Lake Crest進(jìn)行測(cè)試。

當(dāng)然，我們具體的測(cè)試也是分成兩個(gè)不同類型的合作伙伴群體。對(duì)于有大量需求的客戶，我們是只對(duì)一些合作非常緊密的合作伙伴開放，他們可能考慮會(huì)在未來把我們的Crest部署在他們的數(shù)據(jù)中心。如果作為一個(gè)通用的測(cè)試，那么開放范圍會(huì)更加廣一點(diǎn)。

記者未來AIPG在AI芯片技術(shù)方面的計(jì)劃是什么樣的，或者有沒有一個(gè)產(chǎn)品路線圖?

Andres Rodriguez： 答案是肯定的，路線圖我們有一個(gè)既定的規(guī)劃，除了傳統(tǒng)的計(jì)算以及訓(xùn)練和推理之外，我們還會(huì)建立起更加完善的深度學(xué)習(xí)生態(tài)系統(tǒng)的規(guī)劃。 但是我們關(guān)注的并不僅僅是訓(xùn)練以及推理本身，我們還有其他很多的詳細(xì)產(chǎn)品的規(guī)劃，但具體的內(nèi)容包括細(xì)節(jié)我們只會(huì)跟我們簽署了保密協(xié)議的客戶去分享。

關(guān)于AIPG目前的情況：團(tuán)隊(duì)相比之前的Nervana有了很大擴(kuò)張

記者：關(guān)于你個(gè)人的工作狀態(tài)，因?yàn)楝F(xiàn)在Nervana剛被英特爾收購(gòu)，現(xiàn)在你在英特爾或者在AIPG工作的狀態(tài)跟原來在Nervana的時(shí)候有什么不同嗎?

Andres Rodriguez： 可以說目前為止英特爾人工智能產(chǎn)品事業(yè)部的整個(gè)領(lǐng)導(dǎo)層跟我們之前Nervana 系統(tǒng)沒有什么太大的變化。 我們現(xiàn)在的GM也是整個(gè)英特爾的VP，是我們之前Nervana System的前CEO，也是之前Nervana的聯(lián)合創(chuàng)始人。

Nervana現(xiàn)在已經(jīng)被英特爾收購(gòu)并且加入到了AIPG事業(yè)部，我們依舊秉承了之前作為一個(gè)初創(chuàng)企業(yè)的勇往直前的精神。 我們的工作模式其實(shí)并沒有發(fā)生特別大的變化。我們還是希望快速的完成產(chǎn)品研發(fā)，并且非常專注于我們所擅長(zhǎng)的領(lǐng)域。

其中一個(gè)最大的區(qū)別，就是我們的規(guī)模明顯比之前Nervana要大得多，但是很多的傳統(tǒng)還有一些價(jià)值理念都被很好的傳承了下來。還有另外一個(gè)重要的不同之處，畢竟整個(gè)人工智能產(chǎn)品事業(yè)部是有英特爾大品牌作為一個(gè)重要的背景支撐，而客戶對(duì)我們后續(xù)的產(chǎn)品將會(huì)有更高的期待。 不管從性能還是安全的角度來講都是如此，這對(duì)我們來講也是一個(gè)巨大的壓力，也就是說加入英特爾之后，必須要有一個(gè)更高的標(biāo)準(zhǔn)來開發(fā)我們的技術(shù)和產(chǎn)品。

除此之外，我們要開發(fā)出更好的產(chǎn)品，產(chǎn)品的質(zhì)量、標(biāo)準(zhǔn)和要求都會(huì)更高，這對(duì)我們來講也是額外挑戰(zhàn)的，為了滿足高標(biāo)準(zhǔn)高要求， 我們要添加一些額外的驗(yàn)證或者工作，這可能或多或少的會(huì)影響我們產(chǎn)品開發(fā)的速度，這也是我們必須要做出是一個(gè)妥協(xié)。

記者：剛才說團(tuán)隊(duì)有一個(gè)很大的擴(kuò)張，因?yàn)樵贜ervana被收購(gòu)之前，我記得有48個(gè)人，現(xiàn)在你們團(tuán)隊(duì)有多少個(gè)人?

Andres Rodriguez： 我們的規(guī)?？隙ㄒ戎按蟮枚嗔耍蔷唧w的員工數(shù)量暫時(shí)不方便透露。 我覺得加入英特爾對(duì)我們來講一個(gè)非常巨大的優(yōu)勢(shì)就是盡管之前Nervana也是人才濟(jì)濟(jì)，但畢竟人數(shù)比較少;而現(xiàn)在在整個(gè)英特爾平臺(tái)之下，硬軟件包括數(shù)字科學(xué)家們，我們能接觸到的專家越來越多，這將是一個(gè)最大的優(yōu)勢(shì)。

同時(shí)，我們的全球市場(chǎng)也更大，視角更開闊。 因?yàn)樵谡麄€(gè)AIPG我們不僅僅關(guān)注Lake Crest加速器、Nervana系統(tǒng)，我們還有一個(gè)更大的市場(chǎng)。

舉個(gè)例子，我們與谷歌TensorFlow的優(yōu)化就是在整個(gè)AIPG事業(yè)部帶領(lǐng)下實(shí)現(xiàn)的，所以說AIPG有一個(gè)更大的市場(chǎng)。

對(duì)中國(guó)AI芯片公司的看法

請(qǐng)問你如何看待中國(guó)本土的AI芯片?

Andres Rodriguez： 我覺得在現(xiàn)在整個(gè)市場(chǎng)百花齊放，讓每個(gè)企業(yè)都有自己的選擇空間，這是一個(gè)非常利好的事情。因?yàn)樵谡麄€(gè)生態(tài)系統(tǒng)之內(nèi)，各相關(guān)方都可以互相學(xué)習(xí)，并且能夠推動(dòng)整個(gè)深度學(xué)習(xí)領(lǐng)域的快速發(fā)展，所以說我們也是非常高興和歡迎這一個(gè)市場(chǎng)的發(fā)展與進(jìn)步。我們也是希望能夠有機(jī)會(huì)與中國(guó)企業(yè)包括與更多的客戶去充分合作，能夠共同的開發(fā)針對(duì)深度學(xué)習(xí)領(lǐng)域的軟件、硬件以及其他產(chǎn)品。