耐能以NPU為方向 或成為AI產(chǎn)業(yè)的arm

　　AI已經(jīng)無疑是現(xiàn)在市場的絕對主角。隨著概念的火熱。圍繞著AI芯片、算法和應(yīng)用應(yīng)運(yùn)而生的企業(yè)已經(jīng)不勝枚舉。當(dāng)中的很多憑借自己的優(yōu)勢也已經(jīng)獲得了客戶和投資人的認(rèn)可，耐能（Kneron）就是其中的一個。

　　在去年11月宣布從阿里、奇景光電、中華開發(fā)資本、高通、中科創(chuàng)達(dá)、紅杉資本與創(chuàng)業(yè)邦獲得了超過千萬美元的A輪融資以后，AI初創(chuàng)企業(yè)耐能最近推出了他們的全新人工智能IP產(chǎn)品。而這個市場，在國內(nèi)外都不缺乏競爭者，尤其是ARM和寒武紀(jì)的優(yōu)勢最為突出：前者擁有包括CPU、GPU、工具和晶圓廠配套IP在內(nèi)的龐大生態(tài)，后者則由于Kirin 970的采用，在容量巨大的手機(jī)市場找到了一個入口。

　　在AI這個已經(jīng)巨頭林立的市場里，成立僅四年的耐能如何才能突破包圍圈？為此，半導(dǎo)體行業(yè)觀察特意采訪了耐能科技的創(chuàng)始人劉峻誠博士，了解一下他的“攻城”之道。

　　在創(chuàng)立耐能之前，劉峻誠曾在 、三星和高通等企業(yè)任職。到了2014年，由于看到人工智能NPU的潛力，在高通從事了三年多神經(jīng)網(wǎng)絡(luò)終端應(yīng)用等工作開發(fā)的劉峻誠創(chuàng)立了耐能。

　　所謂NPU就是Neural-network Processing Unit的簡稱，也就是神經(jīng)網(wǎng)絡(luò)處理單元，這是一種針對深度學(xué)習(xí)而設(shè)計(jì)的專業(yè)芯片。這種脫離了傳統(tǒng)馮諾依曼結(jié)構(gòu)的處理器通過專門的設(shè)計(jì)，非常適合深度學(xué)習(xí)的實(shí)現(xiàn)，進(jìn)而實(shí)現(xiàn)人工智能。這是現(xiàn)在實(shí)現(xiàn)人工智能的幾種方式之一，華為Kirin 970就是采用了NPU的方式。但另外還有CPU、GPU、FPGA和DSP等多種方案可以執(zhí)行人工智能的算法。但耐能從成立伊始就專門從事AI專用芯片NPU的IP產(chǎn)品的研發(fā)。采用ARM那樣的IP授權(quán)方式進(jìn)行經(jīng)營。

　　在問到為何選擇這個方向的時候，劉峻誠告訴半導(dǎo)體行業(yè)觀察記者：“會選擇IP的主要考量是成本和風(fēng)險(xiǎn)，以及彈性。若要直接提供芯片，需要的資本非常雄厚，以新創(chuàng)公司來說，負(fù)擔(dān)會很大，也意謂著風(fēng)險(xiǎn)會很高。此外，提供IP授權(quán)的商業(yè)模式較為彈性，我們希望能借重合作伙伴的力量，共同推廣AI，讓它更快普及。”

　　在團(tuán)隊(duì)的努力下，耐能于2016年推出了相關(guān)的IP。但據(jù)劉峻誠介紹，當(dāng)時的IP主要是根據(jù)客戶的特殊需求定制的。例如騰訊就和他們合作研發(fā)了智能導(dǎo)航、臉部識別和AI算法，甚至連騰訊的智能車“神眼”項(xiàng)目都是用的耐能產(chǎn)品。

　　在積累了豐富的經(jīng)驗(yàn)并充分了解了客戶的需求之后，耐能在日前推出了全新的三大產(chǎn)品線。

　　這次耐能推出的是Kneron NPU IP系列產(chǎn)品。

　　所謂Kneron NPU IP，據(jù)耐能介紹，那就是該公司針對終端設(shè)備所設(shè)計(jì)的專用人工智能處理器，能讓終端設(shè)備在離線環(huán)境下，就能運(yùn)行 ResNet、YOLO等深度學(xué)習(xí)網(wǎng)絡(luò)。Kneron NPU為完整的終端人工智能硬件解決方案，包含硬件IP、編譯程序（Compiler）以及模型壓縮（Model compression）三大部分，可支持各種主流的卷積神經(jīng)網(wǎng)絡(luò)（ConvoluTIonalNeur al Networks，CNN）模型，如Resnet-18、Resnet-34、Vgg16、GoogleNet、以及Lenet等，以及支持主流深度學(xué)習(xí)框架，包括Caffe、Keras和TensorFlow。

　　由于Kneron NPU IP能結(jié)合Kneron影像識別軟件，提供實(shí)時識別分析、快速響應(yīng)，不僅能更穩(wěn)定，也能滿足安全隱私需求。由于軟硬件可緊密整合，讓整體方案體積更小、功耗更低，以協(xié)助產(chǎn)品快速開發(fā)。

　　對這系列IP有了基本了解后，我們回到最新發(fā)布的三系列產(chǎn)品：超低功耗版KDP300、標(biāo)準(zhǔn)版KDP500、以及高效能版KDP 700。

　　據(jù)耐能方面介紹，KDP300鎖定手機(jī)3D臉部識別應(yīng)用，可進(jìn)行3D結(jié)構(gòu)光與來自雙鏡頭的立體影像識別分析，讓真人臉部識別更快速精準(zhǔn)。KDP300亦適用于需要超低功耗的終端設(shè)備，該處理器包含運(yùn)算與靜態(tài)隨機(jī)存取內(nèi)存（SRAM）的功耗不到5毫瓦；

　　KDP500則是可進(jìn)行快速實(shí)時、大規(guī)模的臉部、手勢、身體識別與分析，以及深度學(xué)習(xí)。適用于智能家居、智能安防等領(lǐng)域。運(yùn)算能力可達(dá)152GOPS（500MHz） （每秒十億次運(yùn)算），功耗僅有100毫瓦；

　　KDP 700能處理更進(jìn)階與復(fù)雜的人工智能運(yùn)算，以及深度學(xué)習(xí)推理應(yīng)用，可應(yīng)用在高階智能型手機(jī)、機(jī)器人、無人機(jī)、智能監(jiān)控設(shè)備等。KDP 700具有優(yōu)異的運(yùn)算能力，信息吞吐量可高達(dá)4.4 TOPS（1GHz） （每秒萬億次運(yùn)算），功耗為300~500毫瓦；官方表示，這系列產(chǎn)品可滿足智能家居、智能安防、智能手機(jī)，以及各種物聯(lián)網(wǎng)設(shè)備的應(yīng)用。

　　在接受半導(dǎo)體行業(yè)觀察采訪的時候，劉峻誠指出這些產(chǎn)品擁有以前產(chǎn)品不具備的特性：例如他們首度推出的，功耗不到5毫瓦的產(chǎn)品，體積也首度達(dá)到了長、寬可以在2毫米以內(nèi)，這就讓它可以滿足非常小體積產(chǎn)品上的設(shè)計(jì)。

　　“又因?yàn)榧夹g(shù)上的提升，每瓦效能也有了突破，過往大約是1~1.5 TOPS/W，但以這次推出的高效能版KDP 700在16納米制程下，可以高達(dá)11.6 TOPS/W”，劉峻誠強(qiáng)調(diào)。

　　KDP 500預(yù)計(jì)第二季進(jìn)入量產(chǎn)制造（Mask tape-out）階段，KDP 300和KDP 700的量產(chǎn)時間也和客戶密切討論中。

　　耐能并不是唯一一個做NPU的廠商，在前面我們已經(jīng)提到寒武紀(jì)，在這個領(lǐng)域就是一個專家，甚至一個獨(dú)角獸，并且已經(jīng)在Kirin 970上得到了驗(yàn)證。作為一個產(chǎn)品相對新的企業(yè)，如何與對手競爭時？在問到這個問題的時候，劉峻誠并沒有直接回答，但他強(qiáng)調(diào)：“AI解決方案，無論是軟件或是硬件 IP，有一個關(guān)鍵處，就是它的規(guī)格跟功能會跟應(yīng)用有很大的關(guān)系，舉例來說，提供給手機(jī)跟提供給車用的方案，就會有很大的差異。目前不同廠商鎖定的領(lǐng)域都有些差異，很難直接做比較。”

　　他指出，耐能的IP擁有以下幾點(diǎn)優(yōu)勢，這是他們未來在市場上立足的根本：

　　首先，在IP產(chǎn)品上，耐能這次推出了很完整的產(chǎn)品線，而且規(guī)格非常優(yōu)異。以KDP 300來說，在功耗如此低、體積這樣小的規(guī)格下，就能在手機(jī)上做3D影像分析辨識，以作為解鎖等應(yīng)用，市場上應(yīng)該還沒有其他廠商可以做到這種程度。我們很有信心我們的解決方案在市場上非常有競爭力，劉峻誠強(qiáng)調(diào)。

　　其次，相較于某些廠商僅提供硬件架構(gòu)IP，瑞能的NPU IP是一個更完整的解決方案，除了有NPU IP架構(gòu)，還包含模型壓縮技術(shù)，可以把未經(jīng)壓縮的模型壓縮數(shù)十倍。另外，也包含已經(jīng)訓(xùn)練好數(shù)據(jù)的軟件，所以說瑞能的NPU IP本身其實(shí)就是一個完整的軟硬件整合方案。

　　第三，除了NPU IP之外，瑞能還自己開發(fā)影像辨識軟件產(chǎn)品。結(jié)合Kneron NPU和Kneron影像辨識軟件，將軟硬件緊密整合，這樣獲得的整體方案體積更小、功耗更低，能協(xié)助客戶快速開發(fā)產(chǎn)品。

　　另外，劉峻誠還強(qiáng)調(diào)，耐能的優(yōu)勢在于擁有應(yīng)用范圍比較廣的產(chǎn)品線，這也是很多其他對手所不能比擬的。

　　無論哪個市場，有豐厚利益收入的時候，必然會伴隨著巨大的風(fēng)險(xiǎn)，AI芯片市場也不例外。從誕生開始，耐能就經(jīng)歷著巨大的壓力和挑戰(zhàn)。但就劉峻誠看來，這些壓力并不是來自特定廠商，而是來自多變的AI市場，因?yàn)檫@個市場實(shí)在太新了，且變化很快，這就讓其具有極大的不確定性。

　　“為了在這個市場中找到生存的空間，利基很重要”，劉峻誠告訴半導(dǎo)體行業(yè)觀察的記者。耐能在這方面也一直在在前面。由于他們在AI領(lǐng)域發(fā)展得早，也一直在加快其步伐，這讓他們在其他廠商開始談他們的AI策略跟規(guī)劃時，自己就就已經(jīng)開發(fā)出產(chǎn)品，并有了客戶；在競爭對手發(fā)展出產(chǎn)品時，我們甚至已經(jīng)可以提供了完整的解決方案，劉峻誠補(bǔ)充說。

　　以智能手機(jī)市場為例，耐能很早就看到了這個領(lǐng)域會成為AI應(yīng)用的重點(diǎn)戰(zhàn)場，也知道當(dāng)中盤繞著包括ARM在內(nèi)的眾多競爭對手，為此他們一早就規(guī)劃了自己的應(yīng)對措施：現(xiàn)在的耐能在智能手機(jī)方面擁有完整的解決方案，覆蓋了高中低三個完整產(chǎn)品線。

　　而根據(jù)研究機(jī)構(gòu)Gartner預(yù)測，雖然目前智能手機(jī)上的AI應(yīng)用仍處于相當(dāng)早期的階段，但到了2022年，智能手機(jī)當(dāng)中將有80%內(nèi)建AI功能。這和耐能的“利基”觀點(diǎn)也是吻合的。

　　劉峻誠強(qiáng)調(diào)，市場有很多可能性和不確定性，誰能夠洞燭先機(jī)，并作快速的調(diào)整和回應(yīng)，就能取得優(yōu)勢

　　“我們的目標(biāo)是，讓AI不只是高階產(chǎn)品的專屬，而是成為人人都可以使用的功能”，劉峻誠說。他也同時指出，在AI市場，不會再有那些能在所有市場獲得成功的玩家，但某個細(xì)分領(lǐng)域必然會出現(xiàn)霸主，這是顯而易見的。

　　在問到耐能是否有機(jī)會成為人工智能IP領(lǐng)域的ARM的時候。劉峻誠首先指出，如果要做到ARM這樣大的影響力，那就需要布局量比較大的行業(yè)（例如汽車和手機(jī)），雖然在汽車方面耐能布局不深，但是在手機(jī)方面則會有比較好的表現(xiàn)，尤其是今年，這部分有很大機(jī)會會給耐能帶來巨大的機(jī)會。

　　除了手機(jī)外，安防、IoT也是耐能所專長的領(lǐng)域，尤其是后者。在劉峻誠看來，IoT這個領(lǐng)域他們基本沒看到什么競爭對手。

　　劉峻誠坦言，如果公司能在以上這三個領(lǐng)域能夠達(dá)到幾千萬和上億的出貨量，這樣公司的影響力就不言而喻。從目前看起來有一兩個領(lǐng)域很有機(jī)會達(dá)到這個數(shù)字，劉強(qiáng)調(diào)。

　　這樣看來，成為AI產(chǎn)業(yè)的ARM，對耐能來說，并不是沒有機(jī)會！