神秘的異構智能發(fā)言,能耗和計算堪比谷歌華為

　　最近，技術神秘的異構智能終于出現(xiàn)在了人們的視線中，異構智能的CEO吳韌還為此，表達了公司愿景“異構智能有芯片、模型，有超級計算機，希望將模型脫離云端，帶到本地和終端，讓終端變得智能。”吳韌談異構智能芯片：能耗比谷歌低，比華為寒武紀計算力高。

　　大氣、穩(wěn)重是吳韌給人留下的第一印象。自2015年百度離職創(chuàng)立異構智能以來，這位CEO很少出來發(fā)聲，異構智能也因此被打上了“神秘”的標簽。

　　與其說這場名為《異構智能擁抱人工智能大勢》的分享是場媒體交流會，倒不如說是場吳韌揭秘他與異構智能近況的懇談。

　　“異構智能有芯片、模型，有超級計算機，希望將模型脫離云端，帶到本地和終端，讓終端變得智能。”吳韌一開始就表達了公司愿景。

　　△ Novumind（異構智能）創(chuàng)始人兼CEO吳韌博士（右），及先烽資本創(chuàng)始人廖志宇（左）

　　“（云端）物聯(lián)網(wǎng)是個偽命題，是難以實現(xiàn)的。”吳韌說。

　　目前的現(xiàn)狀是，看似魔術般連接起來的物聯(lián)網(wǎng)，實際需要通過很多海底和底下光纜從分支道路連接到主干道。接入的分支道路呈指數(shù)級增長，已經(jīng)遠遠超出主干道增長的速度。

　　因為傳統(tǒng)的物聯(lián)網(wǎng)的云端架構難以處理未來的海量數(shù)據(jù)，異構智能開始考慮將人工智能的能力從云端拿到終端，讓邊緣設備學會“思考”。將邊緣設備思考的結果通過網(wǎng)絡與世界連接，就是實現(xiàn)了吳韌口中的智聯(lián)網(wǎng)（I2oT）。

　　“在本地做人工智能是未來的方向，異構智能將為這個方向的公司賦能。”吳韌說。

　　將AI放于終端對芯片提出了一高一低兩點挑戰(zhàn)。“高”在于，AI芯片主要有足夠強大的高性能支持復雜的人工智能計算，“低”是指芯片需足夠低功耗才能置于邊緣的小物體上。

　　“是挑戰(zhàn)，也是機會，”吳韌的聲音中帶著堅定，“異構智能的決定是take the challenge and seize the opportunity（接受挑戰(zhàn)，抓住機遇）。”

　　高性能-低能耗

　　在此情境下，異構智能選擇放棄芯片的通用性，為AI場景設計一款專用芯片，以追求最高的性能功耗比。

　　吳韌表示，目前的人工智能芯片真正起效需要10TOPS（萬億次運算/秒）的計算力，谷歌等公司的頂級芯片計算力高但能耗也高，不滿足本地落地的條件，而高通、寒武紀麒麟970等芯片雖然低能耗，但計算力卻達不到。

　　相比之下，NovuTensor V1僅用5W的用電量，就能實現(xiàn)15TOPS的性能。能耗低，且滿足計算需求。

　　△ NovuTensor優(yōu)勢對比

　　5W是什么概念呢？吳韌現(xiàn)場形象化地表示，5W是USB可以提供的電量。

　　“這就是從云端突破到終端的能力。”吳韌說。

　　專利后的全棧解決方案

　　“人工智能的核心計算是三維張量的卷積計算，小立方體和大立方體重合的部分做點乘，”吳韌開始談到芯片背后的技術，“異構智能的芯片在三維層面做操作，并且有四項專利保護。”

　　△ NovuTensor核心技術

　　這四項專利包括三維張量卷積用硬件的直接實現(xiàn)，對數(shù)據(jù)的調(diào)度與分配、歸并和處理器間的協(xié)作。

　　只看到機會還不夠，異構智能最早找到辦法把芯片和算法設計出來并加以實現(xiàn)，輔之以專利保護。這樣看來，異構智能走得早，也走得穩(wěn)。

　　“想為其他公司賦能。”吳韌不止一次提到這句話。

　　賦能，也就是幫助其他公司訓練出更聰明的模型、更復雜的網(wǎng)絡結構，讓數(shù)據(jù)集發(fā)揮更大的作用。

　　通過為人工智能定制的超級計算機進行訓練，異構智能的芯片能用最高的性能功耗比實現(xiàn)設計模型，為不同行業(yè)，提供全棧式的服務。甚至可以為非AI公司提供計算和智能的能力，幫助人工智能落地。

　　△ 異構智能的全棧解決方案

　　異構智能的本地智慧模塊NovuBrain主要落地方向包括安防、制造、家居、醫(yī)療器械、智慧城市和智能駕駛，目前已經(jīng)與HP、KUKA合作。

　　“通過把技術能力賦給頂級的大公司，這些公司把這些能力賦予給他們的用戶，異構智能就不需要在每一個行業(yè)、對每一個用戶、每一個應用來做這些事情。”吳韌說。

　　據(jù)量子位了解，目前28nm的ASIC芯片已經(jīng)進入流片階段，16nm和7nm芯片同步推進，預計明年生產(chǎn)。

　　當被問及明年推出16nm芯片是否時間緊張時，吳韌表示公司團隊人才積累豐厚，對最新技術的把控很有信心。技術團隊的李淼（Mike Li）之前在Inphi負責過兩款16nm的芯片，對它的制程基本有100%的信心。

　　“未來的世界一定是智能物聯(lián)網(wǎng)領先。異構智能的定位是讓萬物互聯(lián)轉(zhuǎn)到萬物智能，為轉(zhuǎn)折提供所有的技術，隨著智聯(lián)網(wǎng)的長大，公司也將長大，成為偉大的公司。”吳韌說。