GTI：一代革命性的AI芯片，把手機(jī)變成尋寶器

 我最近看到這樣一顆AI芯片，在一個(gè)簡(jiǎn)單的開發(fā)板上，沒(méi)有外置的存儲(chǔ)器，通過(guò)訓(xùn)練每秒能識(shí)別150張圖標(biāo)。該芯片的聯(lián)合創(chuàng)始人董琪先生說(shuō)，這顆AI芯片的一個(gè)功能，可以把手機(jī)變成尋寶器，鑒別奇珍異寶。比如說(shuō)，你把冬蟲夏草的特征數(shù)據(jù)存儲(chǔ)在手機(jī)中，到西部地區(qū)有人給你兜售冬蟲夏草，那里是沒(méi)有網(wǎng)絡(luò)信號(hào)的偏遠(yuǎn)地區(qū)，你對(duì)著產(chǎn)品拍照，手機(jī)馬上就會(huì)告訴你冬蟲夏草的真?zhèn)魏推焚|(zhì)等級(jí)，即時(shí)處理，非?？?。

聯(lián)想到現(xiàn)在公安部門追捕罪犯時(shí)運(yùn)用的人臉識(shí)別，需要后臺(tái)計(jì)算識(shí)別，結(jié)果延時(shí)造成嫌疑人已經(jīng)離開攝像機(jī)覆蓋區(qū)域。未來(lái)通過(guò)這款芯片強(qiáng)大的聲音和圖像處理能力，無(wú)需再把圖片傳送到后臺(tái)，即時(shí)識(shí)別，犯人再也無(wú)處可逃。

GTI帶來(lái)人工智能芯片的革命

這款芯片由GTI 出品!GTI，全稱是Gyrfalcon Technology Inc.，由一批有創(chuàng)新情懷的硅谷華人人工智能科學(xué)家和半導(dǎo)體芯片行業(yè)的資深工程專家及企業(yè)家組成的團(tuán)隊(duì)， Gyrfalcon(海東青)是一種以飛行速度迅疾著稱的鳥。公司的使命是將“云+人工智能”的力量延展到本地設(shè)備上并使其獲得更大的性能和效率，專注開發(fā)低功耗、高性能人工智能處理器的芯片。

我過(guò)去曾擔(dān)任EETImes總編12年，造訪無(wú)數(shù)硅谷領(lǐng)先的半導(dǎo)體公司，GTI的團(tuán)隊(duì)依然讓我驚艷。 這是一群硅片上的沖浪高手組合，他們精通芯片工藝和算法，整合全球領(lǐng)先的技術(shù)，像工匠一樣精心雕琢出產(chǎn)品。“我們希望用高性能和低功耗的產(chǎn)品服務(wù)中國(guó)智造和創(chuàng)新，加速中國(guó)人工智能的產(chǎn)業(yè)化進(jìn)程。”董先生告訴我， “我們未來(lái)將為中國(guó)的工程師和開發(fā)者提供技術(shù)支持，讓中國(guó)的開發(fā)者用我們的芯片開發(fā)出更酷的創(chuàng)新產(chǎn)品。“

GTI與NVidia和寒武紀(jì)的區(qū)別

現(xiàn)在活躍在AI芯片領(lǐng)域的，形成影響力的有Nvidia和華為麒麟970 帶紅的寒武紀(jì)等中國(guó)新星，他們也有不少創(chuàng)新。但是大部分品牌能做到在終端產(chǎn)品內(nèi)大容量本地計(jì)算，不用后臺(tái)計(jì)算機(jī)支撐嗎?功耗方面，他們和GTI同級(jí)別的產(chǎn)品顯然有很大的差距。

GTI的芯片能真正實(shí)現(xiàn)圖片，視頻和語(yǔ)音在手持設(shè)備的本地學(xué)習(xí)和識(shí)別!

我看到了真實(shí)的開發(fā)板演示，才敢相信這是真實(shí)存在的。

人工智能是對(duì)人類能力的增強(qiáng)!董先生的想法是讓GTI的芯片給更多有才華的工程師和開發(fā)者帶來(lái)新的創(chuàng)新空間。低功耗和高性能同時(shí)具備是GTI的核心競(jìng)爭(zhēng)力。據(jù)董先生介紹，未來(lái)GTI的第二代芯片產(chǎn)品的功耗將做到更低，明年上半年將會(huì)出品。我認(rèn)為這樣的超低功耗配合GTI強(qiáng)大的聲音和圖像處理能力這些將為智能終端領(lǐng)域帶來(lái)顛覆性的改變!更多個(gè)性化的產(chǎn)品，更多基于SDK的二次開發(fā)，不僅僅是產(chǎn)品的改變，新的商業(yè)模式也會(huì)出現(xiàn)，值得大家共同期待!

人工智能發(fā)展階段和革命點(diǎn)

人工智能發(fā)展40年，經(jīng)歷兩個(gè)維度和兩個(gè)階段技術(shù)路線。

第一個(gè)維度是早期基于專家系統(tǒng)的人工智能，是建立在人的經(jīng)驗(yàn)基礎(chǔ)上，根據(jù)專家決策思路來(lái)判斷。它不能超越人的智慧，但也通過(guò)計(jì)算機(jī)超算能力把只有專家才能解決的問(wèn)題，變成機(jī)器輔助決策系統(tǒng)。

第二個(gè)階段是基于神經(jīng)元理論的深度學(xué)習(xí)人工智能路線，它是人告訴機(jī)器特征要素，機(jī)器根據(jù)特征要素去自己學(xué)習(xí)。就像媽媽教孩子，這一只鳥，機(jī)器記住鳥的特征，下次見到鳥的圖片就知道是鳥。機(jī)器學(xué)多了就能區(qū)別麻雀、鸚鵡和老鷹，變的聰明起啦。第二個(gè)維度是AI芯片的技術(shù)路線，早期是用CPU計(jì)算能力實(shí)現(xiàn)，發(fā)展到基于GPU的AI芯片，在圖形處理效率上改善計(jì)算效率，它的特點(diǎn)是把圖片存儲(chǔ)起來(lái)，通過(guò)比對(duì)來(lái)識(shí)別和學(xué)習(xí)。它的特點(diǎn)是存儲(chǔ)量大，需要后臺(tái)計(jì)算機(jī)支撐、計(jì)算量大、決策時(shí)間長(zhǎng)和功耗大。

我認(rèn)為，中國(guó)要搶占人工智能的至高點(diǎn)，走產(chǎn)業(yè)化的道路，要解決的關(guān)鍵問(wèn)題就是芯片的低功耗和高性能的平衡!

那么，有沒(méi)有一種不用存儲(chǔ)圖片，占有幾百K-幾兆字節(jié)存儲(chǔ)空間，而僅存儲(chǔ)圖片特征值，從而減少存儲(chǔ)，減少計(jì)算量，完全本機(jī)實(shí)現(xiàn)學(xué)習(xí)和決策的芯片途徑?

人工智能領(lǐng)域的競(jìng)爭(zhēng)就是一場(chǎng)芯片革命!我看到董先生沿著卷積神經(jīng)網(wǎng)絡(luò)的路線，實(shí)現(xiàn)深度學(xué)習(xí)的AI處理器。他的團(tuán)隊(duì)由一批有情懷的硅片人組成，真正做到低功耗、計(jì)算快和無(wú)需芯片外數(shù)據(jù)交換的終端應(yīng)用，這顆芯片實(shí)現(xiàn)了革命性的創(chuàng)新!

GTI的芯片性能

GTI的AI處理器芯片- “光矛”Lightspeeur 2801S 已于2017年9月成功流片，該芯片擁有高達(dá)9.3 TOPS/Watt 的卓越效率能耗比表現(xiàn)，在人工智能邊緣計(jì)算與數(shù)據(jù)中心機(jī)器學(xué)習(xí)領(lǐng)域相比目前市場(chǎng)上的其他方案高出幾個(gè)數(shù)量級(jí)。它有二低二高特點(diǎn)，低功耗低存儲(chǔ)，高并行和原位計(jì)算，能有效推動(dòng)各種人工智能應(yīng)用在終端側(cè)及云端的產(chǎn)業(yè)化落地。

光矛 基于APiM架構(gòu)，該架構(gòu)使用內(nèi)存作為人工智能處理單元，能夠消除在其他架構(gòu)中的大量數(shù)據(jù)移動(dòng)，極大降低功耗。這一架構(gòu)支持真正的片上并行和原位計(jì)算，成功克服了由存儲(chǔ)器帶寬而導(dǎo)致的性能瓶頸。它有28000個(gè)并行計(jì)算核，不需要使用外部存儲(chǔ)單元用于人工智能推斷。

光矛 支持卷積神經(jīng)網(wǎng)絡(luò)，其分布式內(nèi)存塊結(jié)構(gòu)對(duì)CNN計(jì)算相當(dāng)友好并且支持多層結(jié)構(gòu)，每層的尺寸可以不同，內(nèi)置模型壓縮算法能夠?qū)崿F(xiàn)快速且低功耗的CNN計(jì)算。此外，Lightspeeur 還同時(shí)支持Caffe、TensorFlow等主流開源深度學(xué)習(xí)系統(tǒng)。

光矛 2801S采用28nm工藝，并已進(jìn)入量產(chǎn)階段，實(shí)測(cè)功能如下：

1， 效率能耗比為9.3Tops/W

2， 單芯片峰值運(yùn)算能力5.6Tops，運(yùn)行VGG網(wǎng)絡(luò)可到130FPS

3， 在功耗180毫瓦下，運(yùn)行VGG網(wǎng)絡(luò)可達(dá)30FPS;運(yùn)行AlexNet網(wǎng)絡(luò)可達(dá)48FPS.

4， ImageNet 圖像分類運(yùn)行網(wǎng)絡(luò)精度：VGG為66%，Alexnet為58%，

該芯片無(wú)需外掛DDR，多芯片可無(wú)縫連接，支持更強(qiáng)大計(jì)算要求的AI應(yīng)用如AI服務(wù)器、自動(dòng)駕駛、智慧安防和復(fù)雜條件下工業(yè)應(yīng)用等不同場(chǎng)景。

GTI芯片的產(chǎn)業(yè)化進(jìn)程

GTI在美國(guó)已經(jīng)與著名的自動(dòng)駕駛公司啟動(dòng)無(wú)人駕駛深度學(xué)習(xí)的產(chǎn)品合作，與韓國(guó)手機(jī)品牌開始AI手機(jī)方案合作、與日本知名企業(yè)合作專用AI服務(wù)器、與中國(guó)制造業(yè)領(lǐng)軍企業(yè)聯(lián)合啟動(dòng)AI產(chǎn)品表面檢測(cè)、以及與國(guó)內(nèi)安防企業(yè)籌劃真正具備本地AI識(shí)別能力的攝像頭等等。

在云計(jì)算中，光矛 可用于人工智能推理服務(wù)器;在邊緣計(jì)算中，該設(shè)備則可以支持人工智能監(jiān)控/視頻攝像頭、智能玩具/機(jī)器人、智能家居設(shè)備、AR/VR產(chǎn)品、語(yǔ)言/語(yǔ)音識(shí)別、自然語(yǔ)言處理等多個(gè)應(yīng)用領(lǐng)域。據(jù)悉，目前已有多家國(guó)內(nèi)和國(guó)際一線工業(yè)和科技巨頭計(jì)劃將Lightspeeur 用于其包括服務(wù)器、手機(jī)、家用IoT、工業(yè)智能制造、智慧城市產(chǎn)品和監(jiān)控?cái)z像頭等在內(nèi)的不同應(yīng)用中。

在落實(shí)幾個(gè)典型行業(yè)應(yīng)用案例后，GTI未來(lái)將在我愛(ài)方案網(wǎng)-快包上啟動(dòng)AI處理器應(yīng)用方案開發(fā)中心。這個(gè)中心采用互聯(lián)網(wǎng)眾包模式發(fā)展AI應(yīng)用方案，為各行業(yè)IOT服務(wù)?？彀茿I和物聯(lián)網(wǎng)的開發(fā)眾包平臺(tái)，匯聚數(shù)千個(gè)AI和物聯(lián)網(wǎng)應(yīng)用方案，數(shù)百萬(wàn)的工程師和開發(fā)者團(tuán)隊(duì)， 能有效促進(jìn)物聯(lián)網(wǎng)領(lǐng)域人工智能發(fā)展。