人工智能處理器——VIP9000

2019年8月7日，芯片設(shè)計(jì)平臺(tái)即服務(wù)(SiPaaS)公司芯原(VeriSilicon)在上海宣布推出VIP9000，這是一款高度可擴(kuò)展、可編程的計(jì)算機(jī)視覺(jué)和人工智能處理器。Vivante VIP系列的專(zhuān)利神經(jīng)網(wǎng)絡(luò)(NN)引擎和張量處理架構(gòu)(Tensor Processing Fabric)技術(shù)提供卓越的神經(jīng)網(wǎng)絡(luò)推理性能，具有業(yè)界領(lǐng)先的能耗效率(TOPS/W)和面積效率(平方毫米/瓦)，可擴(kuò)展的計(jì)算能力范圍從0.5TOPS( 每秒萬(wàn)億次運(yùn)算)到幾百TOPS。

VIP9000采用Vivante最新的VIP V8 NPU架構(gòu)。芯原執(zhí)行副總裁兼IP事業(yè)部總經(jīng)理戴偉進(jìn)表示，VIP V8架構(gòu)提高了數(shù)據(jù)分配的靈活性和處理核心的可配置性，可適應(yīng)現(xiàn)代神經(jīng)網(wǎng)絡(luò)(例如1x1、Nx1、1xN、depth wise)中的各種濾波器(filter)形狀和大小。VIP9000通過(guò)基于設(shè)計(jì)選擇(INT8、INT16、Float16、Bfloat16)的不同數(shù)據(jù)格式實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)推理。VIP9000還能以原生方式支持混合量化(將神經(jīng)網(wǎng)絡(luò)操作之間的數(shù)據(jù)格式相混合)。

戴偉進(jìn)表示：“神經(jīng)網(wǎng)絡(luò)技術(shù)正不斷發(fā)展和演進(jìn)，在計(jì)算機(jī)視覺(jué)、超分辨率像素處理以及音頻和語(yǔ)音處理方面有著大量而全面的應(yīng)用。短短幾年內(nèi)，已有超過(guò)25家公司獲得了VIP技術(shù)的獨(dú)立授權(quán)，并在多種應(yīng)用中使用了這一技術(shù)，包括可穿戴設(shè)備和物聯(lián)網(wǎng)(IoT)設(shè)備、網(wǎng)絡(luò)攝像機(jī)、監(jiān)控?cái)z像頭、智能家居和電器、移動(dòng)電話(huà)、筆記本電腦、汽車(chē)(高級(jí)駕駛輔助系統(tǒng)(ADAS)、自動(dòng)駕駛)和邊緣服務(wù)器等，充分證明了這些產(chǎn)品和技術(shù)的需求。”

與視覺(jué)，語(yǔ)音，圖像處理或AIoT相關(guān)的行業(yè)領(lǐng)域和公司將受益于VIP9000。對(duì)于智能家居和AIoT應(yīng)用，VIP9000提供多款高度優(yōu)化的高精度識(shí)別引擎。該版本包含以下新功能：

更靈活的數(shù)據(jù)分配器和處理核心配置器：在現(xiàn)代神經(jīng)網(wǎng)絡(luò)模型中為各種濾波器形狀和大小帶來(lái)高M(jìn)AC利用率;

Bfloat16新數(shù)據(jù)格式支持：除現(xiàn)有的INT8、INT16和Float16支持之外，Bfloat16還為AI訓(xùn)練提供更高的精度;

FLEXA API支持：一種軟硬件協(xié)議，可在多個(gè)像素處理IP塊之間實(shí)現(xiàn)高效數(shù)據(jù)通信。搭載芯原ISP、視頻編解碼器(CODEC)、NPU或符合FLEXA API的第三方IP的系統(tǒng)可以運(yùn)行AI應(yīng)用，減少DDR流量和低像素處理延遲，適用于通過(guò)多IPS運(yùn)行的應(yīng)用程序;

為加速常用AI應(yīng)用程序而設(shè)計(jì)的任務(wù)專(zhuān)用引擎：支持人臉檢測(cè)、人臉識(shí)別、人臉特征點(diǎn)檢測(cè)、對(duì)象檢測(cè)和AI語(yǔ)音。得益于VIP9000的原生多任務(wù)、多場(chǎng)景支持，一個(gè)或多個(gè)引擎可在VIP9000內(nèi)與用戶(hù)定義的AI程序并行運(yùn)行。

VIP9000支持所有熱門(mén)的深度學(xué)習(xí)框架(TensorFlow、Pytorch、TensorFlow Lite、Caffe、Caffe2、DarkNet、ONNX、NNEF、Keras等)以及OpenCL和OpenVX等編程API。此外，VIP9000架構(gòu)還能以原生方式支持神經(jīng)網(wǎng)絡(luò)優(yōu)化技術(shù)，例如量化、修剪和模型壓縮。通過(guò)Vivante ACUITYTM SDK的離線(xiàn)轉(zhuǎn)換，或者通過(guò)Android NN、NN API或ARM NN的在線(xiàn)解釋?zhuān)珹I應(yīng)用程序可輕松移植到VIP9000平臺(tái)。

戴偉進(jìn)表示：“我們很自豪成為市場(chǎng)領(lǐng)導(dǎo)者，恩智浦(NXP)和博通(Broadcom)采用我們的技術(shù)、SiPaaS平臺(tái)、原始設(shè)備制造商(OEM)和供應(yīng)商關(guān)系來(lái)推動(dòng)進(jìn)一步發(fā)展。我們的被授權(quán)方已經(jīng)將Vivante NPU整合到超過(guò)50個(gè)系統(tǒng)級(jí)芯片(SoC)設(shè)計(jì)中，在充滿(mǎn)競(jìng)爭(zhēng)的市場(chǎng)中充分驗(yàn)證了我們的想法和技術(shù)。”

Jon Peddie Research總裁Jon Peddie博士表示，計(jì)算機(jī)行業(yè)自PC誕生以來(lái)最重要的發(fā)明就是人工智能和機(jī)器學(xué)習(xí)。 “它將徹底改變我們的生活。它可以在IBM和Google的巨型機(jī)器中實(shí)現(xiàn)，也可以在使用芯原神經(jīng)網(wǎng)絡(luò)處理器制造的微型芯片中實(shí)現(xiàn)。到2020年，如果沒(méi)有我們的AI助手，很難想象我們將如何生活。”

關(guān)于芯原

芯原是一家芯片設(shè)計(jì)平臺(tái)即服務(wù)(SiPaaS)公司，提供世界一流的系統(tǒng)級(jí)芯片(SoC)和系統(tǒng)級(jí)封裝(SiP)一站式解決方案;同時(shí)也是一家領(lǐng)先的IP供應(yīng)商，擁有業(yè)界最全面的IP組合。芯原業(yè)務(wù)范圍涵蓋移動(dòng)互聯(lián)設(shè)備、數(shù)據(jù)中心、物聯(lián)網(wǎng)(IoT)、汽車(chē)、工業(yè)和醫(yī)療設(shè)備等領(lǐng)域。芯原一站式服務(wù)能夠在短時(shí)間內(nèi)打造出從定義到測(cè)試封裝完成的半導(dǎo)體產(chǎn)品，為新興和成熟半導(dǎo)體廠商、OEM、ODM以及大型互聯(lián)網(wǎng)和云平臺(tái)提供商等客戶(hù)提供高效經(jīng)濟(jì)的半導(dǎo)體產(chǎn)品替代解決方案。芯原從攝像頭輸入到顯示輸出的Vivante 可伸縮智能像素處理IP完整解決方案，由ISP、神經(jīng)網(wǎng)絡(luò)處理單元、GPU和GPGPU、Hantro 視頻編解碼器以及顯示控制器組成，為邊緣或云端設(shè)備提供高度差異化的PPA(性能、功耗和面積)和品質(zhì)。基于芯原可擴(kuò)展的ZSP技術(shù)的解決方案，已廣泛應(yīng)用于高清音頻/語(yǔ)音和含低功耗藍(lán)牙(BLE) 5.0、Wi-Fi、NB-IoT技術(shù)在內(nèi)的無(wú)線(xiàn)平臺(tái)。芯原成立于2001年，總部位于中國(guó)上海，在中國(guó)和美國(guó)設(shè)有5個(gè)設(shè)計(jì)研發(fā)中心，全球共有10個(gè)銷(xiāo)售和客戶(hù)支持辦事處，目前員工已超過(guò)800人。