深度解析M1808 AI核心板AI算力性能

一、AIoT概述

AIoT(Artificial Intelligence & Internet of Things)中文譯為人工智能物聯(lián)網(wǎng)，是將人工智能(AI)與物聯(lián)網(wǎng)(IoT)兩者有機(jī)結(jié)合的一種技術(shù)。AI在這個(gè)系統(tǒng)中充當(dāng)了大腦的角色，賦予了物聯(lián)網(wǎng)更多的可能性，將萬(wàn)物互聯(lián)提升到萬(wàn)物智聯(lián)，如目前的智能醫(yī)護(hù)助手、人體測(cè)溫?cái)z像頭、智能配送機(jī)器人都是在AI的加持下得以實(shí)現(xiàn)。

據(jù)2019年的市場(chǎng)調(diào)查報(bào)告顯示，2020年中國(guó)AIoT硬件市場(chǎng)及相關(guān)產(chǎn)業(yè)的規(guī)模將突破萬(wàn)億元。目前AIoT的主流方案以邊緣計(jì)算和云計(jì)算結(jié)合為主，相比之下，邊緣計(jì)算有部署靈活、穩(wěn)定性強(qiáng)、網(wǎng)絡(luò)依賴度低、安全性強(qiáng)更有利于保護(hù)隱私的特點(diǎn)。作為布局AIoT的重要產(chǎn)品，ZLG發(fā)布了M1808 AI核心板。本文將針對(duì)M1808核心板的AI性能參數(shù)做具體講解。

二、M1808平臺(tái)簡(jiǎn)介

M1808平臺(tái)是由M1808-T核心板和M1808-EV-Board評(píng)估底板組成，是基于Rockchip 的RK1808 AIoT處理器開發(fā)。RK1808處理器芯片采用CPU（Central Processing Unit，中文譯為中央處理單元）+NPU（Network Process Unit，中文譯為神經(jīng)網(wǎng)絡(luò)處理單元）雙架構(gòu)，其中CPU為1.6GHz雙核Cortex-A35架構(gòu)，NPU的峰值算力高達(dá)3.0TOPs，支持INT8/INT16/FP16混合運(yùn)算，最大程度兼顧性能、功耗、運(yùn)算精度，支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網(wǎng)絡(luò)模型轉(zhuǎn)換，兼容性強(qiáng)。VPU視頻處理單元支持1080P視頻編解碼，支持麥克風(fēng)陣列，并具有硬件VAD功能，支持低功耗偵聽遠(yuǎn)場(chǎng)喚醒，還支持?jǐn)z像頭視頻信號(hào)輸入，并具有內(nèi)置ISP。M1808平臺(tái)具有高性能、低功耗、易編程、集成NPU等特點(diǎn)。 

三、AIoT硬件平臺(tái)AI性能對(duì)比

算力和功耗是衡量硬件平臺(tái)AI性能的重要參數(shù)。為了充分驗(yàn)證M1808的高性能、低功耗特點(diǎn)，表格1提供了M1808與其他產(chǎn)品的AI性能參數(shù)對(duì)比。通過(guò)對(duì)比可知，M1808 AI核心板能夠最大程度的兼顧算力與功耗。這也使其在AIoT硬件平臺(tái)上具有領(lǐng)先地位。

表格 1

四、常見AI功能的算力花銷

考慮到讀者對(duì)3.0 TOPs的算力很難有一個(gè)清晰的概念，在表格2中我們列出了常見AI功能所需要的算力花銷：

表格 2

由表格可知，除了自動(dòng)駕駛這種多模型融合、實(shí)際場(chǎng)景十分復(fù)雜多變的情形，大部分單一功能的實(shí)現(xiàn)所需的算力要求在1TOPS這個(gè)數(shù)量級(jí)。M1808作為目前具有代表性的嵌入式AI平臺(tái)，具備了3.0 TOPs的基礎(chǔ)算力，基本可以滿足大部分場(chǎng)景的使用，如人臉門禁、掃臉支付、智能餐桌等。此外，如果對(duì)照片處理的實(shí)時(shí)性要求不高，比如山火識(shí)別，面對(duì)這種對(duì)網(wǎng)絡(luò)模型的查全率要求很高的場(chǎng)景，就可以使用上結(jié)構(gòu)更深的模型，來(lái)達(dá)到精度更高的效果。

五、神經(jīng)網(wǎng)絡(luò)推理速度

• 為了更直觀地認(rèn)識(shí)M1808的AI計(jì)算能力，在圖表1中，我們分別在三種相同的神經(jīng)網(wǎng)絡(luò)模型下，對(duì)比M1808與常見手機(jī)芯片的網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)運(yùn)行時(shí)間。運(yùn)行時(shí)間的長(zhǎng)短可以反應(yīng)出硬件平臺(tái)AI計(jì)算能力?？梢钥吹?，對(duì)比當(dāng)今主流的手機(jī)芯片，M1808的AI算力也毫不遜色，足以滿足大部分AI功能需求。

圖表 1

六、軟件層面

除了提供強(qiáng)大的AI算力，M1808也提供了對(duì)應(yīng)的AI開發(fā)套件來(lái)支持研發(fā)人員的開發(fā)工作。目前M1808的套件支持主流的tensorflow、tensroflow lite、caffe、darknet、onnx、pytorch等框架訓(xùn)練的模型，可以對(duì)其進(jìn)行模型轉(zhuǎn)換以便將模型部署到開發(fā)板上，我們還提供了自動(dòng)量化及模型運(yùn)行效率的評(píng)估功能，減少模型適配的工作量。

同時(shí)，M1808也提供了一些常用的AI模型可供開發(fā)人員調(diào)用，目前支持以下功能：人臉識(shí)別，司機(jī)疲勞駕駛檢測(cè)系統(tǒng)，人臉關(guān)鍵點(diǎn)定位，人臉檢測(cè)，物體檢測(cè)，物體分類，紐扣方向的功能。目前的人臉識(shí)別精度在lfw上達(dá)到了99.7%，一萬(wàn)人臉庫(kù)的情景下達(dá)到每秒10幀左右，支持年齡跨度、人臉部分遮擋和摘戴眼鏡等戶外及室內(nèi)場(chǎng)景，更多的功能正在開發(fā)測(cè)試完善中，敬請(qǐng)期待。

以上即為M1808的算法算力性能介紹，大家是會(huì)能夠真切的感受到這款A(yù)I核心板的性能呢？若是想了解我司基于M1808提供的算法可查閱往期文章《立功科技嵌入式平臺(tái)“軟”實(shí)力——人臉識(shí)別算法篇》，若是再想更近距離的感受M1808性能的強(qiáng)大，歡迎咨詢小致，可有機(jī)會(huì)實(shí)際感受M1808 AI核心板的強(qiáng)勁性能。