晶心科技和Deeplite攜手合作高度優(yōu)化深度學(xué)習(xí)模型解決方案
2019年12月31日—32/64位高效能、低功耗、精簡(jiǎn)RISC-V CPU 核心的領(lǐng)導(dǎo)供貨商、RISC-V基金會(huì)創(chuàng)始白金會(huì)員晶心科技,與Lightweight Intelligence? 的創(chuàng)建者,總部位于加拿大蒙特利爾的新創(chuàng)公司Deeplite, Inc.,今日宣布將攜手合作,在基于AndeStar? V5架構(gòu)的晶心RISC-V CPU核心上配置高度優(yōu)化的深度學(xué)習(xí)模型,使AI深度學(xué)習(xí)模型變得更輕巧、快速和節(jié)能。
近年來,諸如支持人工智能(AI)的家庭助理等智能裝置如雨后春筍般普及,為將極精簡(jiǎn)的深度學(xué)習(xí)模型應(yīng)用至日常生活提供了理想平臺(tái)。為追求低功耗和低計(jì)算資源且有效運(yùn)行,智能裝置必須易于使用并能實(shí)時(shí)響應(yīng)使用者請(qǐng)求。如今,因應(yīng)復(fù)雜的AI模型計(jì)算和功耗需求,大多數(shù)智能裝置必須將用戶數(shù)據(jù)和需求發(fā)送至云端執(zhí)行AI處理,再將結(jié)果傳回智能裝置。
晶心科技和Deeplite聯(lián)手推出解決方案,使諸如智慧家庭助理的人機(jī)互動(dòng)界面可以在本地操作,且?guī)缀醪恍枰?lián)機(jī)至云端;當(dāng)智能家庭助理通過小型攝像機(jī)偵測(cè)到人時(shí),裝置將會(huì)自動(dòng)“喚醒”。其目標(biāo)為優(yōu)化在第一個(gè)采用DSP SIMD ISA的商業(yè)RISC-V核心Andes A25和D25F上運(yùn)行的深度學(xué)習(xí)模型,適用于低成本的AI邊緣計(jì)算應(yīng)用。該團(tuán)隊(duì)從在13MB大的Visual Wake Words(VWW)視覺喚醒關(guān)鍵詞數(shù)據(jù)集上訓(xùn)練的MobileNet模型開始,使用Deeplite的硬件感知優(yōu)化引擎,在精準(zhǔn)度只降低1%的情況下,自動(dòng)發(fā)現(xiàn)、訓(xùn)練和運(yùn)用小于188KB的新模型。
“我們發(fā)現(xiàn)越來越多的行業(yè)需要在我們具有DSP指令的RISC-V核心如A25和D25F上運(yùn)行嵌入式、優(yōu)化的深度學(xué)習(xí)模型以加速深度學(xué)習(xí)演算,”晶心科技首席技術(shù)官暨執(zhí)行副總蘇泓萌博士表示,“Deeplite提供了一個(gè)可以在晶心內(nèi)部使用的解決方案,同時(shí)也可以讓我們的客戶將在晶心RISC-V CPU核心上的深度學(xué)習(xí)算法運(yùn)用到資源有限的邊緣裝置。”
“我對(duì)于這次的合作感到非常興奮!Deeplite不僅在最小精度的影響下提供了高達(dá)69倍深度學(xué)習(xí)模型的優(yōu)化,我們也自動(dòng)化以前費(fèi)時(shí)又容易出錯(cuò)的人工神經(jīng)網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)。”Deeplite, Inc. CEO Nick Romano表示,“過去需要花費(fèi)數(shù)周反復(fù)測(cè)試才能完成的工作,現(xiàn)在可以在幾個(gè)小時(shí)內(nèi)自動(dòng)完成!結(jié)合Deeplite的Lightweight Intelligence? 和晶心最好的CPU,使我們更進(jìn)一步將AI推廣于日常生活中。”
透過將Deeplite領(lǐng)先業(yè)界的優(yōu)化技術(shù)與晶心最先進(jìn)的RISC-V CPU相結(jié)合,為如語音識(shí)別或人員偵測(cè)等所需的微控制器級(jí)內(nèi)存及運(yùn)算要求,原始設(shè)備廠商(OEM)和應(yīng)用開發(fā)人員可以提供讓用戶可將數(shù)據(jù)保留在裝置上,并且同時(shí)仍能提供在世界各地真實(shí)環(huán)境下AI需有的實(shí)時(shí)且無縫響應(yīng)等優(yōu)勢(shì)。