Imagination發(fā)布PowerVR NNA神經(jīng)網(wǎng)絡(luò)加速器

 2017年9月21日 ─ Imagination Technologies 宣布推出完整、獨(dú)立式的硬件IP神經(jīng)網(wǎng)絡(luò)加速器，通過(guò)神經(jīng)網(wǎng)絡(luò)(NN)專用的PowerVR架構(gòu)實(shí)現(xiàn)，可提供業(yè)界領(lǐng)先的面積效率。為移動(dòng)、監(jiān)控、汽車與消費(fèi)系統(tǒng)開(kāi)發(fā)SoC的公司將能以非常低的功耗，在最小的芯片面積中集成新款 PowerVR Series2NX NNA神經(jīng)網(wǎng)絡(luò)加速器，以實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的高性能運(yùn)算。

包括卷積神經(jīng)網(wǎng)絡(luò)(CNN)、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)在內(nèi)的神經(jīng)網(wǎng)絡(luò)正推動(dòng)各個(gè)產(chǎn)業(yè)的爆發(fā)性技術(shù)進(jìn)展。NNA是一種基本類型的處理器，預(yù)計(jì)會(huì)跟CPU和GPU一樣重要，而這兩類處理器Imagination均已能供應(yīng)。NNA的潛在應(yīng)用不計(jì)其數(shù)，其中包括AR/VR頭戴設(shè)備中的特征檢測(cè)與眼球追蹤;汽車安全系統(tǒng)中的行人檢測(cè)與駕駛員警覺(jué)性監(jiān)控;智能監(jiān)控系統(tǒng)中的臉部辨識(shí)與人群行為分析;網(wǎng)絡(luò)詐欺檢測(cè)、內(nèi)容建議(content advice)、以及預(yù)測(cè)性UX;虛擬助理應(yīng)用中的語(yǔ)音識(shí)別與回應(yīng);以及無(wú)人機(jī)中的防撞與對(duì)象追蹤等。

根據(jù)嵌入式視覺(jué)聯(lián)盟(https://www.embedded-vision.com)于2017年1月進(jìn)行的嵌入式視覺(jué)開(kāi)發(fā)人員調(diào)查顯示，79%的受訪者表示他們已經(jīng)利用或正計(jì)劃利用神經(jīng)網(wǎng)絡(luò)來(lái)執(zhí)行其產(chǎn)品或服務(wù)中的計(jì)算機(jī)視覺(jué)功能。隨著科技持續(xù)的快速進(jìn)展，更多的公司都將能夠利用神經(jīng)網(wǎng)絡(luò)來(lái)開(kāi)發(fā)產(chǎn)品與服務(wù)。Imagination的客戶已為安全、移動(dòng)、汽車與機(jī)頂盒等多個(gè)市場(chǎng)開(kāi)發(fā)與部署基于NN的系統(tǒng)。

嵌入式視覺(jué)聯(lián)盟創(chuàng)始人Jeff Bier表示：“很多系統(tǒng)與應(yīng)用程序開(kāi)發(fā)人員正采用深度神經(jīng)網(wǎng)絡(luò)算法把新的感知功能帶到他們的產(chǎn)品之中。在許多案例中，主要的挑戰(zhàn)在于能為這些要求嚴(yán)苛的算法提供足夠的處理性能，同時(shí)滿足嚴(yán)格的產(chǎn)品成本與功耗限制。像PowerVR 2NX NNA 這類的專用處理器，是專為神經(jīng)網(wǎng)絡(luò)算法所設(shè)計(jì)，將能在許多新應(yīng)用中推動(dòng)這些強(qiáng)大算法的部署。”

隨著神經(jīng)網(wǎng)絡(luò)日益普及，2NX NNA 這樣的專用硬件解決方案 —— 與單純的DSP解決方案相比，它可提供8倍的性能密度提升 —— 將能以最低的功耗與成本達(dá)到最高的性能。此外，一直以來(lái)，神經(jīng)網(wǎng)絡(luò)非常耗費(fèi)帶寬，因此內(nèi)存的帶寬需求會(huì)隨著神經(jīng)網(wǎng)絡(luò)模型規(guī)模的增長(zhǎng)而增加。這會(huì)為SoC設(shè)計(jì)人員和OEM公司在設(shè)計(jì)系統(tǒng)時(shí)，因?yàn)橐峁㎞NA所需的帶寬而帶來(lái)重大的挑戰(zhàn)。PowerVR 2NX能最小化外部DDR內(nèi)存的帶寬需求，確保系統(tǒng)的性能不會(huì)受到帶寬的限制。PowerVR 2NX NNA專用硬件的普及應(yīng)用，將能推動(dòng)各種基于神經(jīng)網(wǎng)絡(luò)技術(shù)的應(yīng)用程序進(jìn)一步發(fā)展。

PowerVR 2NX NNA可實(shí)現(xiàn)最高效率的解決方案

PowerVR 2NX是從頭開(kāi)始全新設(shè)計(jì)的架構(gòu)，可提供：

• 業(yè)界最高的單位毫瓦推理 (inference/mW) IP內(nèi)核，以提供最低的功耗*

• 業(yè)界最高的單位面積推理 (inference/mm2) IP內(nèi)核，可實(shí)現(xiàn)最具成本效益的解決方案*

• 業(yè)界最低帶寬的解決方案*——支持權(quán)重與數(shù)據(jù)的高靈活性位寬，包括低至4位的低帶寬模式

• 業(yè)界領(lǐng)先的性能，單一內(nèi)核為每周期2048 MAC，并可采用多核設(shè)計(jì)進(jìn)一步提升性能

• 在硬件架構(gòu)的基礎(chǔ)上提供了最全面的系統(tǒng)級(jí)的神經(jīng)網(wǎng)絡(luò)解決方案

Imagination公司 PowerVR 產(chǎn)品與技術(shù)營(yíng)銷資深總監(jiān) Chris Longstaff 表示：“神經(jīng)網(wǎng)絡(luò)加速的專用硬件將成為未來(lái)SoC的標(biāo)準(zhǔn)IP模塊，就如同CPU和GPU一樣。我們很高興率先向市場(chǎng)推出完整的硬件加速器，能完全支持高精準(zhǔn)度的靈活方式，使神經(jīng)網(wǎng)絡(luò)能以最低的功耗與帶寬運(yùn)作，并提供優(yōu)于競(jìng)爭(zhēng)對(duì)手方案的絕對(duì)性能與單位面積性能。我們提供的工具將能讓開(kāi)發(fā)人員非?？焖俚貑⒂貌?zhí)行其神經(jīng)網(wǎng)絡(luò)，因此能快速增加營(yíng)收。”

2NX包括硬件IP、軟件與工具，可為SoC提供完整的神經(jīng)網(wǎng)絡(luò)解決方案。它能有效地執(zhí)行所有常見(jiàn)的神經(jīng)網(wǎng)絡(luò)運(yùn)算層。依據(jù)推理任務(wù)的運(yùn)算需求，它能獨(dú)立使用 ─ 無(wú)須額外的硬件 ─ 或是與CPU和GPU等其它的處理器結(jié)合運(yùn)用。

神經(jīng)網(wǎng)絡(luò)無(wú)所不在

PowerVR 2NX NNA是專為適應(yīng)多種市場(chǎng)的推理引擎所設(shè)計(jì)，其高度可擴(kuò)展架構(gòu)適用于未來(lái)的更多應(yīng)用市場(chǎng)。

移動(dòng)：隨著Tensorflow Lite以及 Android API的即將發(fā)布，再加上Caffe2Go架構(gòu)的快速進(jìn)展，我們將看到智能手機(jī)AI應(yīng)用程序數(shù)量的快速爆發(fā)。公司需要高效率的方式來(lái)執(zhí)行包括影像辨識(shí)、語(yǔ)音辨識(shí)、計(jì)算攝影等在內(nèi)各種的推理任務(wù)。PowerVR 2NX是現(xiàn)今唯一的一套IP解決方案，能以低功耗、小面積、MMU和對(duì)Android的支持，來(lái)滿足移動(dòng)解決方案部署的所有需求。在GPU不可或缺的移動(dòng)設(shè)備中，公司能把新的 PowerVR Series9XE或 9XM GPU與 2NX NNA在相同的芯片中搭配運(yùn)用，以作為獨(dú)立式GPU。其優(yōu)異的性能足以和業(yè)界的獨(dú)立式GPU競(jìng)爭(zhēng)。

智能監(jiān)控：家庭與商業(yè)場(chǎng)所安裝的監(jiān)控?cái)z影機(jī)數(shù)量正大量增加，將推動(dòng)神經(jīng)網(wǎng)絡(luò)視覺(jué)處理的需求?；谶@些技術(shù)的智能型攝影機(jī)能被用來(lái)根據(jù)安全警示、零售分析、人口統(tǒng)計(jì)與互動(dòng)數(shù)據(jù)來(lái)制定決策?？紤]帶寬需求、數(shù)據(jù)機(jī)密性與其他因素，攝影機(jī)的設(shè)計(jì)必須加入一定程度的“網(wǎng)絡(luò)邊緣”(edge) 視頻信息分析處理的能力。由于這些攝影機(jī)通常沒(méi)有GPU或是僅有非常小的GPU，以及較低性能的CPU，因此它們需要一個(gè)高效率、高性能的獨(dú)立式神經(jīng)網(wǎng)絡(luò)加速器。2NX NNA是理想的選擇，并且具備高度可擴(kuò)展性，能同時(shí)滿足消費(fèi)性與商用的需求。

汽車：汽車的神經(jīng)網(wǎng)絡(luò)應(yīng)用包括駕駛員警覺(jué)性監(jiān)測(cè)、駕駛員視線追蹤、座位使用、路標(biāo)檢測(cè)、駕駛路線分析、道路使用者檢測(cè)、駕駛員辨識(shí)以及其他。隨著未來(lái)幾年自動(dòng)駕駛汽車與智能型運(yùn)輸系統(tǒng)的數(shù)量將日益增加，這些應(yīng)用將持續(xù)擴(kuò)展。在汽車系統(tǒng)中，需要2NX NNA 這樣的完整硬件解決方案，才能滿足相關(guān)的性能需求。

家庭娛樂(lè)：機(jī)頂盒和電視將逐漸提供基于神經(jīng)網(wǎng)絡(luò)的解決方案，例如能夠適應(yīng)特定使用者偏好的能力，提供自動(dòng)的兒童鎖，以及根據(jù)使用者行為自動(dòng)暫停與錄制節(jié)目。憑借這些特性，公司能提升其差異性并增加營(yíng)收。要在這些設(shè)備上構(gòu)建神經(jīng)網(wǎng)絡(luò)的關(guān)鍵是高效率的帶寬與低成本，以及支持NN API ─ 這些都是2NX NNA的重要特性。此外，還有許多新興的NNA娛樂(lè)應(yīng)用，包括AR/VR。

睿悅信息Nibiru是一家移動(dòng)VR與AR的技術(shù)與服務(wù)供應(yīng)商，該公司的共同創(chuàng)始人兼副總裁 Tony Chia表示：“來(lái)自合作伙伴Imagination的創(chuàng)新技術(shù)是確保VR解決方案可為消費(fèi)者提供高度沉浸式游戲與視覺(jué)體驗(yàn)的重要關(guān)鍵。我們對(duì)神經(jīng)網(wǎng)絡(luò)在VR/AR的潛在應(yīng)用感到非常振奮，包括追蹤、控制、姿勢(shì)辨識(shí)、語(yǔ)音辨識(shí)、以及能增加更多的互動(dòng)體驗(yàn)。內(nèi)置 PowerVR 2NX NNA的芯片組可提供所需的處理能力與功耗效率，把VR/AR體驗(yàn)推升到全新的境界。”

簡(jiǎn)化開(kāi)發(fā)人員的工作

Imagination可為開(kāi)發(fā)人員提供所有必要的工具，讓他們能快速、輕松地啟用和執(zhí)行其神經(jīng)網(wǎng)絡(luò)，并確保運(yùn)算帶寬能與準(zhǔn)確度完美平衡。PowerVR 2NX的開(kāi)發(fā)資源包括映射 (mapping) 和微調(diào)工具、樣本網(wǎng)絡(luò)、評(píng)估工具與文件。完整的 PowerVR NX Mapping Tool 能從業(yè)界標(biāo)準(zhǔn)的機(jī)器學(xué)習(xí)框架，包括Caffe 和 Tensorflow，輕松進(jìn)行轉(zhuǎn)換。高級(jí)的網(wǎng)絡(luò)設(shè)計(jì)人員將能在2NX NNA 上設(shè)計(jì)與構(gòu)建神經(jīng)網(wǎng)絡(luò)，以充分發(fā)揮其硬件特性。

Imagination也可提供通用的Imagination DNN (深度神經(jīng)網(wǎng)絡(luò)) API，能在CPU、GPU與NNA之間輕松轉(zhuǎn)換。此單一的API能夠跨多種SoC配置執(zhí)行，因此能在現(xiàn)有設(shè)備上輕松開(kāi)發(fā)原型。