到底什么是 AI Engine？多核異構(gòu)計算核心

想象一下：

清晨有智能語音助手輕聲喚醒你

工作時，人工智能助你高效辦公

約會時，人工智能為你“出謀劃策”

當(dāng)手機(jī)里加持了人工智能

未來充滿無限可能

最近幾年，人工智能應(yīng)用日益普及，個人語音助手一類的人工智能應(yīng)用，為我們帶來了令人驚嘆的體驗(yàn)。為了讓你更好地用上人工智能，我們在今年 MWC 上推出了Qualcomm人工智能引擎 AI Engine。

然而……到底什么是 AI Engine？簡單說，AI Engine 就是在驍龍移動平臺上加速終端側(cè)人工智能用戶體驗(yàn)實(shí)現(xiàn)的硬件與軟件組件的集合。

硬件：多核異構(gòu)計算核心

高效運(yùn)行終端側(cè)人工智能需要多核異構(gòu)計算。因?yàn)椴煌斯ぶ悄軕?yīng)用場景的功耗和對運(yùn)算資源的需求各不相同，僅靠單顆人工智能內(nèi)核無法以最佳方式解決，所以需要可編程的異構(gòu)計算。

舉個例子，Hexagon 向量處理器、Adreno GPU、Kryo CPU就像三個各有所長的樂手，不同的曲目需要不同類型的樂手，有的擅長高音，有的擅長低音，只有根據(jù)曲目合理樂手搭配，方能呈上一場精彩合唱。

Qualcomm 驍龍移動平臺充分利用了多核異構(gòu)計算核心 Hexagon 向量處理器、Adreno GPU 視覺處理子系統(tǒng)和 Kryo CPU 的可編程架構(gòu)。這為開發(fā)者提供了更廣泛的選擇，面向不同類型的功能、基于不同類型的數(shù)據(jù)、在不同的計算精度水平上，可支持大量卷積或循環(huán)神經(jīng)網(wǎng)絡(luò)。

HEXAGON向量處理器

Qualcomm Hexagon 向量處理器是向量處理器子系統(tǒng)中的加速引擎，支持處理8位定點(diǎn)運(yùn)算。相較于 GPU 或 CPU，涉及向量數(shù)學(xué)的應(yīng)用工作負(fù)載通常更適合在驍龍的向量處理器上運(yùn)行。

ADRENO GPU

具有龐大的并行數(shù)據(jù)集、需要大量的向量數(shù)學(xué)，尤其是對浮點(diǎn)精度有要求的應(yīng)用工作負(fù)載，都非常適宜在驍龍的 Adreno GPU 上運(yùn)行。通過最新的 Adreno GPU 對 16 位浮點(diǎn)精度的人工智能工作負(fù)載進(jìn)行的優(yōu)化，可提供更佳的能效表現(xiàn)，使其成為如計算機(jī)視覺物體分類、視頻風(fēng)格轉(zhuǎn)換、場景檢測和游戲等人工智能應(yīng)用的理想選擇。

KRYO CPU

神經(jīng)網(wǎng)絡(luò)模型通常以 32 位浮點(diǎn)（高精度）在云端完成訓(xùn)練。它也可以在終端側(cè)的 CPU 上實(shí)現(xiàn)類似運(yùn)行，但其代價太大，需要終端在性能和功耗上作出一些犧牲。驍龍845 中在 Kryo CPU 上優(yōu)化了對 8 位定點(diǎn)精度的支持，幫助支持包含較大內(nèi)核、相對較少向量處理、非規(guī)則性數(shù)據(jù)結(jié)構(gòu)和/或復(fù)雜流程控制的應(yīng)用。

總的來說，在驍龍平臺上加速人工智能最高效的解決方案是將人工智能工作負(fù)載分配到 CPU、GPU 和向量處理器上。這為開發(fā)者提供了實(shí)現(xiàn)人工智能用戶體驗(yàn)的多種靈活選擇。

軟件和工具

AI Engine 的第二個組成部分是軟件和工具。在處理 AI 應(yīng)用時，軟件和工具無疑更加重要。硬件是一個加速的平臺，而在軟件層面開發(fā)者能夠?qū)崿F(xiàn)大量的創(chuàng)新，打造最新的 AI 應(yīng)用。

還是用樂手類比，如果說硬件是樂手，那么軟件就是指揮，他能讓樂隊(duì)成員發(fā)揮最佳表現(xiàn)，呈現(xiàn)最佳演出效果。

Qualcomm 人工智能引擎 AI Engine 的核心軟件構(gòu)架包括：驍龍神經(jīng)處理SDK、隨Google Android Oreo 發(fā)布的Android NN API以及Hexagon Neutral Network（NN）庫。

通過在驍龍終端上優(yōu)化已訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)運(yùn)行的性能，驍龍神經(jīng)處理引擎可幫助開發(fā)者節(jié)省時間和工作量，Hexagon NN庫讓開發(fā)者可以直接將人工智能算法在Hexagon向量處理器上運(yùn)行。為基礎(chǔ)性的機(jī)器學(xué)習(xí)模塊提供了優(yōu)化的部署，并顯著加速諸如卷積、池化和激活等人工智能運(yùn)行。

移動平臺支持

目前，驍龍845、驍龍835、驍龍821、驍龍820 均已支持 Qualcomm人工智能引擎 AI Engine，其中驍龍845將支持最頂尖的終端側(cè)人工智能。

而作為驍龍 600 系列中迄今為止最強(qiáng)的產(chǎn)品，驍龍660移動平臺同樣支持 Qualcomm人工智能引擎? AI Engine，它首次將配備 HVX 的 Qualcomm Hexagon DSP 運(yùn)用至驍龍 600 系列之中，支持性能的飛躍式提升。除了帶來卓越的AI 體驗(yàn)，驍龍660移動平臺還支持先進(jìn)的拍攝技術(shù)、增強(qiáng)的游戲體驗(yàn)和持久的電池續(xù)航時間。

全新的驍龍700系列平臺也將支持 Qualcomm人工智能引擎 AI Engine，驍龍700系列移動平臺預(yù)計將于今年上半年向客戶商用出樣，讓我們一起期待吧。