想象一下：
清晨有智能語音助手輕聲喚醒你
工作時，人工智能助你高效辦公
約會時，人工智能為你“出謀劃策”
當(dāng)手機里加持了人工智能
未來充滿無限可能
最近幾年，人工智能應(yīng)用日益普及，個人語音助手一類的人工智能應(yīng)用，為我們帶來了令人驚嘆的體驗。為了讓你更好地用上人工智能，我們在今年 MWC 上推出了Qualcomm人工智能引擎 AI Engine。
然而……到底什么是 AI Engine？簡單說，AI Engine 就是在驍龍移動平臺上加速終端側(cè)人工智能用戶體驗實現(xiàn)的硬件與軟件組件的集合。
硬件：多核異構(gòu)計算核心
高效運行終端側(cè)人工智能需要多核異構(gòu)計算。因為不同人工智能應(yīng)用場景的功耗和對運算資源的需求各不相同，僅靠單顆人工智能內(nèi)核無法以最佳方式解決，所以需要可編程的異構(gòu)計算。
舉個例子，Hexagon 向量處理器、Adreno GPU、Kryo CPU就像三個各有所長的樂手，不同的曲目需要不同類型的樂手，有的擅長高音，有的擅長低音，只有根據(jù)曲目合理樂手搭配，方能呈上一場精彩合唱。
Qualcomm 驍龍移動平臺充分利用了多核異構(gòu)計算核心 Hexagon 向量處理器、Adreno GPU 視覺處理子系統(tǒng)和 Kryo CPU 的可編程架構(gòu)。這為開發(fā)者提供了更廣泛的選擇，面向不同類型的功能、基于不同類型的數(shù)據(jù)、在不同的計算精度水平上，可支持大量卷積或循環(huán)神經(jīng)網(wǎng)絡(luò)。
HEXAGON向量處理器
Qualcomm Hexagon 向量處理器是向量處理器子系統(tǒng)中的加速引擎，支持處理8位定點運算。相較于 GPU 或 CPU，涉及向量數(shù)學(xué)的應(yīng)用工作負載通常更適合在驍龍的向量處理器上運行。
ADRENO GPU
具有龐大的并行數(shù)據(jù)集、需要大量的向量數(shù)學(xué)，尤其是對浮點精度有要求的應(yīng)用工作負載，都非常適宜在驍龍的 Adreno GPU 上運行。通過最新的 Adreno GPU 對 16 位浮點精度的人工智能工作負載進行的優(yōu)化，可提供更佳的能效表現(xiàn)，使其成為如計算機視覺物體分類、視頻風(fēng)格轉(zhuǎn)換、場景檢測和游戲等人工智能應(yīng)用的理想選擇。
KRYO CPU
神經(jīng)網(wǎng)絡(luò)模型通常以 32 位浮點（高精度）在云端完成訓(xùn)練。它也可以在終端側(cè)的 CPU 上實現(xiàn)類似運行，但其代價太大，需要終端在性能和功耗上作出一些犧牲。驍龍845 中在 Kryo CPU 上優(yōu)化了對 8 位定點精度的支持，幫助支持包含較大內(nèi)核、相對較少向量處理、非規(guī)則性數(shù)據(jù)結(jié)構(gòu)和/或復(fù)雜流程控制的應(yīng)用。
總的來說，在驍龍平臺上加速人工智能最高效的解決方案是將人工智能工作負載分配到 CPU、GPU 和向量處理器上。這為開發(fā)者提供了實現(xiàn)人工智能用戶體驗的多種靈活選擇。
軟件和工具
AI Engine 的第二個組成部分是軟件和工具。在處理 AI 應(yīng)用時，軟件和工具無疑更加重要。硬件是一個加速的平臺，而在軟件層面開發(fā)者能夠?qū)崿F(xiàn)大量的創(chuàng)新，打造最新的 AI 應(yīng)用。
還是用樂手類比，如果說硬件是樂手，那么軟件就是指揮，他能讓樂隊成員發(fā)揮最佳表現(xiàn)，呈現(xiàn)最佳演出效果。
Qualcomm 人工智能引擎 AI Engine 的核心軟件構(gòu)架包括：驍龍神經(jīng)處理SDK、隨Google Android Oreo 發(fā)布的Android NN API以及Hexagon Neutral Network（NN）庫。
通過在驍龍終端上優(yōu)化已訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)運行的性能，驍龍神經(jīng)處理引擎可幫助開發(fā)者節(jié)省時間和工作量，Hexagon NN庫讓開發(fā)者可以直接將人工智能算法在Hexagon向量處理器上運行。為基礎(chǔ)性的機器學(xué)習(xí)模塊提供了優(yōu)化的部署，并顯著加速諸如卷積、池化和激活等人工智能運行。
移動平臺支持
目前，驍龍845、驍龍835、驍龍821、驍龍820 均已支持 Qualcomm人工智能引擎 AI Engine，其中驍龍845將支持最頂尖的終端側(cè)人工智能。
而作為驍龍 600 系列中迄今為止最強的產(chǎn)品，驍龍660移動平臺同樣支持 Qualcomm人工智能引擎? AI Engine，它首次將配備 HVX 的 Qualcomm Hexagon DSP 運用至驍龍 600 系列之中，支持性能的飛躍式提升。除了帶來卓越的AI 體驗，驍龍660移動平臺還支持先進的拍攝技術(shù)、增強的游戲體驗和持久的電池續(xù)航時間。
全新的驍龍700系列平臺也將支持 Qualcomm人工智能引擎 AI Engine，驍龍700系列移動平臺預(yù)計將于今年上半年向客戶商用出樣，讓我們一起期待吧。
下載文檔
