一個強大的轉變正在嵌入空間進行。連接設備正在演變成能夠根據(jù)所收集的數(shù)據(jù)自行決策的系統(tǒng)。通過處理更接近其捕獲地點的數(shù)據(jù),而不是在iot網關或云中,它有望加快決策速度,減少延遲,解決數(shù)據(jù)隱私問題,降低成本和提高能源效率。
工業(yè)自動化、機器人技術、智能城市和家庭自動化僅僅是推動提高計算機性能和能力需求的幾個應用領域。過去,這些類型系統(tǒng)中的傳感器要簡單得多,而且不連接,不過,人工智能和機器學習(ML)現(xiàn)在能夠提高本地智能水平,允許本地的設備決策,而過去簡單的控制算法是不可能做到的。
人工智能時代通用處理器的演變
多年前,開發(fā)者把邏輯和控制算法作為軟件開發(fā)的核心,然而數(shù)字信號處理(DSP)算法隨后出現(xiàn),這使許多增強語音、視覺和音頻應用成為可能。
應用程序開發(fā)的這種轉變進入了一個新的時代,正在影響計算體系結構的設計。現(xiàn)在我們已經到了推理是算法開發(fā)的一個主要焦點的階段.這帶來了對計算性能、能源效率、延遲、實時處理和可伸縮性等新的或更高的要求。
我們看到,不僅需要新的處理器加速器,而且需要改進通用處理,為開發(fā)人員提供必要的平衡,并啟用應用程序,如特征檢查或人的實時視頻檢測。
幾年前開發(fā)人員創(chuàng)建噪音取消應用程序時,只會依賴基于頻率的濾波器。但是今天,開發(fā)人員可以通過將過濾與ML/AI模型和推理相混合來提高應用程序的性能和功能。這推動了對處理器和工具的需求,使這些任務更加高效,并且盡可能地無縫地提供給用戶。
邊緣和端點裝置中的智能標記
這種演變是由ML驅動的,但它并非沒有技術上的挑戰(zhàn)。多年的啟動和停止,以及創(chuàng)造一個"一刀切"方法的嘗試,都促使業(yè)界改變了其方法,以釋放大規(guī)模的擴展機會。
現(xiàn)在,開發(fā)者正在利用安全、性能提高的技術,使小型、低功率嵌入式系統(tǒng)能夠應用于先前難以想象的聲音、視覺和振動應用,這些應用正在改變世界。語言和變壓器模型的各種版本將很快在具有新的計算能力的iot邊緣設備中找到他們的位置。這將打開開發(fā)人員曾經夢想的新的可能性。
為了給開發(fā)人員配備這種開發(fā)改造所需的硬件,幾年前我們在ARM8.1M體系結構中引入了ARM矢量處理技術。ARM作為小型低功率嵌入式器件,在ML和數(shù)字信號處理中的應用有著顯著的性能提升。它還提供單一指令多數(shù)據(jù)(SIMD)功能,為ARMcortexM設備提供新水平的性能,支持預測維護和環(huán)境監(jiān)測等應用。
ARM增強了DSP和ML的性能,加速了信號調節(jié)(如濾波、消除噪聲和消除回聲)和特征提取(音頻或像素數(shù)據(jù)),然后可以通過神經網絡處理器輸入分類部分。
實現(xiàn)智能邊緣能力
我們已經看到合作伙伴在他們的最新產品中選擇ARM技術,使開發(fā)者能夠利用最受約束的設備在網絡的最邊緣的ML能力。ARMcortex-55于2020年2月發(fā)布,而Alif半導體于2021年9月發(fā)布了第一個cortex-55硅。它在其整體和產品家族中使用ARM的cortex-M-55。HMAX還采用了帶ARM的cortexM-55作為下一代W2AI處理器的一部分,該處理器的目標是電池驅動的iot設備中的計算機視覺。
第二個使用ARM的CPU,ARMcortex-M85,于2022年4月n發(fā)布,雷納斯在2022年和2023年嵌入式世界上展示了M85演示。普魯梅雷是一家開發(fā)了基于相機的人員檢測完整軟件解決方案的公司,該公司在演示過程中利用了雷納斯RAMU技術來顯著加速其推理引擎。該公司相信,性能提升將使其客戶能夠使用更大、更精確的普魯梅雷人檢測人工智能,增加額外的產品功能,并延長電池壽命。
隨著硬件的不斷發(fā)展,開發(fā)人員面臨著越來越復雜的軟件需求,需要新的開發(fā)流程來創(chuàng)建優(yōu)化的ML模型和高效的設備驅動程序。至關重要的是,為生態(tài)系統(tǒng)提供的軟件開發(fā)平臺和工具與硬件一起發(fā)展。
有各種各樣的ARM和第三方工具可以支持最終用戶創(chuàng)建AI算法。一旦數(shù)據(jù)科學家離線創(chuàng)建了模型,就會有工具對模型進行優(yōu)化,無論是在基于電子的NPPS上使用,還是在基于cortex的處理器上使用ARM指令。
QEexo是第一家為邊緣設備自動化端到端機器學習的公司,其自動化平臺提供了一個直觀的用戶界面,允許用戶收集、清理和可視化傳感器數(shù)據(jù),并使用不同的算法自動建立機器學習模型。傳統(tǒng)的嵌入式工具,如凱伊微控制器開發(fā)工具包(凱伊MDK)補充了MLPOP工具,并幫助建立了一個用于驗證復雜的軟件工作負載的開發(fā)流程。因此,嵌入式、iot和AI應用程序在一個單一的開發(fā)流中收斂,這是許多軟件開發(fā)人員已知的。
邊緣的潛力正在被解鎖。人們對微控制器性能的需求越來越大,特別是在語音激活的門鎖、人員檢測和識別、將電動機控制與預測性維護連接起來以及無數(shù)其他高端人工智能和ML應用等方面。
配備了正確的技術,開發(fā)者可以重新設想邊緣和端點設備,在成本、性能、能源效率和隱私之間達成正確的平衡,這是這些受限系統(tǒng)的關鍵因素。
下載文檔
