邊緣人工智能?(AI)?和云計(jì)算的演進(jìn)

點(diǎn)擊藍(lán)字?關(guān)注我們

云和邊緣人工智能 (AI) 如何改變物聯(lián)網(wǎng)

2019 年之前，大多數(shù)物聯(lián)網(wǎng)系統(tǒng)由超低功耗無(wú)線(xiàn)傳感器節(jié)點(diǎn)組成，通常采用電池供電，具備感測(cè)功能。它們的主要目的是將遙測(cè)數(shù)據(jù)發(fā)送到云端進(jìn)行大數(shù)據(jù)處理。

隨著物聯(lián)網(wǎng)成為新的流行詞和市場(chǎng)趨勢(shì)，幾乎每家公司都在這樣做，以此實(shí)現(xiàn)概念驗(yàn)證 (PoC)。云服務(wù)提供商有很好的儀表板，用吸引人的圖表顯示數(shù)據(jù)，輔助實(shí)現(xiàn) PoC。PoC 的主要用途是說(shuō)服利益相關(guān)者投資物聯(lián)網(wǎng)，并證明投資回報(bào)，以便為更大的項(xiàng)目籌集資金。

隨著這個(gè)生態(tài)系統(tǒng)的擴(kuò)大，需要與云來(lái)回發(fā)送大量數(shù)據(jù)，這一趨勢(shì)愈發(fā)明顯。這可能會(huì)堵塞帶寬管道，使數(shù)據(jù)更難快速進(jìn)出云。還會(huì)造成延遲，輕則令人不快，重則會(huì)破壞需要保證吞吐量的應(yīng)用程序。

盡管 5G 和 Wi-Fi 6E 等標(biāo)準(zhǔn)承諾在帶寬和傳輸速度方面做出重大改進(jìn)，但與云端通信的物聯(lián)網(wǎng)節(jié)點(diǎn)數(shù)量已出現(xiàn)爆炸式增長(zhǎng)。除了設(shè)備的數(shù)量，成本也在上漲。早期的物聯(lián)網(wǎng)基礎(chǔ)設(shè)施和平臺(tái)投資需要變現(xiàn)，因?yàn)殡S著節(jié)點(diǎn)的增加，基礎(chǔ)設(shè)施在具備可擴(kuò)展性的同時(shí)，還要有盈利能力。

2019 年左右，邊緣計(jì)算的理念成為一種流行方案。邊緣計(jì)算在本地傳感器網(wǎng)絡(luò)中執(zhí)行更高級(jí)的處理。這最大限度地減少了需要通過(guò)網(wǎng)關(guān)到云端來(lái)回傳輸?shù)臄?shù)據(jù)量。此舉直接降低了成本，并在需要時(shí)為其他節(jié)點(diǎn)釋放了帶寬。減少每個(gè)節(jié)點(diǎn)傳輸?shù)臄?shù)據(jù)，還有可能會(huì)減少收集數(shù)據(jù)以及將數(shù)據(jù)傳輸?shù)皆贫怂璧木W(wǎng)關(guān)數(shù)量。

另一個(gè)增強(qiáng)邊緣計(jì)算的技術(shù)趨勢(shì)是人工智能 (AI)。早期的 AI 服務(wù)主要基于云。隨著各種創(chuàng)新的出現(xiàn)和算法效率的提升，AI 非常迅速地轉(zhuǎn)向終端節(jié)點(diǎn)，利用 AI 正在成為標(biāo)準(zhǔn)做法。

一個(gè)著名的例子是 Amazon? Alexa? 語(yǔ)音助手。一聽(tīng)到觸發(fā)詞“Alexa”就能進(jìn)行檢測(cè)和喚醒，這是邊緣 AI 的常見(jiàn)用法。在這個(gè)案例中，觸發(fā)詞的檢測(cè)是在系統(tǒng)的本地 MCU 中完成的。成功觸發(fā)后，其余命令通過(guò) Wi-Fi? 網(wǎng)絡(luò)傳輸?shù)皆贫?，在云端完成最?yán)苛的人工智能處理。這樣一來(lái)，喚醒延遲被降到最低水平，從而提供最佳用戶(hù)體驗(yàn)。

除了解決帶寬和成本問(wèn)題，邊緣 AI 處理還為應(yīng)用帶來(lái)了更多好處。例如，在預(yù)測(cè)性維護(hù)中，可以在電動(dòng)機(jī)上添加小型傳感器來(lái)測(cè)量溫度和振動(dòng)。利用經(jīng)訓(xùn)練調(diào)較的 AI 模型，可以非常有效地預(yù)測(cè)電機(jī)何時(shí)會(huì)出現(xiàn)軸承損壞或過(guò)載情況。獲得這種早期預(yù)警對(duì)于及時(shí)維修電機(jī)至關(guān)重要，可以避免電機(jī)徹底報(bào)廢。

這種預(yù)測(cè)性維護(hù)大大減少了線(xiàn)路停機(jī)時(shí)間，因?yàn)樵O(shè)備在發(fā)生故障之前就得到了主動(dòng)的維修。這在最大程度上節(jié)約了成本和降低了效率損失。正如本杰明·富蘭克林所說(shuō)，“一分預(yù)防勝過(guò)十分治療”。

隨著傳感器的增加，網(wǎng)關(guān)也會(huì)被來(lái)自本地傳感器網(wǎng)絡(luò)的遙測(cè)數(shù)據(jù)壓得不堪重負(fù)。在這種情況下，有兩種選擇可以緩解這種數(shù)據(jù)和網(wǎng)絡(luò)擁塞。一是增加網(wǎng)關(guān)，二是將更多的邊緣處理推給終端節(jié)點(diǎn)。

將更多的處理推給終端節(jié)點(diǎn)（通常是傳感器）的想法正在興起，而且愈演愈烈。終端節(jié)點(diǎn)通常在 mW 功率范圍內(nèi)運(yùn)行，在 μW 功率范圍內(nèi)的大部分時(shí)間處于休眠狀態(tài)。由于終端節(jié)點(diǎn)的低功耗和低成本要求，它們的處理能力也很有限。換句話(huà)說(shuō)，它們的資源非常有限。?

例如，一個(gè)典型的傳感器節(jié)點(diǎn)可以由一個(gè)簡(jiǎn)單的微控制器控制，就像一個(gè)具有 64 kB 閃存、8 kB RAM、時(shí)鐘速度在 20 Mhz 左右的 8 位處理器一樣簡(jiǎn)單?；蛘?，微控制器也可以像 Arm? Cortex?-M4F 處理器那樣復(fù)雜，具有 2 MB 閃存和 512 kB RAM，時(shí)鐘速度約為 200 MHz。

在資源受限的終端節(jié)點(diǎn)設(shè)備上增加邊緣處理非常具有挑戰(zhàn)性，需要在硬件和軟件層面進(jìn)行創(chuàng)新和優(yōu)化。盡管如此，由于系統(tǒng)總是會(huì)包含終端節(jié)點(diǎn)，所以盡可能多地增加邊緣處理能力是符合經(jīng)濟(jì)效益的。

總而言之，就邊緣處理演進(jìn)而言，很顯然，終端節(jié)點(diǎn)將繼續(xù)變得更加智能，但它們也必須繼續(xù)遵循其低成本和低功耗的資源要求。

邊緣處理將繼續(xù)盛行，云處理也是如此。能夠選擇將功能分配到正確位置，可以使系統(tǒng)針對(duì)每個(gè)應(yīng)用進(jìn)行優(yōu)化，并確保最佳性能和最低成本。有效分配硬件和軟件資源是平衡性能與成本這對(duì)競(jìng)爭(zhēng)性目標(biāo)的關(guān)鍵。合理的平衡可以最大限度地減少向云端傳輸?shù)臄?shù)據(jù)，減少網(wǎng)關(guān)的數(shù)量，并盡可能地增加傳感器或終端節(jié)點(diǎn)的能力。

超低功耗相機(jī)范例

由安森美(onsemi)? 開(kāi)發(fā)的 RSL10 智能拍攝相機(jī)，通過(guò)一種可以隨時(shí)使用或輕松添加到應(yīng)用程序的設(shè)計(jì)，解決了這些挑戰(zhàn)。這個(gè)由事件觸發(fā)的 AI 成像平臺(tái)采用安森美和生態(tài)系統(tǒng)合作伙伴開(kāi)發(fā)的一些關(guān)鍵組件，為工程團(tuán)隊(duì)提供了一種簡(jiǎn)單的方式，以低功耗的形式獲得 AI 對(duì)象檢測(cè)和識(shí)別功能。

所采用的技術(shù)是使用小巧但功能強(qiáng)大的 ARX3A0 CMOS 圖像傳感器拍攝單幀圖像，然后上傳到云服務(wù)進(jìn)行處理。在發(fā)送之前，圖像由凌陽(yáng)創(chuàng)新科技 (Sunplus Innovation Technology) 的圖像傳感器處理器 (ISP) 進(jìn)行處理和壓縮。應(yīng)用 JPEG 壓縮后，通過(guò)藍(lán)牙? 低功耗通信網(wǎng)絡(luò)將圖像數(shù)據(jù)傳輸?shù)骄W(wǎng)關(guān)或手機(jī)上（有配套APP）要快得多。

該圖像處理器是本地（如終端節(jié)點(diǎn)）邊緣處理的一個(gè)典范。圖像在本地壓縮以減小數(shù)據(jù)大小，而后無(wú)線(xiàn)傳送到云端。這是一個(gè)顯而易見(jiàn)的好處，因?yàn)閭鬏敃r(shí)間更短，發(fā)送到云端的數(shù)據(jù)更少，既節(jié)省電力，也降低了與數(shù)據(jù)相關(guān)的成本。

該圖像傳感器專(zhuān)為超低功耗運(yùn)行而設(shè)計(jì)，運(yùn)行時(shí)僅消耗 3.2 mW。還可以對(duì)其進(jìn)行配置，在傳感器上進(jìn)行部分預(yù)處理，從而進(jìn)一步減少有源功率，例如設(shè)置一個(gè)感興趣區(qū)域。這讓傳感器能夠保持低功耗模式，直到在感興趣區(qū)域檢測(cè)到對(duì)象/運(yùn)動(dòng)。

進(jìn)一步的處理和藍(lán)牙低功耗技術(shù)通信由完全認(rèn)證的 RSL10 系統(tǒng)級(jí)封裝 (RSL10 SIP) 提供，同樣來(lái)自安森美。該設(shè)備具有行業(yè)領(lǐng)先的低功耗運(yùn)行和上市時(shí)間短等特點(diǎn)。

圖 1：RSL10 智能拍攝相機(jī)組件

AI 與圖像對(duì)象檢測(cè)

如圖 1 所示，電路板包括幾個(gè)用于觸發(fā)活動(dòng)的傳感器。其中包括運(yùn)動(dòng)傳感器、加速器和環(huán)境傳感器。一經(jīng)觸發(fā)，電路板就會(huì)通過(guò)藍(lán)牙低功耗技術(shù)將圖像發(fā)送到智能手機(jī)上，然后配套APP將其上傳到云服務(wù)，如 Amazon Rekognition? 服務(wù)。

云服務(wù)運(yùn)行機(jī)器視覺(jué)深度學(xué)習(xí)算法。就 RSL10 智能拍攝相機(jī)而言，云服務(wù)已被設(shè)置為進(jìn)行對(duì)象檢測(cè)。圖像處理完成后，智能手機(jī)APP就會(huì)更新，獲得算法檢測(cè)結(jié)果及其成功概率。這些基于云的服務(wù)非常精確，因?yàn)樗鼈儗?shí)際上用了數(shù)十億張圖像來(lái)訓(xùn)練機(jī)器視覺(jué)算法。

圖 2：邊緣到云的無(wú)縫連接

總結(jié)

正如本文所述，物聯(lián)網(wǎng)正在轉(zhuǎn)變，并隨著人們的需要進(jìn)一步優(yōu)化，以實(shí)現(xiàn)大規(guī)模和經(jīng)濟(jì)高效的擴(kuò)展。新的連接技術(shù)不斷的開(kāi)發(fā)，能夠幫助解決電力、帶寬和容量問(wèn)題。人工智能不斷演進(jìn)，能力與效率與日俱增，使其能夠落地邊緣甚至終端節(jié)點(diǎn)。物聯(lián)網(wǎng)正在成長(zhǎng)和適應(yīng)環(huán)境的變化，以反映持續(xù)增長(zhǎng)，并為未來(lái)的增長(zhǎng)做好準(zhǔn)備。

安森美的 RSL10 智能拍攝相機(jī)是一個(gè)現(xiàn)代化的例子，證明了如何有效地解決這些挑戰(zhàn)，部署一個(gè)使用最小帶寬的智能化低成本系統(tǒng)。這是一個(gè)真正優(yōu)化的物聯(lián)網(wǎng)方案。

安森美的戰(zhàn)略重點(diǎn)是低功耗和高能效，我們開(kāi)發(fā)的技術(shù)成功地解決了使人工智能落地邊緣遇到的主要問(wèn)題，即功耗、帶寬和延遲。