2019年，帶有人工智能技術(shù)硬件加速器（特別是神經(jīng)網(wǎng)絡(luò)）的特定微型計算機(jī)得到普遍使用。所有關(guān)鍵的硬件廠商都陸續(xù)發(fā)布了AI軟件棧的邊緣優(yōu)化版本，這進(jìn)一步提高了性能。目前，一般使用的AI板有，谷歌的Edge TPU——使用專門的ASIC芯片制作而成用以處理AI的預(yù)測推理功能。價格低于100美元的英偉達(dá)Jetson Nano 配備了128個英偉達(dá)CUDA核心。瑞芯微發(fā)布的 RK3399 Pro——第一個帶有神經(jīng)網(wǎng)絡(luò)處理器的開發(fā)板（其性能甚至略優(yōu)于英偉達(dá)Jetson Nano）。
物聯(lián)網(wǎng)技術(shù)的大幅提高讓我們得以發(fā)展nBox——這款邊緣計算設(shè)備不僅能夠借助多達(dá)12個通道記錄高質(zhì)量音頻，并且還可以通過邊緣計算實現(xiàn)人工智能。所謂邊緣計算，是指大多數(shù)處理過程將通過本地設(shè)備實現(xiàn)而無需交由云端完成。
隨著英特爾（Intel）以約4億美元收購Movidius，以及超過133.8億歐元收購自動汽車芯片制造商Mobileye，邊緣計算的重要性變得顯而易見。特斯拉汽車公司（Tesla Motors）在網(wǎng)上展示了他們?yōu)槠?u>自動駕駛汽車特意打造的AI高性能計算機(jī)——每秒能夠完成36萬億次浮點(diǎn)計算，這足以每秒處理汽車攝像頭中2000多張高分辨率圖像，特斯拉表示這它的性能完全能夠?qū)崿F(xiàn)自動駕駛。
邊緣計算四個主要優(yōu)勢1、安全：所有處理過的數(shù)據(jù)都可以存儲在本地，并且有嚴(yán)格的控制。2、速度：人工智能推理系統(tǒng)能夠以毫秒為單位處理輸入，這意味著最小的延遲。3、效益：嵌入式微型計算機(jī)功耗低，價格實惠。4、離線：由于人工智能算法部署位置的特殊性，不需要占用太多的網(wǎng)絡(luò)寬帶。
邊緣計算相對于5G，優(yōu)勢何在？也許你會問為什么這么多的硬件廠家如此大費(fèi)周章？為什么不坐等5G網(wǎng)絡(luò)或者利用豐富的云計算能力和基礎(chǔ)設(shè)施？以下是一些答案。
想象一下，你正坐在一輛自動駕駛汽車?yán)铮囃蝗粩嚅_了5G網(wǎng)絡(luò)。這時，汽車不僅會“失明”，而且會喪失決策能力。當(dāng)高帶寬和低延遲通信所需的計算能力實際上與一個額外的神經(jīng)處理單元的成本相同時，為什么要冒這個風(fēng)險呢？此外，它的總體耗能還會比利用特定硬件實現(xiàn)人工智能預(yù)測來的要高。
移動互聯(lián)網(wǎng)提供商希望將投資套現(xiàn)用于開發(fā)和部署5G網(wǎng)絡(luò)。盡管在技術(shù)上可能實現(xiàn)無限制大容量數(shù)據(jù)計劃，但它們并不會很快投入商業(yè)使用。例如，nBox有12個聲學(xué)傳感器，每個月可以產(chǎn)生多達(dá)1 TB的音頻數(shù)據(jù)。按照LTE目前每GB的價格，將這么多數(shù)據(jù)傳輸?shù)皆朴嬎銓⒒ㄙM(fèi)一大筆錢。
網(wǎng)絡(luò)覆蓋將主要建立在城市，這意味著其他很多地方接受不到5G信號。與此相反，邊緣計算設(shè)備可以隨即部署到任何需要的地方，只需要一次性的成本投入，并且這通常不會顯著增加物聯(lián)網(wǎng)解決方案的成本。邊緣計算與人工智能相結(jié)合使得在本地處理大量數(shù)據(jù)成為可能。硬件加速器的額外成本其實微不足道。另外，神經(jīng)網(wǎng)絡(luò)的計算性能正以每年10倍左右的速度提高，并且，由于數(shù)據(jù)可以并行處理，這一趨勢似乎沒有放緩。
下載文檔
