Arm 的AIML 處理器、Ethos 系列和量子計算
最近,Arm 開發(fā)了新一代的神經(jīng)處理單元 (NPU),Ethos 系列。這些處理器旨在與其他 Arm 內(nèi)核協(xié)同工作。與傳統(tǒng)的神經(jīng)處理單元相比,這種組合提高了性能和功率效率,從而實現(xiàn)了具有成本效益但高性能的邊緣機器學(xué)習(xí)產(chǎn)品。
此外,Arm 正在密切關(guān)注量子計算的發(fā)展。雖然 答 無法透露 Arm 在該技術(shù)上所做的任何工作,但他表示,“能夠進行更多處理和更復(fù)雜的機器學(xué)習(xí)應(yīng)該會導(dǎo)致我們使用該技術(shù)獲得越來越強大的能力。[...] 這是一個令人著迷的地方?!?
問:我想更多地談?wù)勀?Ethos 系列,我認為它們已經(jīng)存在,并且它們已用于許多 AI 應(yīng)用程序,主要用于邊緣計算,我認為。您能告訴我們關(guān)于物聯(lián)網(wǎng) Ethos 的哪些信息?
答:這對我來說是一個非常令人興奮的領(lǐng)域。我們有專門的機器學(xué)習(xí)處理器,稱為 Ethos。重要的是要記住,當(dāng)今設(shè)備中的大多數(shù) AI 實際上都是在 Arm 的 CPU 中運行的。它是市場上最普遍的處理器,并且有大量的人工智能。人工智能并不總是需要某種專業(yè)計算。
許多應(yīng)用程序不需要在非常復(fù)雜的網(wǎng)絡(luò)上運行。他們真的不需要以極快的速度運行。而且,在這種情況下,它們通常會在今天的 Arm CPU 上運行得很好。我知道有人在 Cortex M0 上進行對象檢測和人臉檢測,Cortex M0 是 Arm 的一款非常非常微型的電池供電處理器。所以我們的工作之一是制造——這些 CPU 是最容易編程的東西。因此,我們的工作之一是確保我們的 CPU 在機器學(xué)習(xí)方面變得更好,并確保我們今天的所有客戶實際上都可以訪問更多功能。因此,在過去五年左右的時間里,我們一直在將更多的機器學(xué)習(xí)能力和處理能力引入我們的設(shè)備中。
機器學(xué)習(xí)軟件無處不在。它真的在吞噬世界。對于更多的應(yīng)用,他們想做真正高性能的機器學(xué)習(xí),所以他們會有相當(dāng)復(fù)雜的網(wǎng)絡(luò)。他們希望實時處理幀或?qū)崟r復(fù)雜的語音處理。而且,當(dāng)然,他們希望在不損壞電池或電源或其他任何情況的情況下做到這一點。因此,在他們想要進行高性能或超高效機器學(xué)習(xí)的地方,更專用的處理器變得有用。如果你只專注于機器學(xué)習(xí)任務(wù),你就可以創(chuàng)造出令人難以置信的高性能和高效率的東西。
這就是Ethos 家族的真正意義所在。于是,Ethos 家族進來了;我們有兩條主要產(chǎn)品線:Ethos N 產(chǎn)品線,它專注于與 Cortex-A 一起工作,尤其是更高性能的 Cortex-A 處理器。它們旨在處理您在 CPU 市場高端獲得的復(fù)雜網(wǎng)絡(luò)。我們的 Ethos N78 在安全等方面非常受歡迎。所以這是第一條產(chǎn)品線。
第二條產(chǎn)品線被稱為我們的 Ethos U 產(chǎn)品線?,F(xiàn)在,我們已經(jīng)推出了 Ethos U55 和 U65。不久之后,我們將推出這兩個系列的新產(chǎn)品。這些都非常受歡迎。它們設(shè)計用于處理器范圍的低端,具有更高功率和面積效率的處理器,特別是我們在物聯(lián)網(wǎng)中的 Cortex M,特別專注于物聯(lián)網(wǎng)領(lǐng)域。
像我們所有的處理器一樣,這些 Ethos U 和 Ethos N 都是可擴展的。因此,您可以隨心所欲地實施,從 500 GigaOps 到整個頻譜范圍內(nèi)的許多 TeraOps。因此,人們可以準(zhǔn)確地實現(xiàn)他們個人 IC 所需的機器學(xué)習(xí)量。
對此的興趣是驚人的。所以我認為物聯(lián)網(wǎng)中的人工智能現(xiàn)在才剛剛開始爆發(fā)。人們確實從中受益。
他們意識到通常被稱為TinyML的術(shù)語,這是一個我們非?;钴S且非常支持的社區(qū),他們開始意識到,你知道,我們共同了解如何在物聯(lián)網(wǎng)中實施人工智能空間,我們能做的事情是無止境的。
我們看到人們將機器學(xué)習(xí)放在傳感器旁邊,因為它使傳感器數(shù)據(jù)變得更好。我們看到人們將它放入手表和可穿戴設(shè)備的處理器中,因為它再次允許你做任何事情,從語音處理到讓所有傳感器更好地工作,無論是單獨的還是一起的。
因此,我個人認為人工智能將在未來五到十年內(nèi)成為物聯(lián)網(wǎng)領(lǐng)域的標(biāo)準(zhǔn)。實際上,我們在該領(lǐng)域投入了大量精力,試圖確保每個人都有能力,但也只是,你知道,我們真的相信未來十年物聯(lián)網(wǎng)的爆炸式增長。
我們非常關(guān)注如何為人們增加上市時間,研究諸如云托管處理器環(huán)境之類的東西,這樣人們就可以進行早期軟件開發(fā)和更快的軟件開發(fā),而無需等待芯片。因此,我們非常關(guān)注在該領(lǐng)域啟用人工智能所需的工具和軟件。
再一次,我們知道構(gòu)建產(chǎn)品不僅僅是處理器。它需要整個社區(qū)的知識和支持。所以像 TinyML 這樣的社區(qū),我們認為很棒,因為每個人都可以互相學(xué)習(xí)。他們可以分享資源和理解,這讓每個人都振奮起來。所以,我認為這真的很令人興奮,我相信 Ethos 將成為使 Arm 處理器出現(xiàn)并支持該領(lǐng)域的每個人的基本部分。
問:現(xiàn)在有很多關(guān)于所謂的量子計算的研究。當(dāng)然,如果我們看看量子計算,我們每天都會使用它,因為電子學(xué)是量子物理學(xué)的一部分。但這只是一種新名詞,比如說,瘋狂的量子。
那么,你能告訴我們一些關(guān)于量子計算的事情嗎?
答:在大多數(shù)人看來,量子計算仍處于早期階段。這是一個令人興奮的領(lǐng)域。
顯然,作為一家專注于加工技術(shù)的公司,我們始終保持領(lǐng)先地位。像許多公司一樣,我們正在研究這個領(lǐng)域。我認為,我無能為力,但我確實認為這是一個非常有趣的領(lǐng)域。
如果你看 AI,我傾向于將 AI 視為三個不同的問題。你得到了數(shù)據(jù)的質(zhì)量,數(shù)據(jù)的數(shù)量,然后是處理。重要的是,其中兩個是數(shù)據(jù)。
當(dāng)我們看 AI 處理時,我們實際上開始關(guān)注數(shù)據(jù),而不一定是處理。因此,在許多方面,我們將其視為數(shù)據(jù)問題。這是關(guān)于有效地移動數(shù)據(jù)。這是關(guān)于最小化數(shù)據(jù)量。所以這個問題依然存在。
但是,顯然也涉及大量的處理。我們看到了一些令人興奮的東西。你知道,如果你特別看一下神經(jīng)網(wǎng)絡(luò),它以大腦為模型,人腦,這種基本結(jié)構(gòu)是負責(zé)我們?nèi)绾螄@視覺和語言進行感知。盡管如此,它也是我們用于高級認知功能的相同基本結(jié)構(gòu)。
因此,原則上,能夠進行更多處理和更復(fù)雜的機器學(xué)習(xí)應(yīng)該會導(dǎo)致我們使用該技術(shù)獲得越來越強大的能力。所以,我認為它們是令人興奮的領(lǐng)域。
顯然,我們今天在技術(shù)上還有很多工作要做,以在未來十年內(nèi)推進它。但這是一個令人著迷的地方。
對我來說有趣的事情之一是人工智能,或者說機器學(xué)習(xí),因為它正在發(fā)生。特別是神經(jīng)網(wǎng)絡(luò),主要是一種概率技術(shù)。所以他們正在研究概率。如果你看量子物理學(xué),它也是一門概率科學(xué)。所以很有趣的是,這兩種計算機科學(xué)的概率方法正在推動我們前進。因此,看看它們?nèi)绾螀f(xié)同工作會很有趣。