Arm 的AIML 處理器、Ethos 系列和量子計(jì)算

最近，Arm 開發(fā)了新一代的神經(jīng)處理單元 (NPU)，Ethos 系列。這些處理器旨在與其他 Arm 內(nèi)核協(xié)同工作。與傳統(tǒng)的神經(jīng)處理單元相比，這種組合提高了性能和功率效率，從而實(shí)現(xiàn)了具有成本效益但高性能的邊緣機(jī)器學(xué)習(xí)產(chǎn)品。

此外，Arm 正在密切關(guān)注量子計(jì)算的發(fā)展。雖然 答 無法透露 Arm 在該技術(shù)上所做的任何工作，但他表示，“能夠進(jìn)行更多處理和更復(fù)雜的機(jī)器學(xué)習(xí)應(yīng)該會(huì)導(dǎo)致我們使用該技術(shù)獲得越來越強(qiáng)大的能力。[...] 這是一個(gè)令人著迷的地方。”

問：我想更多地談?wù)勀?Ethos 系列，我認(rèn)為它們已經(jīng)存在，并且它們已用于許多 AI 應(yīng)用程序，主要用于邊緣計(jì)算，我認(rèn)為。您能告訴我們關(guān)于物聯(lián)網(wǎng) Ethos 的哪些信息?

答：這對(duì)我來說是一個(gè)非常令人興奮的領(lǐng)域。我們有專門的機(jī)器學(xué)習(xí)處理器，稱為 Ethos。重要的是要記住，當(dāng)今設(shè)備中的大多數(shù) AI 實(shí)際上都是在 Arm 的 CPU 中運(yùn)行的。它是市場上最普遍的處理器，并且有大量的人工智能。人工智能并不總是需要某種專業(yè)計(jì)算。

許多應(yīng)用程序不需要在非常復(fù)雜的網(wǎng)絡(luò)上運(yùn)行。他們真的不需要以極快的速度運(yùn)行。而且，在這種情況下，它們通常會(huì)在今天的 Arm CPU 上運(yùn)行得很好。我知道有人在 Cortex M0 上進(jìn)行對(duì)象檢測和人臉檢測，Cortex M0 是 Arm 的一款非常非常微型的電池供電處理器。所以我們的工作之一是制造——這些 CPU 是最容易編程的東西。因此，我們的工作之一是確保我們的 CPU 在機(jī)器學(xué)習(xí)方面變得更好，并確保我們今天的所有客戶實(shí)際上都可以訪問更多功能。因此，在過去五年左右的時(shí)間里，我們一直在將更多的機(jī)器學(xué)習(xí)能力和處理能力引入我們的設(shè)備中。

機(jī)器學(xué)習(xí)軟件無處不在。它真的在吞噬世界。對(duì)于更多的應(yīng)用，他們想做真正高性能的機(jī)器學(xué)習(xí)，所以他們會(huì)有相當(dāng)復(fù)雜的網(wǎng)絡(luò)。他們希望實(shí)時(shí)處理幀或?qū)崟r(shí)復(fù)雜的語音處理。而且，當(dāng)然，他們希望在不損壞電池或電源或其他任何情況的情況下做到這一點(diǎn)。因此，在他們想要進(jìn)行高性能或超高效機(jī)器學(xué)習(xí)的地方，更專用的處理器變得有用。如果你只專注于機(jī)器學(xué)習(xí)任務(wù)，你就可以創(chuàng)造出令人難以置信的高性能和高效率的東西。

這就是Ethos 家族的真正意義所在。于是，Ethos 家族進(jìn)來了;我們有兩條主要產(chǎn)品線：Ethos N 產(chǎn)品線，它專注于與 Cortex-A 一起工作，尤其是更高性能的 Cortex-A 處理器。它們旨在處理您在 CPU 市場高端獲得的復(fù)雜網(wǎng)絡(luò)。我們的 Ethos N78 在安全等方面非常受歡迎。所以這是第一條產(chǎn)品線。

第二條產(chǎn)品線被稱為我們的 Ethos U 產(chǎn)品線。現(xiàn)在，我們已經(jīng)推出了 Ethos U55 和 U65。不久之后，我們將推出這兩個(gè)系列的新產(chǎn)品。這些都非常受歡迎。它們?cè)O(shè)計(jì)用于處理器范圍的低端，具有更高功率和面積效率的處理器，特別是我們?cè)谖锫?lián)網(wǎng)中的 Cortex M，特別專注于物聯(lián)網(wǎng)領(lǐng)域。

像我們所有的處理器一樣，這些 Ethos U 和 Ethos N 都是可擴(kuò)展的。因此，您可以隨心所欲地實(shí)施，從 500 GigaOps 到整個(gè)頻譜范圍內(nèi)的許多 TeraOps。因此，人們可以準(zhǔn)確地實(shí)現(xiàn)他們個(gè)人 IC 所需的機(jī)器學(xué)習(xí)量。

對(duì)此的興趣是驚人的。所以我認(rèn)為物聯(lián)網(wǎng)中的人工智能現(xiàn)在才剛剛開始爆發(fā)。人們確實(shí)從中受益。

他們意識(shí)到通常被稱為TinyML的術(shù)語，這是一個(gè)我們非?；钴S且非常支持的社區(qū)，他們開始意識(shí)到，你知道，我們共同了解如何在物聯(lián)網(wǎng)中實(shí)施人工智能空間，我們能做的事情是無止境的。

我們看到人們將機(jī)器學(xué)習(xí)放在傳感器旁邊，因?yàn)樗箓鞲衅鲾?shù)據(jù)變得更好。我們看到人們將它放入手表和可穿戴設(shè)備的處理器中，因?yàn)樗俅卧试S你做任何事情，從語音處理到讓所有傳感器更好地工作，無論是單獨(dú)的還是一起的。

因此，我個(gè)人認(rèn)為人工智能將在未來五到十年內(nèi)成為物聯(lián)網(wǎng)領(lǐng)域的標(biāo)準(zhǔn)。實(shí)際上，我們?cè)谠擃I(lǐng)域投入了大量精力，試圖確保每個(gè)人都有能力，但也只是，你知道，我們真的相信未來十年物聯(lián)網(wǎng)的爆炸式增長。

我們非常關(guān)注如何為人們?cè)黾由鲜袝r(shí)間，研究諸如云托管處理器環(huán)境之類的東西，這樣人們就可以進(jìn)行早期軟件開發(fā)和更快的軟件開發(fā)，而無需等待芯片。因此，我們非常關(guān)注在該領(lǐng)域啟用人工智能所需的工具和軟件。

再一次，我們知道構(gòu)建產(chǎn)品不僅僅是處理器。它需要整個(gè)社區(qū)的知識(shí)和支持。所以像 TinyML 這樣的社區(qū)，我們認(rèn)為很棒，因?yàn)槊總€(gè)人都可以互相學(xué)習(xí)。他們可以分享資源和理解，這讓每個(gè)人都振奮起來。所以，我認(rèn)為這真的很令人興奮，我相信 Ethos 將成為使 Arm 處理器出現(xiàn)并支持該領(lǐng)域的每個(gè)人的基本部分。

問：現(xiàn)在有很多關(guān)于所謂的量子計(jì)算的研究。當(dāng)然，如果我們看看量子計(jì)算，我們每天都會(huì)使用它，因?yàn)殡娮訉W(xué)是量子物理學(xué)的一部分。但這只是一種新名詞，比如說，瘋狂的量子。

那么，你能告訴我們一些關(guān)于量子計(jì)算的事情嗎?

答：在大多數(shù)人看來，量子計(jì)算仍處于早期階段。這是一個(gè)令人興奮的領(lǐng)域。

顯然，作為一家專注于加工技術(shù)的公司，我們始終保持領(lǐng)先地位。像許多公司一樣，我們正在研究這個(gè)領(lǐng)域。我認(rèn)為，我無能為力，但我確實(shí)認(rèn)為這是一個(gè)非常有趣的領(lǐng)域。

如果你看 AI，我傾向于將 AI 視為三個(gè)不同的問題。你得到了數(shù)據(jù)的質(zhì)量，數(shù)據(jù)的數(shù)量，然后是處理。重要的是，其中兩個(gè)是數(shù)據(jù)。

當(dāng)我們看 AI 處理時(shí)，我們實(shí)際上開始關(guān)注數(shù)據(jù)，而不一定是處理。因此，在許多方面，我們將其視為數(shù)據(jù)問題。這是關(guān)于有效地移動(dòng)數(shù)據(jù)。這是關(guān)于最小化數(shù)據(jù)量。所以這個(gè)問題依然存在。

但是，顯然也涉及大量的處理。我們看到了一些令人興奮的東西。你知道，如果你特別看一下神經(jīng)網(wǎng)絡(luò)，它以大腦為模型，人腦，這種基本結(jié)構(gòu)是負(fù)責(zé)我們?nèi)绾螄@視覺和語言進(jìn)行感知。盡管如此，它也是我們用于高級(jí)認(rèn)知功能的相同基本結(jié)構(gòu)。

因此，原則上，能夠進(jìn)行更多處理和更復(fù)雜的機(jī)器學(xué)習(xí)應(yīng)該會(huì)導(dǎo)致我們使用該技術(shù)獲得越來越強(qiáng)大的能力。所以，我認(rèn)為它們是令人興奮的領(lǐng)域。

顯然，我們今天在技術(shù)上還有很多工作要做，以在未來十年內(nèi)推進(jìn)它。但這是一個(gè)令人著迷的地方。

對(duì)我來說有趣的事情之一是人工智能，或者說機(jī)器學(xué)習(xí)，因?yàn)樗诎l(fā)生。特別是神經(jīng)網(wǎng)絡(luò)，主要是一種概率技術(shù)。所以他們正在研究概率。如果你看量子物理學(xué)，它也是一門概率科學(xué)。所以很有趣的是，這兩種計(jì)算機(jī)科學(xué)的概率方法正在推動(dòng)我們前進(jìn)。因此，看看它們?nèi)绾螀f(xié)同工作會(huì)很有趣。