這家公司僅用7個月就設(shè)計了一款RISC-V AI芯片，能耗和面積比Arm架構(gòu)好很多！

誕生于加州大學(xué)伯克利分校的RISC-V開源指令集近來在中國關(guān)注度非常高。5月，上海發(fā)布國內(nèi)首個RISC-V的支持政策。9月，中國RISC-V產(chǎn)業(yè)聯(lián)盟在上海成立。11月，中國開放指令生態(tài)（RISC-V）聯(lián)盟在烏鎮(zhèn)宣布成立。有意思的是，中國最早做RISC-V的公司選擇了落戶深圳，并且僅用7個月就設(shè)計出了一款基于RISC-V指令集的AI芯片，能耗和面積明顯優(yōu)于同級別Arm架構(gòu)芯片，更讓行業(yè)吃驚的是該款芯片一次性流片成功。這是否意味著在AI和IoT領(lǐng)域Arm即將面臨一場與新興技術(shù)的硬戰(zhàn)？

僅用7個月完成芯片研發(fā)的兩大關(guān)鍵

僅用7個月就完成從零開始設(shè)計驗證到交付流片全部研發(fā)工作的公司叫做睿思芯科，是2017年在美國硅谷初創(chuàng)的OURS公司在深圳設(shè)立的中資公司，OURS創(chuàng)始人兼CEO譚章熹在清華大學(xué)電子工程系獲得學(xué)士學(xué)歷，后前往加州大學(xué)伯克利分校深造，師從新晉圖靈獎得主David Patterson，取得了計算機科學(xué)博士。我們知道，RISC-V就出自2017 年新晉圖靈獎得主David Patterson之手，這意味著譚章熹博士成了離RISC-V技術(shù)最近的中國人。

譚博士接受專訪時表示：“說我們是中國最早做RISC-V指令集芯片的公司應(yīng)該不會有爭議，之所以把中資公司設(shè)立在深圳是因為我覺得無論從環(huán)境、文化還是人才的角度，深圳和我們最匹配。我們基于RISC-V指令集的AI芯片Pygmy僅用7個月就完成了從零開始設(shè)計到交付流片的工作。”

譚博士提到的Pygmy AI芯片并沒有隆重的發(fā)布會，首次亮相是在本月初Patterson教授烏鎮(zhèn)世界互聯(lián)網(wǎng)大會的演講中，Pygmy也在大會期間展出。據(jù)了解，Pygmy是全球最小的鸚鵡。譚章熹透露，睿思芯科的第二代架構(gòu)叫Pocket，是世界上第二小的鸚鵡。不難發(fā)現(xiàn)，睿思芯科的架構(gòu)和產(chǎn)品都以鳥的種類命名，但新一代產(chǎn)品命名使用的鳥的體型比上一代大，譚博士希望公司的產(chǎn)品能覆蓋越來越大的市場空間。

譚章熹和他的博士導(dǎo)師David Patterson

睿思芯科的產(chǎn)品命名很有特色，但更吸引人關(guān)注的是其如何在7個月內(nèi)完成全部研發(fā)工作。譚章熹表示：“之所以能在不到一年的時間完成全部研發(fā)工作，一個很關(guān)鍵的因素就是RISC-V指令集。我們知道微處理器的設(shè)計很難，因為軟件和硬件接口的地方很多，比如OS、SW framework、模擬器等，不過我們依靠RISC-V的生態(tài)，生態(tài)中的開發(fā)工具、工具鏈等幫助我們縮短了芯片的校驗時間。另一個很關(guān)鍵的因素就是我們有經(jīng)驗豐富的工程師，我們的工程師對RISC-V更深的理解以及知道設(shè)計芯片的關(guān)鍵對縮短芯片研發(fā)的時間也非常關(guān)鍵?！?/p>

到底是架構(gòu)更重要還是經(jīng)驗豐富的工程師更加重要？譚章熹表示兩者同等重要，當(dāng)然睿思芯科的芯片量產(chǎn)也會有必要的周期。他同時指出，想要在7個月內(nèi)完成芯片的全部設(shè)計工作并不容易，除了需要對指令集有深刻理解以及有經(jīng)驗豐富的工程師明白如何做芯片業(yè)非常關(guān)鍵，軟件也非常關(guān)鍵。特別對AI而言，AI算法的不斷演進對芯片算力和和內(nèi)存的要求也會不斷提升，因此芯片需要具備快速迭代的能力，此時架構(gòu)和軟件都將發(fā)揮關(guān)鍵的作用。

能耗和面積明顯優(yōu)于同級別Arm架構(gòu)芯片

時間上Pygmy僅用7個月就完成了全部研發(fā)工作，但芯片的性能卻很強，根據(jù)睿思芯科的說法，Pygmy對比同級別的Arm芯片，能耗下降85%，面積減少80%，相當(dāng)于用一般的32位處理器的面積和功耗就實現(xiàn)了64位處理器的性能。具體看，Pygmy基于64位RISC-V指令集，使用臺積電28nm工藝，采用多核異構(gòu)架構(gòu)，其中CPU架構(gòu)是睿思芯科基于RISC-V指令集設(shè)計而成，并針對多種AI應(yīng)用進行了優(yōu)化，還有12個高度可編程AI加速引擎，同樣基于睿思芯科自定義開發(fā)的RISC-V矢量擴展指令集設(shè)計而成。

性能方面，Pygmy主控CPU具有64位位寬，主頻600 MHz，基于RV64G指令集，支持雙精度浮點運算，具備乘法器、除法器、開方器等；12個AI內(nèi)核均為高度可編程，可以支持各種主流AI算法。能耗方面，主控CPU功耗僅為10mW，通過前端/后段的全棧設(shè)計，待機設(shè)計功耗不超過1mW。并且，Pygmy在Int8時可實現(xiàn)4 TOPS/watt，作為對比，Google第一代28 nm TPU 92 TOPs 超過 40 watt，差不多2.3 TOPS/watt。另外，提供Pygmy芯片的同時睿思芯科還開發(fā)了編譯器、SDK、工具鏈，基于GCC、LLVM等開源實現(xiàn)，可以支撐Pygmy用戶更好的進行二次開發(fā)。

Pygmy芯片

需要指出的是，雖然上面提到Pygmy對比同級別Arm芯片能耗和面積都有超過80%的下降，但因為目前沒有Arm芯片與Pygmy完全類似，因此作對比的是Pygmy主控CPU。那么，Pygmy到底是如何實現(xiàn)的低功耗和高效能？譚章熹表示：“最主要的還是因為RISC-V架構(gòu)的精髓——簡單、面積小、速度快。因此我們不僅可以做架構(gòu)創(chuàng)新，也可以把我們的芯片做的最簡單和高效，我們剛開始設(shè)計Pygmy的時候也沒想到能得到這么好的成績?！?/p>

除了架構(gòu)上不需要由復(fù)雜向下精簡，架構(gòu)上的創(chuàng)新也很重要。Pygmy采用了多核異構(gòu)的架構(gòu)，譚章熹表示：“通用的CPU也能處理AI的任務(wù)，但是效率不高，這時候就需要有特殊和核心和架構(gòu)來滿足AI的需求。Pygmy除了有主控CPU還有12個高度可編程的AI加速引擎，主要針對神經(jīng)網(wǎng)絡(luò)以及CNN算法進行了優(yōu)化，能夠支持AI圖像和語音的應(yīng)用。之所以集成的是12個可編程AI加速引擎，是和我們芯片的面積有很大的關(guān)系。當(dāng)然12個加速引擎只代表一個邊界，根據(jù)不同應(yīng)用的性能及功耗需求，可以配置數(shù)量不同的可編程AI加速引擎，并且我們的團隊能夠在3個月內(nèi)就完成AI加速引擎核的定制。未來，我們還會推出能集成更多AI加速引擎的產(chǎn)品。” 需要指出，異構(gòu)架構(gòu)會帶來芯片編程復(fù)雜性的增高。

另外，AI芯片選擇支持的數(shù)據(jù)類型也非常重要，因為目前哪種數(shù)據(jù)類型最適合深度學(xué)習(xí)還沒有定論。據(jù)悉，Pygmy之所以支持Int8和FP16兩種數(shù)據(jù)類型一方面是出于芯片模組性能和功耗的表現(xiàn)支持這兩種數(shù)據(jù)類型時在終端上的推理表現(xiàn)良好，另一方面是用戶的需求，因為除了芯片，相應(yīng)的的軟件及應(yīng)用也需要支持對應(yīng)的數(shù)據(jù)類型。

還有，AI芯片消耗能量更多的是數(shù)據(jù)的搬運而非計算，因此如何減少數(shù)據(jù)的搬運以及數(shù)據(jù)類型的支持對于AI芯片的設(shè)計者而言也是必須考慮的問題?？梢钥吹降氖荘ygmy上搭載了1 MB的SRAM支持LPDDR4、SPI、UART等數(shù)據(jù)輸入輸出模式。但對于如何減少數(shù)據(jù)搬運的耗能，譚章熹透露，睿思芯科有自己比較獨特的技術(shù)，主要是在架構(gòu)設(shè)計上有所考慮，另外就是通過軟件進行控制而非傳統(tǒng)意義上的硬件管理。

當(dāng)然，無論是傳統(tǒng)的芯片還是AI芯片，除了性能、功耗以及面積，成本也至關(guān)重要。譚章熹表示，之所以選擇28nnm工藝而非更先進的工藝是因為先進工藝的提升成本越來越高，但性能的提升卻有限，綜合來看28nm對于睿思芯科而言是性價比最高的選擇。

Arm在IoT領(lǐng)域迎來與RISC-V的硬戰(zhàn)？

既然Pygmy整體表現(xiàn)優(yōu)于Arm同級別芯片，Pygmy也是面向各種物聯(lián)網(wǎng)終端的AI推理場景。同時我們還看到，國外的GreenWaves，國內(nèi)的中天微系統(tǒng)、君正集成電路、華米推出的基于RISC-V指令集的芯片都面向物聯(lián)網(wǎng)市場，這是否意味著RISC-V指令集芯片在IoT領(lǐng)域已經(jīng)勢不可擋？

譚章熹表示：“RISC-V在整個軟件生態(tài)上與Arm的生態(tài)還有一定的距離，Arm也有一定的技術(shù)優(yōu)勢，這不是短期內(nèi)建立的。不過我樂觀地認為RISC-V縮小與Arm生態(tài)之間的差距要比Arm趕上x86所需的時間要短。至于與Arm的競爭，在手機芯片領(lǐng)域RISC-V的機會不大，但目前我們看到了AI以及IoT，在新興的領(lǐng)域RISC-V有非常大的機會。因為在IoT市場，有非常多的差異化需求，并且每個地區(qū)和市場的還可能有特性的需求，因此在這一市場大公司有其競爭優(yōu)勢，小公司也有優(yōu)勢?！?/p>

更具體地說，對于新興的應(yīng)用，RISC-V指令集的芯片能夠更加靈活，小公司能夠更好地滿足這些應(yīng)用的需求，這將在很大程度上與Arm行程競爭。至于已經(jīng)在Arm上投入很多且從中獲益的公司，其競爭對手以及成本可能是其選擇RISC-V的關(guān)鍵因素。據(jù)了解，包括谷歌、英偉達、高通、AMD、IBM、華為等巨頭都已經(jīng)加入了RISC-V基金會，有一些Arm的用戶已經(jīng)開始接觸RISC-V有一兩年時間，一旦有其中一家公司推出能效和成本更低的RISC-V芯片，其競爭對手也會迅速跟進，這對于RISC-V指令集不僅是種認可，也將有利于RISC-V與Arm的競爭。

不過，睿思芯科到底會選擇哪些AIoT應(yīng)用切入市場譚章熹并沒有透露。但他表示睿思芯科的業(yè)務(wù)模式將不是僅僅提供定制化的芯片或者模組，而是會基于已有的產(chǎn)品，做垂直的服務(wù)，提供定制化的解決方案。當(dāng)被問到是否會進入熱鬧的安防市場的時候，他表示會對安防市場保持關(guān)注，要進入這一市場一定會是戰(zhàn)略合作伙伴的方式，并且會找到一個特定的應(yīng)用角度切入，而非常見的監(jiān)控攝像頭。

譚章熹也表示，即便是在新的IoT和AI市場，RISC-V想要占據(jù)優(yōu)勢也并非一家企業(yè)可以實現(xiàn)的，而是要一個完整的系統(tǒng)，這需要五年甚至十年，但我自己非常有信心。對于目前的RISC-V市場，還沒有到需要彼此激烈競爭的階段，而是更應(yīng)該共同把生態(tài)做大。僅組建聯(lián)盟而沒有拿出實際的產(chǎn)品也不是發(fā)展和壯大RISC-V好的方式，更多的應(yīng)該是拿出實際的產(chǎn)品以及進行實質(zhì)的合作，進一步能為RISC-V的生態(tài)做一些貢獻。

小結(jié)

譚章熹作為離RISC-V技術(shù)最近的中國人，他認為RISC-V的精髓在精簡、面積更小、速記更快，基于RISC-V指令集可以設(shè)計出更好的芯片，授權(quán)費，便宜在靈活性和開放面前顯得不是那么重要。而他對RISC-V的理解以及他在芯片領(lǐng)域的積累讓他和他的團隊能夠在七個月內(nèi)就完成一款芯片的全部研發(fā)工作。當(dāng)然，無論是在美國的OURS還是在深圳的睿思芯科，在文化以及做事方式上都有不少的硅谷作風(fēng)。

Arm在手機領(lǐng)域的地位難以撼動，但是在AIoT領(lǐng)域Arm顯然已經(jīng)感受到來自RISC-V陣營的競爭，并對此保持關(guān)注。因此，在AIoT領(lǐng)域到底是RISC-V能占據(jù)優(yōu)勢還是Arm，我們只能讓時間給我們答案，畢竟從歷史的經(jīng)驗來看，一個技術(shù)的成功除了技術(shù)本身，還關(guān)系到非常多的因素。