為AI而生的指令集架構(gòu)RISC-V，正在帶來(lái)半導(dǎo)體產(chǎn)業(yè)生產(chǎn)關(guān)系變革和全應(yīng)用的可拓展計(jì)算加速

在半導(dǎo)體的發(fā)展歷史上，每次大繁榮的契機(jī)往往都來(lái)自生產(chǎn)關(guān)系的重大變革。1987年Morris Chang創(chuàng)立了臺(tái)積電，這不僅開(kāi)創(chuàng)了全球首家純代工半導(dǎo)體公司，還催生了一個(gè)全新的產(chǎn)業(yè)模式，使得許多沒(méi)有生產(chǎn)能力的創(chuàng)新型半導(dǎo)體公司得以誕生和發(fā)展。設(shè)計(jì)和制造這得以分離和互補(bǔ)，并實(shí)現(xiàn)了風(fēng)險(xiǎn)互擔(dān)，這成就了半導(dǎo)體產(chǎn)業(yè)的繁榮。1990年，Acorn RISC Machine成立，隨后推動(dòng)IP授權(quán)模式在移動(dòng)和嵌入式計(jì)算領(lǐng)域取得了巨大成功，驅(qū)動(dòng)幾千億終端設(shè)備實(shí)現(xiàn)了加速計(jì)算?；乜床徽撌桥_(tái)積電還是Arm，他們推動(dòng)業(yè)界發(fā)展的重點(diǎn)首先不在于是新的技術(shù)，而是將生產(chǎn)關(guān)系推向了一個(gè)更高的緯度。而現(xiàn)在，我們看到RISC-V將會(huì)開(kāi)啟一個(gè)新的半導(dǎo)體生產(chǎn)關(guān)系的重大變革。

在由達(dá)摩院舉辦的2024玄鐵RISC-V生態(tài)大會(huì)上，達(dá)摩院院長(zhǎng)張建鋒表示，“隨著新型算力需求激增，RISC-V發(fā)展迎來(lái)蝶變，即將進(jìn)入應(yīng)用爆發(fā)期。達(dá)摩院將持續(xù)加大RISC-V的研發(fā)投入和生態(tài)共建，推動(dòng)行業(yè)上下游協(xié)同創(chuàng)新發(fā)展?！倍谶@應(yīng)用爆發(fā)的前夕，我們看到了即將到來(lái)的一系列變化：包括RISC-V在AI上的高效拓展，和在端-云邊-云等應(yīng)用場(chǎng)景中的無(wú)限可能。

RISC-V的未來(lái)方向：探索AI賦能和高性能計(jì)算的邊界

為什么RISC-V能夠走出來(lái)？達(dá)摩院玄鐵的永久摯友、知合計(jì)算CEO孟建熠總結(jié)了三大原因。首先在體系結(jié)構(gòu)發(fā)展的歷程中積累了大量的非優(yōu)化的“遺存”，而軟硬件協(xié)同設(shè)計(jì)能帶來(lái)10倍以上的性能收益?；叵氘?dāng)年，硬件和軟件的分開(kāi)是為了更高效的系統(tǒng)開(kāi)發(fā)，而現(xiàn)在計(jì)算效率走到了一個(gè)瓶頸，軟硬件協(xié)同重新走在一起才能突破這一瓶頸。第二，計(jì)算架構(gòu)演進(jìn)需要共性技術(shù)底座。在計(jì)算方面，RISC-V可拓展性能夠帶來(lái)Vector、Matrix的計(jì)算加速，兩者組合實(shí)現(xiàn)對(duì)于Tensor的加速。而在存儲(chǔ)方面，可以為各種計(jì)算芯片帶來(lái)一致相同的存儲(chǔ)架構(gòu)。第三，整個(gè)業(yè)界對(duì)于軟件生態(tài)統(tǒng)一有著迫切的要求。生態(tài)的本質(zhì)應(yīng)該是降低全行業(yè)的使用成本，當(dāng)下不論是X86、Arm還是CUDA，生態(tài)主導(dǎo)者在基礎(chǔ)軟件上投入都是巨大的；而對(duì)自研架構(gòu)而言，生態(tài)主導(dǎo)者對(duì)于基礎(chǔ)軟件投入無(wú)法做到那么大，所以客戶的應(yīng)用開(kāi)發(fā)投入的成本就極高。而RISC-V作為開(kāi)源架構(gòu)，任何人都可以參與到基礎(chǔ)軟件的開(kāi)發(fā)中來(lái)，這就讓頂層應(yīng)用開(kāi)發(fā)者有著更少的投入成本。通過(guò)開(kāi)源生態(tài)的“聚沙成塔”，RISC-V是當(dāng)前唯一可以支撐起全鏈路的生態(tài)。

業(yè)界有一種聲音，說(shuō)RISC-V是為AI而生的指令集架構(gòu)?？焖傺葸M(jìn)的AI技術(shù)讓RISC-V社區(qū)看到了新的發(fā)展機(jī)會(huì)。當(dāng)前無(wú)論是英特爾X86或者是其他的架構(gòu)，都無(wú)法做到為了端側(cè)達(dá)模型能力而實(shí)現(xiàn)快速迭代，因?yàn)橛泻芏嗉嫒菪缘膯?wèn)題。而RISC-V有著很好的拓展性，能夠在較低的功耗下實(shí)現(xiàn)比較好的計(jì)算表現(xiàn)，是其在AI方面的架構(gòu)優(yōu)勢(shì)。我們正處在計(jì)算架構(gòu)的黃金十年，基于RISC-V的創(chuàng)新架構(gòu)不斷涌現(xiàn)。

達(dá)摩院玄鐵RISC-V團(tuán)隊(duì)資深技術(shù)專家李春強(qiáng)表示，達(dá)摩院玄鐵團(tuán)隊(duì)在RISC-V方向上做了很多AI相關(guān)的工作。包括前期從C910的Vector 0.7到920的Vector 1.0擴(kuò)展指令設(shè)計(jì)實(shí)現(xiàn)，以及現(xiàn)在一起共同探索Matrix指令集的拓展。而除了在指令集拓展以及標(biāo)準(zhǔn)的制定之外，另一個(gè)達(dá)摩院在AI上的重要工作是生態(tài)推廣，讓下游的客戶的芯片產(chǎn)品在端側(cè)推理的場(chǎng)景實(shí)現(xiàn)更好的表現(xiàn)。“達(dá)摩院本身就有很多像算能、嘉楠科技等做端側(cè)推理芯片的客戶，而大模型端側(cè)推理也是最近大家剛剛開(kāi)始做的事情，所以對(duì)于RISC-V而言這是一個(gè)非常好的機(jī)會(huì)?！崩畲簭?qiáng)解釋到，“大模型的瓶頸包括計(jì)算和存儲(chǔ)，而未來(lái)我們將會(huì)看到越來(lái)越多的類似多核并行計(jì)算、多核通信和存儲(chǔ)帶寬提升的一些布局?！?

孟建熠表示，RISC-V作為一個(gè)計(jì)算的架構(gòu)，首先肯定要在計(jì)算上走出來(lái)，從通用計(jì)算的角度，達(dá)摩院要牽引整個(gè)行業(yè)看到RISC-V的潛力在哪里。而知合計(jì)算也同樣一直在探索RISC-V的高性能計(jì)算的邊界?！拔覀兿Ｍ磥?lái)高性能產(chǎn)品不僅是一個(gè)產(chǎn)品，通過(guò)RISC-V架構(gòu)的創(chuàng)新，能夠讓我們需要高性能、高能效算力、AI算力都能夠普及到。”

知合計(jì)算是要將高性能通用計(jì)算、AI增強(qiáng)計(jì)算和統(tǒng)一的軟件架構(gòu)整合在一起，實(shí)現(xiàn)一個(gè)“AI增強(qiáng)的高性能可拓展處理器”?！皬闹系慕嵌葋?lái)講，只是其中的一個(gè)小的點(diǎn)，有更大的點(diǎn)在達(dá)摩院今天，是面向全生態(tài)的輻射做的。剛才講到很多在AI方面有幾招發(fā)出來(lái)了，還有很多在研發(fā)的路上，我們今天非?？春迷谟?jì)算上的優(yōu)勢(shì)?！?

從10～100：生態(tài)加速裂變，應(yīng)用遍地開(kāi)花

如果將整個(gè)RISC-V的產(chǎn)業(yè)發(fā)展，看作一個(gè)從1～100的過(guò)程，那么毫無(wú)疑問(wèn)1～10的這部分是最難的，而從10～100將會(huì)快的多。據(jù)孟建熠分享，從1～10的過(guò)程中，必須要有著堅(jiān)定的信念和理想，堅(jiān)信RISC-V這個(gè)事情能成。在這個(gè)前期的1～10的過(guò)程中，達(dá)摩院三四年來(lái)一直不停地去推動(dòng)，做出了非常大的貢獻(xiàn)，到現(xiàn)在取得了一些實(shí)際的成果，讓RISC-V上成功運(yùn)行了安卓系統(tǒng)。這讓谷歌開(kāi)始真正的相信安卓與RISC-V結(jié)合的可能性，相信了RISC-V架構(gòu)處理器的可拓展的計(jì)算能力。有了這個(gè)“連接”之后，接下來(lái)就是從10～100的過(guò)程。在這個(gè)過(guò)程中，或許達(dá)摩院就不太需要更多去做那么多推進(jìn)的工作，而谷歌會(huì)更積極主動(dòng)地進(jìn)行更多軟硬件生態(tài)融合推進(jìn)的工作。

從10～100的過(guò)程中，生態(tài)開(kāi)始加速裂變，將會(huì)有更多的伙伴參與進(jìn)來(lái)，一同跟進(jìn)。而在這一過(guò)程中，將會(huì)誕生出很多新的公司、新的創(chuàng)新和新的架構(gòu)。此次大會(huì)上我們見(jiàn)到了非常多豐富的應(yīng)用場(chǎng)景、在各個(gè)細(xì)分賽道里的公司，開(kāi)始選擇RISC-V的CPU來(lái)作為計(jì)算內(nèi)核。例如比科奇微電子，致力于為5G/4G小基站設(shè)備商提供Open RAN標(biāo)準(zhǔn)的基帶SoC和解決方案，就選擇了RISC-V。

在此次大會(huì)的專訪環(huán)節(jié)中，據(jù)比科奇微電子（杭州）有限公司芯片研發(fā)副總裁沈鉦介紹，比科奇提供5G小基站RU SoC和5G小基站PHY SoC兩種解決方案，而在這兩個(gè)SoC中均采用了玄鐵的RISC-V內(nèi)核。因?yàn)槭怯糜谖锢韺踊鶐幚恚云渲械倪\(yùn)算包含了大量的天線數(shù)據(jù)的處理。對(duì)于此類應(yīng)用而言，CPU用于的是高層次通量的協(xié)議解析，而這些大量的計(jì)算任務(wù)形式上非常一致，需要的更多是并行消息處理的能力。因此在做好合理調(diào)度的前提下，采用多個(gè)RISC-V小核的處理效率，要比單一的一個(gè)大核的效率更高。比科奇在SoC中放了兩個(gè)cluster，每個(gè)cluster中分別是16個(gè)玄鐵的RISC-V小核，用于進(jìn)行大量消息的解析任務(wù)。

作為一個(gè)整體解決方案的提供商，比科奇不僅提供SoC芯片，也提供了包括了軟件。而要將整個(gè)方案的效能提升，比科奇希望的是將CPU的執(zhí)行效率發(fā)揮到最高?！拔覀?nèi)サ袅撕芏嗟闹虚g件，將上下應(yīng)用和底部打通。對(duì)于客戶而言，可以把比科奇的芯片和協(xié)議棧芯片做成一個(gè)完整的板子，應(yīng)用于包括智能工業(yè)互聯(lián)網(wǎng)、智能采礦等場(chǎng)景在內(nèi)的各種行業(yè)場(chǎng)景?！?沈鉦解釋到，“RISC-V給我們帶來(lái)了很大的好處，首先就是很高的能效比，在基帶處理峰值的情況下功耗小于10W，對(duì)于競(jìng)爭(zhēng)對(duì)手有著很大的優(yōu)勢(shì)。第二在協(xié)議棧處理等方面，得益于RISC-V生態(tài)的發(fā)展，各種頂層業(yè)務(wù)平臺(tái)都有了很好的軟件生態(tài)，包括支持DPDK等成熟的產(chǎn)品也已經(jīng)出來(lái)了，因此底層CPU是什么架構(gòu)其實(shí)對(duì)應(yīng)用商以及下游客戶影響不會(huì)那么大。”正是基于這兩點(diǎn)優(yōu)勢(shì)，所以比科奇能夠放心地選擇RISC-V。

億芯科技也受邀參加此次玄鐵生態(tài)大會(huì)的專訪，介紹了億芯科技選擇玄鐵RISC-V內(nèi)核的原因。

北京憶芯科技有限公司合伙人朱旭濤表示，隨著SSD接口技術(shù)的不斷發(fā)展，SSD主控的性能也開(kāi)始卷出新高度，業(yè)界也開(kāi)始追求更小工藝節(jié)點(diǎn)和堆更多計(jì)算內(nèi)核等。但如果過(guò)度追求性能，在一個(gè)SSD主控中集成了更多的內(nèi)核進(jìn)行一致性的關(guān)聯(lián)操作，那么功耗這一指標(biāo)就會(huì)失控。對(duì)于SSD主控中的CPU core的選擇而言，億芯更關(guān)注的最終是實(shí)時(shí)性的提升，在使用效率上能夠跟業(yè)務(wù)有著實(shí)際的貼合度。

而玄鐵團(tuán)隊(duì)為億芯提供了非常多的支持：首先在RISC-V的開(kāi)發(fā)階段而言，雙方一起合作開(kāi)發(fā)，實(shí)現(xiàn)了非常好的軟件開(kāi)發(fā)層面的體驗(yàn)，包括編譯系統(tǒng)的友好性、指令執(zhí)行的效率和密度等。第二在CPU層面，從芯片的角度雙方在最終應(yīng)用過(guò)程中指令編譯的組合、仿真或者其他任何可能性上，竭力去做好。

從左至右：達(dá)摩院蕭良善、知合計(jì)算孟建熠、達(dá)摩院李春強(qiáng)、億芯科技朱旭濤、比科奇沈鉦

CPU計(jì)算能力并未達(dá)到上限，達(dá)摩院將持續(xù)推動(dòng)生態(tài)邁進(jìn)

在此次玄鐵生態(tài)大會(huì)的主題演講中，硅谷芯片傳奇人物、現(xiàn)任Tenstorrent CEO的Jim Keller講到，“那些認(rèn)為‘CPU性能不會(huì)再提高’的話，我從未相信過(guò)。因?yàn)槲覀冞€有那么多可做的事。”

開(kāi)源架構(gòu)允許所有人參與到的指令集的創(chuàng)新中來(lái)，為RISC-V提供更高的上限。而與此同時(shí)，生態(tài)的繁榮將會(huì)賦予RISC-V更旺盛的生命力。李春強(qiáng)表示，達(dá)摩院的核心任務(wù)還是持續(xù)推動(dòng)從開(kāi)源開(kāi)放的指令集到產(chǎn)業(yè)的落地上?！昂罄m(xù)還會(huì)往產(chǎn)業(yè)化做更多的事情，最終要讓我們的合作伙伴怎么在RISC-V的生態(tài)圈真正賺到錢(qián)，這是最關(guān)鍵的。包括后期怎么在RISC-V做更多的原生，包括操作系統(tǒng)上做原生去推進(jìn)。”李春強(qiáng)總結(jié)到?！吧鷳B(tài)的裂變、生態(tài)的力量將會(huì)推動(dòng)RISC-V往前走。”