為AI而生的指令集架構(gòu)RISC-V,正在帶來(lái)半導(dǎo)體產(chǎn)業(yè)生產(chǎn)關(guān)系變革和全應(yīng)用的可拓展計(jì)算加速
在半導(dǎo)體的發(fā)展歷史上,每次大繁榮的契機(jī)往往都來(lái)自生產(chǎn)關(guān)系的重大變革。1987年Morris Chang創(chuàng)立了臺(tái)積電,這不僅開(kāi)創(chuàng)了全球首家純代工半導(dǎo)體公司,還催生了一個(gè)全新的產(chǎn)業(yè)模式,使得許多沒(méi)有生產(chǎn)能力的創(chuàng)新型半導(dǎo)體公司得以誕生和發(fā)展。設(shè)計(jì)和制造這得以分離和互補(bǔ),并實(shí)現(xiàn)了風(fēng)險(xiǎn)互擔(dān),這成就了半導(dǎo)體產(chǎn)業(yè)的繁榮。1990年,Acorn RISC Machine成立,隨后推動(dòng)IP授權(quán)模式在移動(dòng)和嵌入式計(jì)算領(lǐng)域取得了巨大成功,驅(qū)動(dòng)幾千億終端設(shè)備實(shí)現(xiàn)了加速計(jì)算?;乜床徽撌桥_(tái)積電還是Arm,他們推動(dòng)業(yè)界發(fā)展的重點(diǎn)首先不在于是新的技術(shù),而是將生產(chǎn)關(guān)系推向了一個(gè)更高的緯度。而現(xiàn)在,我們看到RISC-V將會(huì)開(kāi)啟一個(gè)新的半導(dǎo)體生產(chǎn)關(guān)系的重大變革。
在由達(dá)摩院舉辦的2024玄鐵RISC-V生態(tài)大會(huì)上,達(dá)摩院院長(zhǎng)張建鋒表示,“隨著新型算力需求激增,RISC-V發(fā)展迎來(lái)蝶變,即將進(jìn)入應(yīng)用爆發(fā)期。達(dá)摩院將持續(xù)加大RISC-V的研發(fā)投入和生態(tài)共建,推動(dòng)行業(yè)上下游協(xié)同創(chuàng)新發(fā)展?!倍谶@應(yīng)用爆發(fā)的前夕,我們看到了即將到來(lái)的一系列變化:包括RISC-V在AI上的高效拓展,和在端-云邊-云等應(yīng)用場(chǎng)景中的無(wú)限可能。
RISC-V的未來(lái)方向:探索AI賦能和高性能計(jì)算的邊界
為什么RISC-V能夠走出來(lái)?達(dá)摩院玄鐵的永久摯友、知合計(jì)算CEO孟建熠總結(jié)了三大原因。首先在體系結(jié)構(gòu)發(fā)展的歷程中積累了大量的非優(yōu)化的“遺存”,而軟硬件協(xié)同設(shè)計(jì)能帶來(lái)10倍以上的性能收益?;叵氘?dāng)年,硬件和軟件的分開(kāi)是為了更高效的系統(tǒng)開(kāi)發(fā),而現(xiàn)在計(jì)算效率走到了一個(gè)瓶頸,軟硬件協(xié)同重新走在一起才能突破這一瓶頸。第二,計(jì)算架構(gòu)演進(jìn)需要共性技術(shù)底座。在計(jì)算方面,RISC-V可拓展性能夠帶來(lái)Vector、Matrix的計(jì)算加速,兩者組合實(shí)現(xiàn)對(duì)于Tensor的加速。而在存儲(chǔ)方面,可以為各種計(jì)算芯片帶來(lái)一致相同的存儲(chǔ)架構(gòu)。第三,整個(gè)業(yè)界對(duì)于軟件生態(tài)統(tǒng)一有著迫切的要求。生態(tài)的本質(zhì)應(yīng)該是降低全行業(yè)的使用成本,當(dāng)下不論是X86、Arm還是CUDA,生態(tài)主導(dǎo)者在基礎(chǔ)軟件上投入都是巨大的;而對(duì)自研架構(gòu)而言,生態(tài)主導(dǎo)者對(duì)于基礎(chǔ)軟件投入無(wú)法做到那么大,所以客戶的應(yīng)用開(kāi)發(fā)投入的成本就極高。而RISC-V作為開(kāi)源架構(gòu),任何人都可以參與到基礎(chǔ)軟件的開(kāi)發(fā)中來(lái),這就讓頂層應(yīng)用開(kāi)發(fā)者有著更少的投入成本。通過(guò)開(kāi)源生態(tài)的“聚沙成塔”,RISC-V是當(dāng)前唯一可以支撐起全鏈路的生態(tài)。
業(yè)界有一種聲音,說(shuō)RISC-V是為AI而生的指令集架構(gòu)??焖傺葸M(jìn)的AI技術(shù)讓RISC-V社區(qū)看到了新的發(fā)展機(jī)會(huì)。當(dāng)前無(wú)論是英特爾X86或者是其他的架構(gòu),都無(wú)法做到為了端側(cè)達(dá)模型能力而實(shí)現(xiàn)快速迭代,因?yàn)橛泻芏嗉嫒菪缘膯?wèn)題。而RISC-V有著很好的拓展性,能夠在較低的功耗下實(shí)現(xiàn)比較好的計(jì)算表現(xiàn),是其在AI方面的架構(gòu)優(yōu)勢(shì)。我們正處在計(jì)算架構(gòu)的黃金十年,基于RISC-V的創(chuàng)新架構(gòu)不斷涌現(xiàn)。
達(dá)摩院玄鐵RISC-V團(tuán)隊(duì)資深技術(shù)專家李春強(qiáng)表示,達(dá)摩院玄鐵團(tuán)隊(duì)在RISC-V方向上做了很多AI相關(guān)的工作。包括前期從C910的Vector 0.7到920的Vector 1.0擴(kuò)展指令設(shè)計(jì)實(shí)現(xiàn),以及現(xiàn)在一起共同探索Matrix指令集的拓展。而除了在指令集拓展以及標(biāo)準(zhǔn)的制定之外,另一個(gè)達(dá)摩院在AI上的重要工作是生態(tài)推廣,讓下游的客戶的芯片產(chǎn)品在端側(cè)推理的場(chǎng)景實(shí)現(xiàn)更好的表現(xiàn)。“達(dá)摩院本身就有很多像算能、嘉楠科技等做端側(cè)推理芯片的客戶,而大模型端側(cè)推理也是最近大家剛剛開(kāi)始做的事情,所以對(duì)于RISC-V而言這是一個(gè)非常好的機(jī)會(huì)?!崩畲簭?qiáng)解釋到,“大模型的瓶頸包括計(jì)算和存儲(chǔ),而未來(lái)我們將會(huì)看到越來(lái)越多的類似多核并行計(jì)算、多核通信和存儲(chǔ)帶寬提升的一些布局?!?
孟建熠表示,RISC-V作為一個(gè)計(jì)算的架構(gòu),首先肯定要在計(jì)算上走出來(lái),從通用計(jì)算的角度,達(dá)摩院要牽引整個(gè)行業(yè)看到RISC-V的潛力在哪里。而知合計(jì)算也同樣一直在探索RISC-V的高性能計(jì)算的邊界?!拔覀兿M磥?lái)高性能產(chǎn)品不僅是一個(gè)產(chǎn)品,通過(guò)RISC-V架構(gòu)的創(chuàng)新,能夠讓我們需要高性能、高能效算力、AI算力都能夠普及到。”
知合計(jì)算是要將高性能通用計(jì)算、AI增強(qiáng)計(jì)算和統(tǒng)一的軟件架構(gòu)整合在一起,實(shí)現(xiàn)一個(gè)“AI增強(qiáng)的高性能可拓展處理器”?!皬闹系慕嵌葋?lái)講,只是其中的一個(gè)小的點(diǎn),有更大的點(diǎn)在達(dá)摩院今天,是面向全生態(tài)的輻射做的。剛才講到很多在AI方面有幾招發(fā)出來(lái)了,還有很多在研發(fā)的路上,我們今天非??春迷谟?jì)算上的優(yōu)勢(shì)?!?
從10~100:生態(tài)加速裂變,應(yīng)用遍地開(kāi)花
如果將整個(gè)RISC-V的產(chǎn)業(yè)發(fā)展,看作一個(gè)從1~100的過(guò)程,那么毫無(wú)疑問(wèn)1~10的這部分是最難的,而從10~100將會(huì)快的多。據(jù)孟建熠分享,從1~10的過(guò)程中,必須要有著堅(jiān)定的信念和理想,堅(jiān)信RISC-V這個(gè)事情能成。在這個(gè)前期的1~10的過(guò)程中,達(dá)摩院三四年來(lái)一直不停地去推動(dòng),做出了非常大的貢獻(xiàn),到現(xiàn)在取得了一些實(shí)際的成果,讓RISC-V上成功運(yùn)行了安卓系統(tǒng)。這讓谷歌開(kāi)始真正的相信安卓與RISC-V結(jié)合的可能性,相信了RISC-V架構(gòu)處理器的可拓展的計(jì)算能力。有了這個(gè)“連接”之后,接下來(lái)就是從10~100的過(guò)程。在這個(gè)過(guò)程中,或許達(dá)摩院就不太需要更多去做那么多推進(jìn)的工作,而谷歌會(huì)更積極主動(dòng)地進(jìn)行更多軟硬件生態(tài)融合推進(jìn)的工作。
從10~100的過(guò)程中,生態(tài)開(kāi)始加速裂變,將會(huì)有更多的伙伴參與進(jìn)來(lái),一同跟進(jìn)。而在這一過(guò)程中,將會(huì)誕生出很多新的公司、新的創(chuàng)新和新的架構(gòu)。此次大會(huì)上我們見(jiàn)到了非常多豐富的應(yīng)用場(chǎng)景、在各個(gè)細(xì)分賽道里的公司,開(kāi)始選擇RISC-V的CPU來(lái)作為計(jì)算內(nèi)核。例如比科奇微電子,致力于為5G/4G小基站設(shè)備商提供Open RAN標(biāo)準(zhǔn)的基帶SoC和解決方案,就選擇了RISC-V。
在此次大會(huì)的專訪環(huán)節(jié)中,據(jù)比科奇微電子(杭州)有限公司芯片研發(fā)副總裁沈鉦介紹,比科奇提供5G小基站RU SoC和5G小基站PHY SoC兩種解決方案,而在這兩個(gè)SoC中均采用了玄鐵的RISC-V內(nèi)核。因?yàn)槭怯糜谖锢韺踊鶐幚恚云渲械倪\(yùn)算包含了大量的天線數(shù)據(jù)的處理。對(duì)于此類應(yīng)用而言,CPU用于的是高層次通量的協(xié)議解析,而這些大量的計(jì)算任務(wù)形式上非常一致,需要的更多是并行消息處理的能力。因此在做好合理調(diào)度的前提下,采用多個(gè)RISC-V小核的處理效率,要比單一的一個(gè)大核的效率更高。比科奇在SoC中放了兩個(gè)cluster,每個(gè)cluster中分別是16個(gè)玄鐵的RISC-V小核,用于進(jìn)行大量消息的解析任務(wù)。
作為一個(gè)整體解決方案的提供商,比科奇不僅提供SoC芯片,也提供了包括了軟件。而要將整個(gè)方案的效能提升,比科奇希望的是將CPU的執(zhí)行效率發(fā)揮到最高?!拔覀?nèi)サ袅撕芏嗟闹虚g件,將上下應(yīng)用和底部打通。對(duì)于客戶而言,可以把比科奇的芯片和協(xié)議棧芯片做成一個(gè)完整的板子,應(yīng)用于包括智能工業(yè)互聯(lián)網(wǎng)、智能采礦等場(chǎng)景在內(nèi)的各種行業(yè)場(chǎng)景?!?沈鉦解釋到,“RISC-V給我們帶來(lái)了很大的好處,首先就是很高的能效比,在基帶處理峰值的情況下功耗小于10W,對(duì)于競(jìng)爭(zhēng)對(duì)手有著很大的優(yōu)勢(shì)。第二在協(xié)議棧處理等方面,得益于RISC-V生態(tài)的發(fā)展,各種頂層業(yè)務(wù)平臺(tái)都有了很好的軟件生態(tài),包括支持DPDK等成熟的產(chǎn)品也已經(jīng)出來(lái)了,因此底層CPU是什么架構(gòu)其實(shí)對(duì)應(yīng)用商以及下游客戶影響不會(huì)那么大。”正是基于這兩點(diǎn)優(yōu)勢(shì),所以比科奇能夠放心地選擇RISC-V。
億芯科技也受邀參加此次玄鐵生態(tài)大會(huì)的專訪,介紹了億芯科技選擇玄鐵RISC-V內(nèi)核的原因。
北京憶芯科技有限公司合伙人朱旭濤表示,隨著SSD接口技術(shù)的不斷發(fā)展,SSD主控的性能也開(kāi)始卷出新高度,業(yè)界也開(kāi)始追求更小工藝節(jié)點(diǎn)和堆更多計(jì)算內(nèi)核等。但如果過(guò)度追求性能,在一個(gè)SSD主控中集成了更多的內(nèi)核進(jìn)行一致性的關(guān)聯(lián)操作,那么功耗這一指標(biāo)就會(huì)失控。對(duì)于SSD主控中的CPU core的選擇而言,億芯更關(guān)注的最終是實(shí)時(shí)性的提升,在使用效率上能夠跟業(yè)務(wù)有著實(shí)際的貼合度。
而玄鐵團(tuán)隊(duì)為億芯提供了非常多的支持:首先在RISC-V的開(kāi)發(fā)階段而言,雙方一起合作開(kāi)發(fā),實(shí)現(xiàn)了非常好的軟件開(kāi)發(fā)層面的體驗(yàn),包括編譯系統(tǒng)的友好性、指令執(zhí)行的效率和密度等。第二在CPU層面,從芯片的角度雙方在最終應(yīng)用過(guò)程中指令編譯的組合、仿真或者其他任何可能性上,竭力去做好。
從左至右:達(dá)摩院蕭良善、知合計(jì)算孟建熠、達(dá)摩院李春強(qiáng)、億芯科技朱旭濤、比科奇沈鉦
CPU計(jì)算能力并未達(dá)到上限,達(dá)摩院將持續(xù)推動(dòng)生態(tài)邁進(jìn)
在此次玄鐵生態(tài)大會(huì)的主題演講中,硅谷芯片傳奇人物、現(xiàn)任Tenstorrent CEO的Jim Keller講到,“那些認(rèn)為‘CPU性能不會(huì)再提高’的話,我從未相信過(guò)。因?yàn)槲覀冞€有那么多可做的事。”
開(kāi)源架構(gòu)允許所有人參與到的指令集的創(chuàng)新中來(lái),為RISC-V提供更高的上限。而與此同時(shí),生態(tài)的繁榮將會(huì)賦予RISC-V更旺盛的生命力。李春強(qiáng)表示,達(dá)摩院的核心任務(wù)還是持續(xù)推動(dòng)從開(kāi)源開(kāi)放的指令集到產(chǎn)業(yè)的落地上?!昂罄m(xù)還會(huì)往產(chǎn)業(yè)化做更多的事情,最終要讓我們的合作伙伴怎么在RISC-V的生態(tài)圈真正賺到錢(qián),這是最關(guān)鍵的。包括后期怎么在RISC-V做更多的原生,包括操作系統(tǒng)上做原生去推進(jìn)。”李春強(qiáng)總結(jié)到?!吧鷳B(tài)的裂變、生態(tài)的力量將會(huì)推動(dòng)RISC-V往前走。”