造出世界最大芯片的公司,Cerebras Systems到底是怎樣的存在?
一顆世界上最大的芯片刷爆芯片圈,背后團(tuán)隊(duì)的故事你知道嗎?最近,一顆巨型芯片的誕生引爆了芯片圈,其面積42225 平方毫米,擁有1.2 萬億個(gè)晶體管,400000 個(gè)核心,片上內(nèi)存18G字節(jié),內(nèi)存帶寬19PByte/s,fabric帶寬100Pbit/s。是目前芯片面積最大的英偉達(dá)GPU的56.7倍。
圖源:Cerebras Systems官網(wǎng)
這顆芯片——Cerebras Wafer Scale Engine(簡稱:Cerebras WSE),由人工智能初創(chuàng)公司Cerebras Systems公司推出。之所以吸引眼球,一部分原因是當(dāng)外界不斷追求芯片小型化、低功耗時(shí),這顆芯片反其道而行之。
圖源:Cerebras Systems官網(wǎng)
Venturebeat發(fā)文稱,大芯片可以更快地處理信息,在更短的時(shí)間內(nèi)產(chǎn)生結(jié)果。減少洞察時(shí)間或“訓(xùn)練時(shí)間”,使研究人員能夠測試更多想法,使用更多數(shù)據(jù)并解決新問題。谷歌,F(xiàn)acebook,OpenAI,騰訊,百度和許多其他人認(rèn)為,如今人工智能的基本限制是培訓(xùn)模型需要很長時(shí)間。因此,縮短訓(xùn)練時(shí)間消除了整個(gè)行業(yè)進(jìn)步的主要瓶頸。
有意思的是,這家公司極其低調(diào)。連自家官網(wǎng)的介紹都少的可憐,在領(lǐng)英上簡單一句——“Cerebras是一家低調(diào)的創(chuàng)企。我們是一批成功的創(chuàng)業(yè)者,我們敢于去解決那些別人無法解決的問題。在我們的團(tuán)隊(duì)里,大家重視團(tuán)結(jié)、熱情、對(duì)實(shí)際問題的解決能力,當(dāng)然幽默感也必不可少。我們期待著更多的優(yōu)秀人才加入我們?!?
在Cerebras Systems官網(wǎng)的新聞欄目處,只有寥寥幾篇文章。最新的三篇?jiǎng)t是關(guān)于這顆巨大芯片的發(fā)布。
今年2月份,CB Insights發(fā)布的人工智能產(chǎn)業(yè)鏈中最有前途的100家AI公司,其中就有Cerebras Systems。
在去年5月份一篇關(guān)于創(chuàng)始人Andrew的采訪稿中,Andrew把Cerebras比作獵豹,是人工智能領(lǐng)域的專才,而英特爾、英偉達(dá)屬于人工智能通才,靠自己的架構(gòu)來解決所有計(jì)算問題。并稱人工智能的大創(chuàng)新不可能來自芯片而是一個(gè)系統(tǒng),Cerebras做的就是一個(gè)系統(tǒng)。
這為數(shù)不多介紹,讓這家公司越發(fā)神秘感,今天TechSugar小編就為大伙扒一扒這家公司,先從技術(shù)高層團(tuán)隊(duì)開始。
神秘低調(diào)的大咖團(tuán)隊(duì)
據(jù)官網(wǎng)資料介紹,Cerebras Systems由頂尖計(jì)算機(jī)架構(gòu)師、計(jì)算機(jī)科學(xué)家和深度學(xué)習(xí)研究人員組成的團(tuán)隊(duì)。目標(biāo)是構(gòu)建一種新的計(jì)算機(jī)系統(tǒng),可以將人工智能加速到超越現(xiàn)有技術(shù)數(shù)量級(jí)水準(zhǔn)。據(jù)官網(wǎng)介紹,Cerebras Systems已經(jīng)擁有150名員工。
Andrew Feldman
Cerebras Systems聯(lián)合創(chuàng)始人兼CEO
其擁有斯坦福MBA學(xué)位,在創(chuàng)立Cerebras Systems之前,Andrew Feldman是SeaMicro公司的聯(lián)合創(chuàng)始人兼首席執(zhí)行官,SeaMicro是低功耗服務(wù)器技術(shù)的先驅(qū),已被AMD收購。
在創(chuàng)立SeaMicro之前,Andrew Feldman擔(dān)任Force10的營銷和產(chǎn)品管理副總裁(被戴爾以8億美元收購),以及Riverstone Networks的企業(yè)營銷和企業(yè)發(fā)展副總裁,從Riverstone Networks成立直到首次公開募股。
Gary Lauterbach
聯(lián)合創(chuàng)始人兼CTO
據(jù)官網(wǎng)高管信息欄介紹,Gary Lauterbach是Cerebras Systems的聯(lián)合創(chuàng)始人兼首席技術(shù)官。Gary被公認(rèn)為業(yè)界頂尖計(jì)算機(jī)架構(gòu)師之一。
在加入Cerebras之前,他是SeaMicro的聯(lián)合創(chuàng)始人兼首席技術(shù)官。在此期間,Gary是美國能源部一個(gè)930萬美元節(jié)能計(jì)算經(jīng)費(fèi)項(xiàng)目的首席研究員。SeaMicro被收購后,Gary擔(dān)任企業(yè)榮譽(yù)理事(Corporate Fellow)以及服務(wù)器/服務(wù)器CPU部門的CTO。
職業(yè)生涯早期,擔(dān)任Sun Microsystems工程師職位,在那里他職位是UltraSPARC III和UltraSPARC IV微處理器的首席微處理器架構(gòu)師。在Sun Laboratories期間,他是DARPA HPCS Petascale計(jì)算項(xiàng)目的首席架構(gòu)師。Gary擁有50多項(xiàng)專利。
Dhiraj Mallick
工程和業(yè)務(wù)開發(fā)副總裁
Dhiraj是Cerebras Systems公司工程和業(yè)務(wù)開發(fā)副總裁。此前,Dhiraj在英特爾、AMD以及SeaMicro和NexGen等初創(chuàng)企業(yè)擁有超過20年的高管領(lǐng)導(dǎo)經(jīng)驗(yàn),指導(dǎo)大型、高性能的工程團(tuán)隊(duì)。
在Cerebras之前,Dhiraj是英特爾200億美元數(shù)據(jù)中心業(yè)務(wù)的首席技術(shù)官和副總裁。
再往前,他是SeaMicro執(zhí)行領(lǐng)導(dǎo)團(tuán)隊(duì)的成員之一,SeaMicro被AMD收購后,他繼續(xù)在AMD擔(dān)任服務(wù)器解決方案部門的公司副總裁和總經(jīng)理。此外,Dhiraj還是幾家風(fēng)投支持的公司的顧問,其擁有斯坦福大學(xué)電氣工程碩士學(xué)位。
Sean Lie
聯(lián)合創(chuàng)始人兼首席硬件架構(gòu)師
Sean是Cerebras Systems的首席硬件架構(gòu)師和聯(lián)合創(chuàng)始人。在Cerebras之前,Sean是SeaMicro輸入/輸出(I/O) 虛擬化Fabric ASIC的首席硬件架構(gòu)師。在SeaMicro被AMD收購后,Sean成為AMD的研究員和數(shù)據(jù)中心首席架構(gòu)師。
在他職業(yè)生涯的早期,就在AMD的高級(jí)架構(gòu)團(tuán)隊(duì)中工作了五年。他擁有麻省理工學(xué)院電子工程學(xué)士學(xué)位和計(jì)算機(jī)科學(xué)學(xué)士和工程碩士學(xué)位,并在計(jì)算機(jī)架構(gòu)方面擁有16項(xiàng)專利。
Michael James
聯(lián)合創(chuàng)始人兼高級(jí)技術(shù)總設(shè)計(jì)師
在Cerebras Systems之前,Michael是SeaMicro負(fù)責(zé)分布式系統(tǒng)軟件的首席軟件架構(gòu)師。SeaMicro被收購后,Michael成為AMD的首席軟件架構(gòu)師。
在他的職業(yè)生涯中,他設(shè)計(jì)過操作系統(tǒng)、編譯器、實(shí)時(shí)反饋控制系統(tǒng)、信號(hào)處理和識(shí)別系統(tǒng)。Michael擁有加州大學(xué)伯克利分校的分子神經(jīng)生物學(xué)、數(shù)學(xué)和計(jì)算機(jī)科學(xué)學(xué)位。
J.P. Fricker
聯(lián)合創(chuàng)始人兼首席系統(tǒng)架構(gòu)師
J.P.是Cerebras Systems的首席系統(tǒng)架構(gòu)師。在共同創(chuàng)建Cerebras之前,J.P.是DSSD(后被EMC收購)全新機(jī)架級(jí)閃存(Rack-scale Flash)的高級(jí)硬件架構(gòu)師。
在DSSD之前,J.P.是SeaMicro的首席系統(tǒng)架構(gòu)師,他設(shè)計(jì)了三代基于Fabic的計(jì)算機(jī)系統(tǒng)。
在他職業(yè)生涯的早期,J.P.曾任阿爾卡特朗訊(Alcatel-Lucent)硬件工程總監(jiān)和Riverstone Networks的硬件工程總監(jiān)。他擁有瑞士洛桑聯(lián)邦理工學(xué)院電氣工程碩士學(xué)位,及其18項(xiàng)專利。
SeaMicro的輝煌
在上面這些技術(shù)高層的簡歷中,你會(huì)發(fā)現(xiàn)一個(gè)公司頻頻被提起,那就是SeaMicro。顯然,這幫人幾乎都來自這個(gè)團(tuán)隊(duì)。SeaMicro也是一家頗具傳奇色彩的公司。
SeaMicro成立于2007年7月,創(chuàng)始人就是上面提到的Andrew Feldman、 Gary Lauterbach ,外加一位叫Anil Rao的人。該公司分別于2007年和2009年獲得A輪和B輪融資。
2010年6月份,SeaMicro發(fā)布了一款重量級(jí)產(chǎn)品,外媒形容為“原子彈”級(jí)別產(chǎn)品。一個(gè)配備512個(gè)Intel Atom芯片的服務(wù)器,該產(chǎn)品可以獲得超級(jí)計(jì)算機(jī)性能,但功耗和空間比現(xiàn)有服務(wù)器低75%。
SeaMicro將虛擬化的概念應(yīng)用于服務(wù)器內(nèi)部。創(chuàng)始人Andrew Feldman設(shè)計(jì)的定制芯片可以承擔(dān)超出英特爾微處理器及其芯片組所能處理的任務(wù)。自定義芯片虛擬化所有其他組件,以便在需要時(shí)找到資源。
其第一代產(chǎn)品SM10000于2010年7月份上市,每臺(tái)售價(jià)139,000美元。2011年7月,該公司發(fā)布了第三代服務(wù)器——SM10000-64 HD。資料顯示,第三代服務(wù)器擁有384個(gè)1.66GHz雙核Atom N570處理器,1.536TB DDR3 DRAM,多達(dá)64個(gè)SATA SSD或HDD,以及16個(gè)10GbE或64個(gè)1GbE上行鏈路。起步價(jià)237,000美元。
在2012年2月,AMD宣布3.34億美元收購SeaMicro。收購的前一個(gè)月,SeaMicro在推出新的服務(wù)器設(shè)計(jì)時(shí),英特爾管理人員表示這可能會(huì)占據(jù)服務(wù)器市場的10%。(新品SM10000-XE是圍繞英特爾的至強(qiáng)服務(wù)器處理器和三星的內(nèi)存芯片構(gòu)建的。)
收購前,SeaMicro已有50多個(gè)客戶,其中包括eHarmony,Skype和Mozilla。
圖:(從左到右)AMD首席執(zhí)行官Rory Read,SeaMicro首席執(zhí)行官Andrew Feldman和AMD全球業(yè)務(wù)部門總經(jīng)理Lisa Su。
被AMD收購后,SeaMicro創(chuàng)始人之一的Andrew Feldman負(fù)責(zé)監(jiān)督AMD服務(wù)器芯片業(yè)務(wù)。
2014年AMD重組,當(dāng)時(shí)44歲的Lisa Su升為AMD首席運(yùn)營官(COO),而Andrew Feldman選擇離職,稱“休息一下”?,F(xiàn)在看來,他應(yīng)該正在召集人馬謀劃一場新創(chuàng)業(yè)——Cerebras Systems。
SeaMicro的命運(yùn)并沒有像創(chuàng)始人那般春風(fēng)得意,在2015年4月16日,AMD宣布放棄SeaMicro業(yè)務(wù),而專注于高性能服務(wù)器CPU。
人工智能需要極致的“粗暴”
2016年,Andrew Feldman帶領(lǐng)一眾老部下創(chuàng)立了Cerebras Systems。根據(jù)PitchBook的數(shù)據(jù)顯示,Cerebras Systems已經(jīng)進(jìn)行了三輪融資,首先是2016年5月份的2700萬美元的A輪,當(dāng)時(shí)估值達(dá)到估值為6450萬美元。2017年1月,經(jīng)2500萬美元的B輪融資后,其估值迅速上升至2.45億美元;6個(gè)月后,Cerebras再籌集6000萬美元,估值達(dá)8.6億美元。
Cerebras Systems融資情況 圖源:Craft
現(xiàn)如今來看,該人工智能公司似乎前景一篇大好。回顧該創(chuàng)始人的經(jīng)歷,巨型芯片的思路并不陌生,在SeaMicro期間,創(chuàng)始人們玩的就是“巨無霸”技巧。
Fieldman 表示:“Cerebras WSE”專為人工智能設(shè)計(jì)而設(shè)計(jì),其中包含了不少基礎(chǔ)創(chuàng)新,解決了限制芯片尺寸的長達(dá)數(shù)十年的技術(shù)挑戰(zhàn) - 如芯片良率,功率傳送、封裝等,推動(dòng)了最先進(jìn)技術(shù)的發(fā)展。和包裝,每個(gè)架構(gòu)決策都是為了優(yōu)化AI工作的性能。結(jié)果是,Cerebras WSE根據(jù)工作量提供了數(shù)百或數(shù)千倍的現(xiàn)有解決方案的性能,只需很小的功耗和空間。”
短短幾年能創(chuàng)造出這顆大芯片,的確讓人驚嘆。
在Cerebras WSE介紹的白皮書中,有這么一句話——“通過加速人工智能計(jì)算,WSE清除了阻礙人工智能進(jìn)步的最大路障——時(shí)間。將訓(xùn)練時(shí)間從幾個(gè)月縮減為幾分鐘,從幾周減少到基瞄。讓深度學(xué)習(xí)實(shí)踐者更快的驗(yàn)證自己的假設(shè),從而不用去擔(dān)心一些體系機(jī)構(gòu)導(dǎo)致無法測試或者太大風(fēng)險(xiǎn)。WSE降低了好奇心的成本,加速了人工智能新思想和新技術(shù)的到來?!?