深入了解NVIDIA RAPIDS開源GPU加速平臺(tái)

NVIDIA在北京召開溝通會(huì)，由亞太區(qū)解決方案架構(gòu)主管趙立威詳解了RAPIDS開源GPU數(shù)據(jù)加速平臺(tái)。

該平臺(tái)發(fā)布于2018年10月10日的GTC Europe大會(huì)上，是一款針對(duì)數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)的GPU加速平臺(tái)，為數(shù)據(jù)科學(xué)家提供標(biāo)準(zhǔn)化的流水線式工具，數(shù)據(jù)處理速度較僅用CPU提升50倍。

溝通會(huì)后，我們與NVIDIA中國高級(jí)解決方案架構(gòu)師何萍，以及NVIDIA亞太區(qū)解決方案高級(jí)總監(jiān)趙立威等高管就RAPIDS平臺(tái)和GPU加速數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)進(jìn)行了進(jìn)一步的交流。

據(jù)分析師估計(jì)，面向數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)的服務(wù)器市場每年價(jià)值約為200億美元，加上科學(xué)分析和深度學(xué)習(xí)市場，高性能計(jì)算市場總價(jià)值大約為360億美元，且該市場還在持續(xù)快速發(fā)展，幾乎每一家企業(yè)都在用數(shù)據(jù)驅(qū)動(dòng)來增強(qiáng)自己的核心競爭力。

“數(shù)據(jù)分析和機(jī)器學(xué)習(xí)是高性能計(jì)算市場中最大的細(xì)分市場，不過目前尚未實(shí)現(xiàn)加速，”NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在發(fā)布RAPIDS時(shí)提到，“全球最大的行業(yè)均在海量服務(wù)器上運(yùn)行機(jī)器學(xué)習(xí)算法，目的在于了解所在市場和環(huán)境中的復(fù)雜模式，同時(shí)迅速、精準(zhǔn)地做出將直接影響其基礎(chǔ)的預(yù)測?！?/p>

一個(gè)最典型的大數(shù)據(jù)分析流程大致分為數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)合并、數(shù)據(jù)降維三個(gè)步驟，很多數(shù)據(jù)特征需要靠行業(yè)或?qū)I(yè)領(lǐng)域的專家去理解，并事先把它們提取出來。因此在Machine Learning中需要訓(xùn)練過程，這是一個(gè)不斷的循環(huán)過程，在不斷優(yōu)化、不斷調(diào)整參數(shù)的過程中，提高訓(xùn)練過程的精度，從而得到更準(zhǔn)確的預(yù)測結(jié)果。

為了支持這樣一個(gè)大數(shù)據(jù)分析流程，需要用到DASK、PYTHON、PANDAS、SKLEARN、NUMPY、Apache Arrow等組件。RAPIDS構(gòu)建于Apache Arrow、PANDAS和SKLEARN等組件之上，通過CUDF數(shù)據(jù)過濾、CUML機(jī)器學(xué)習(xí)、CUGRAPH數(shù)據(jù)圖像化來加速處理數(shù)據(jù)，為最流行的Python數(shù)據(jù)科學(xué)工具鏈帶來了GPU提速。

這三套軟件工具都是基于CUDA開發(fā)，可以把它們看成是CUDA的一部分。其中CUDF與Pandas的功能非常類似，Pandas的所有功能都可以在CUDF里找到對(duì)應(yīng)的API；CUML則對(duì)應(yīng)SKLEARN，無論是分類、聚類、回歸等算法都可以在CUML里面找到。而CUGRAPH目前尚未正式推出，預(yù)計(jì)會(huì)在明年正式集成到RAPIDS中。

趙立威向我們透露，RAPIDS非常易與此前的計(jì)算框架整合，雖然不能說是“無代碼”過渡，但代價(jià)非常小，且數(shù)據(jù)處理效率可提升50倍以上。同時(shí)為了將更多的機(jī)器學(xué)習(xí)庫和功能引入RAPIDS，NVIDIA廣泛地與開源生態(tài)系統(tǒng)貢獻(xiàn)者展開合作，其中包括Anaconda、BlazingDB、Databricks，以及迅速增長的Python數(shù)據(jù)科學(xué)庫pandas等等。

此外，黃仁勛在GTC Europe大會(huì)上展示RAPIDS時(shí)用的DGX-2，使用了16塊Tesla V100計(jì)算卡，每塊卡配有32GB HBM2顯存，帶寬高達(dá)900GB/s，兩塊計(jì)算卡之間通過300GB/s的NV Switch總線互聯(lián)，使整臺(tái)服務(wù)器擁有了un-block無阻滯通訊能力，總算力高達(dá)2PFLOPs（半精度浮點(diǎn)），數(shù)據(jù)處理能力相當(dāng)于5臺(tái)DGX-1。

除了DGX-2和DGX-1，NVIDIA還有一系列合作伙伴提供的很多的硬件產(chǎn)品，如一些ODM、OEM廠商基于HGX-1和HGX-2兩種架構(gòu)標(biāo)準(zhǔn)生產(chǎn)的許多不同類型服務(wù)器，甚至包括上一代Pascal架構(gòu)的GPU的服務(wù)器，都可以都可以很好的支撐RAPIDS的運(yùn)行和使用。

趙立威笑稱，由于此前數(shù)據(jù)處理的速度太慢，數(shù)據(jù)科學(xué)家往往有大量的空閑等待時(shí)間，可以悠閑的喝咖啡。應(yīng)用RAPIDS平臺(tái)之后，等待時(shí)間變短，需要數(shù)據(jù)科學(xué)家創(chuàng)造性參與的部分相應(yīng)變多了，數(shù)據(jù)科學(xué)家這一工作可能不再是美差。

當(dāng)然，數(shù)據(jù)分析和機(jī)器學(xué)習(xí)領(lǐng)域的持續(xù)走熱，看中這片市場的也不只NVIDIA一家。上周賽靈思剛剛推出基于UltraScale+ FPGA打造的數(shù)據(jù)中心和AI加速卡Alveo U200和U250，號(hào)稱實(shí)時(shí)推斷吞吐量比高端CPU高出20倍。

賽靈思數(shù)據(jù)中心副總裁Manish Muthal表示，Alveo加速器卡的推出進(jìn)一步推進(jìn)了賽靈思向平臺(tái)公司的轉(zhuǎn)型，使不斷增長的應(yīng)用合作伙伴生態(tài)系統(tǒng)以比以往更快的速度加速創(chuàng)新，并將與應(yīng)用生態(tài)系統(tǒng)展開合作，共同向客戶推出采用Alveo的各種可產(chǎn)品化的解決方案。

與NVIDIA推出的RAPIDS平臺(tái)相比，二者通過一硬一軟的形式覆蓋了幾乎相同的范圍，對(duì)此趙立威對(duì)我們表示，數(shù)據(jù)分析和機(jī)器學(xué)習(xí)市場尚未探明其特定邊界，領(lǐng)域內(nèi)應(yīng)用場景非常多樣化，無論是基于FPGA還是ASIC進(jìn)行異構(gòu)加速都是可行的，完全取決于針對(duì)不同的場景所產(chǎn)生的不同需求。