CUDA和OpenGL互操作的實現(xiàn)及分析
1 CUDA與OpenGL概述
OpenGL是圖形硬件的軟件接口,它是在SGI等多家世界著名的計算機(jī)公司的倡導(dǎo)下,以SGI的GL三維圖形庫為基礎(chǔ)制定的一個通用、共享的、開放式的、性能卓越的三維圖形標(biāo)準(zhǔn)。OpenGL在醫(yī)學(xué)成像、地理信息、石油勘探、氣候模擬以及娛樂動畫上有著廣泛應(yīng)用,它已經(jīng)成為高性能圖形和交互式視景處理的工業(yè)標(biāo)準(zhǔn)。
OpenGL不是一種編程語言,而是一種API(應(yīng)用程序編程接口)。程序員可以使用某種編程語言(如C或C++)編寫繪圖軟件,其中調(diào)用了一個或多個OpenGL庫函數(shù)。作為一種API,OpenGL遵循C語言的調(diào)用約定。OpenGL開發(fā)資料可參考文獻(xiàn)[1]和參考文獻(xiàn)[2]。
圖形處理器(GPU)原本是處理計算機(jī)圖形的專用設(shè)備,近十年來,由于高清晰度復(fù)雜圖形實時處理的需求,GPU發(fā)展成為高并行度、多線程、多核的處理器。目前,主流GPU的運算能力已超過主流通用CPU,從發(fā)展趨勢上來看將來差距會越拉越大。為了合理地利用GPU 資源,CUDA(統(tǒng)一計算設(shè)備架構(gòu))應(yīng)運而生。CUDA是一種由NVIDIA推出的通用并行計算架構(gòu)[3],該架構(gòu)使GPU能夠解決復(fù)雜的計算問題,并且由于CUDA編程語言基于標(biāo)準(zhǔn)的C語言,從而大大提高了可編程性。
CUDA和OpenGL互操作的基本方式是使用CUDA生成數(shù)據(jù),然后使用OpenGL在屏幕上繪制出數(shù)據(jù)所表示的圖形。兩者的結(jié)合可以通過兩種方式來實現(xiàn):
(1)使用OpenGL的PBO(像素緩沖區(qū)對象)。在該方式下,CUDA直接生成像素數(shù)據(jù),OpenGL顯示這些像素;
(2)使用OpenGL的VBO(頂點緩沖區(qū)對象)。在該方式下,CUDA生成頂點網(wǎng)格數(shù)據(jù),OpenGL可以根據(jù)需要繪制出平滑的表面圖或線框圖或一系列頂點。
這兩種方式的核心都是利用cudaGLMapBufferObject函數(shù)將OpenGL的緩沖區(qū)映射到CUDA的內(nèi)存空間上,這樣,程序員就可以充分利用CUDA的優(yōu)點寫出性能高的程序在該內(nèi)存空間上生成數(shù)據(jù),這些數(shù)據(jù)不需要傳送,OpenGL可以直接使用。如果不使用CUDA,這些數(shù)據(jù)需要由CPU來計算產(chǎn)生。一方面,CPU的計算速度通常比GPU慢;另一方面,這些數(shù)據(jù)需要傳送到GPU上以供OpenGL顯示使用。鑒于此,當(dāng)數(shù)據(jù)量很大時,CUDA和OpenGL的混合使用效果明顯。
2 CUDA和OpenGL互操作的過程[4]
CUDA和OpenGL互操作具體步驟如下:
(1)創(chuàng)建窗口及OpenGL運行環(huán)境。
(2)設(shè)置OpenGL視口和坐標(biāo)系。要根據(jù)繪制的圖形是2D還是3D等具體情況設(shè)置。(1)和(2)是所有OpenGL程序必需的,這里也沒什么特殊之處,需要注意的是,后面的一些功能需要OpenGL 2.0及以上版本支持,所以在這里需要進(jìn)行版本檢查。
(3)創(chuàng)建CUDA環(huán)境??梢允褂胏uGLCtxCreate或cudaGLSetGLDevice來設(shè)置CUDA環(huán)境。該設(shè)置一定要放在其他CUDA的API調(diào)用之前。
(4)產(chǎn)生一個或多個OpenGL緩沖區(qū)用以和CUDA共享。使用PBO和使用VBO差不多,只是有些函數(shù)調(diào)用參數(shù)不同。以下是具體過程。
GLuint bufferID;
glGenBuffers(1,&bufferID);//產(chǎn)生一個buffer ID
glBindBuffer(parameter1,bufferID);
//將其設(shè)置為當(dāng)前非壓縮緩沖區(qū),如果是PBO方式,parameter1設(shè)置為GL_PIXEL_UNPACK_BUFFER,如果
是VBO方式,parameter1設(shè)置為GL_ARRAY_BUFFER
glBufferData(parameter1,parameter2,NULL,GL_DYNAMIC _COPY);
//給該緩沖區(qū)分配數(shù)據(jù),PBO方式下,parameter1設(shè)置為GL_PIXEL_UNPACK_BUFFER,parameter1設(shè)置為圖像的長度*寬度*4。VBO方式下,parameter1設(shè)置為GL_ARRAY_BUFFER,parameter2設(shè)置為頂點數(shù)*16,因為每個頂點包含3個浮點坐標(biāo)(x,y,z)和4個顏色字節(jié)(RGBA),這樣一個頂點包含16 B
(5)用CUDA登記緩沖區(qū)。登記可以使用cuGLRegisterBufferObject或
cudaGLRegisterBufferObject,該命令告訴OpenGL和CUDA 驅(qū)動程序該緩沖區(qū)為二者共同使用。
(6)將OpenGL緩沖區(qū)映射到CUDA內(nèi)存??梢允褂胏uGLMapBufferObject或cudaGLMapBufferObject,它實際是將CUDA內(nèi)存的指針指向OpenGL的緩沖區(qū),這樣如果只有一個GPU,就不需要數(shù)據(jù)傳遞。當(dāng)映射完成后,OpenGL不能再使用該緩沖區(qū)。
(7)使用CUDA往該映射的內(nèi)存寫圖像數(shù)據(jù)。前面的準(zhǔn)備工作在這里真正發(fā)揮作用了,此時可以調(diào)用CUDA的kernel,像使用全局內(nèi)存一樣使用映射了的緩沖區(qū),向其中寫數(shù)據(jù)。
(8)取消OpenGL緩沖區(qū)映射。要等前面CUDA的活動完成以后,使用cuGLUnmapBufferObject或cudaGLUnmapBufferObject函數(shù)取消映射。
(9)前面的步驟完成以后就可以真正開始繪圖了, OpenGL的PBO和VBO的繪圖方式不同,分別為以下兩個過程。
①如果只是繪制平面圖形,需要使用OpenGL的PBO及紋理。
glEnable(GL_TEXTURE_2D); //使紋理可用
glGenTextures(1,&textureID); //生成一個textureID
glBindTexture(GL_TEXTURE_2D,textureID);
//使該紋理成為當(dāng)前可用紋理
glTexImage2D(GL_TEXTURE_2D,0,GL_RGBA8,Width, Height,0,GL_BGRA,GL_UNSIGNED_BYTE,NULL);
//分配紋理內(nèi)存。最后的參數(shù)設(shè)置數(shù)據(jù)來源,這里設(shè)置為NULL,表示數(shù)據(jù)來自PBO,不是來自主機(jī)內(nèi)存
glTexParameteri(GL_TEXTURE_2D,GL_TEXTURE_MIN _FILTER,GL_LINEAR);
glTexParameteri(GL_TEXTURE_2D,GL_TEXTURE_MAG_ FILTER,GL_LINEAR);//必須設(shè)置濾波模式,GL_LINEAR允許圖形伸縮時線性差值。如果不需要線性差值,可以用GL_TEXTURE_RECTANGLE_ARB代替GL_TEXTURE_2D以提高性能,同時在glTexParameteri()調(diào)用里使用GL_NEAREST替換GL_LINEAR
然后就可以指定4個角的紋理坐標(biāo),繪制長方形了。
②繪制3D場景,需要使用VBO。
glEnableClientState(GL_VERTEX_ARRAY);
//使頂點和顏色數(shù)組可用
glEnableClientState(GL_COLOR_ARRAY);
glVertexPointer(3,GL_FLOAT,16,0);
//設(shè)置頂點和顏色指針
glColorPointer(4,GL_UNSIGNED_BYTE,16,12);
glDrawArrays(GL_POINTS,0,numVerticies);
//根據(jù)頂點數(shù)據(jù)繪圖,參數(shù)可以使用GL_LINES, GL_LINE_STRIP, GL_LINE_LOOP, GL_TRIANGLES,GL_TRIANGLE_STRIP, GL_TRIANGLE_FAN, GL_QUADS,GL_QUAD_STRIP,GL_POLYGON
(10)前后緩存區(qū)來回切換,實現(xiàn)動畫顯示效果。調(diào)用SwapBuffers(),緩沖區(qū)切換通常會在垂直刷新間隙來處理,因此,可以在控制面板上關(guān)掉垂直同步,使得緩沖區(qū)切換立刻進(jìn)行。
3 CUDA和OpenGL互操作性能實例分析
3.1 測試實例
這是一個相對簡單的實例,其主要功能是不斷地動態(tài)改變一個紋理圖案中每個像素的顏色并顯示。該實例使用了OpenGL的PBO并利用了OpenGL與CUDA互操作方式,紋理圖案數(shù)據(jù)的生成主要由CUDA的kernel函數(shù)完成,完整程序及CUDA的kernel函數(shù)請參看參考文獻(xiàn)[5]。
如果不使用CUDA,整個程序結(jié)構(gòu)變化不大,主要差別是生成該紋理圖案的函數(shù)在CPU上運行,因而該函數(shù)及其調(diào)用方式要重寫,具體函數(shù)如下:
void kernel(uchar4*pos,unsigned int width,unsigned int height,float time)
{ unsigned int index,x,y;
for(x=0;x<width;x++)
for(y=0;y<height;y++)
{unsigned char r=(x+(int)time)&0xff;
unsigned char g=(y+(int)time)&0xff;
unsigned char b=((x+y)+(int)time)&0xff;
index=x*width+y;
pos[index].w=0;
pos[index].x=r;
pos[index].y=g;
pos[index].z=b;
}
}
其中,參數(shù)pos表示像素數(shù)組,width為圖像寬度,height為圖像高度,time是每次調(diào)用該函數(shù)時固定遞增的一個值。
3.2 測試結(jié)果
上述實例在兩種環(huán)境中做了實驗,CUDA版本都是3.2。測試環(huán)境1的主要配置如下:CPU為Intel Core i3-M380,主頻為2.53 GHz,GPU為 NVIDIA NVS 3100M,內(nèi)存為2 GB。測試環(huán)境2的主要配置如下:CPU是Intel Core2 duo E7400,主頻為2.8 GHz,GPU使用GeForce 9800 GTX+,內(nèi)存為2 GB。測試時,顯示設(shè)置的垂直同步要關(guān)閉。
測試時設(shè)置紋理圖像的長和寬都是512,CUDA的線程塊為1 024,每個線程塊內(nèi)的線程數(shù)為256,在OpenGL的顯示回調(diào)函數(shù)里統(tǒng)計f/s(刷新率),結(jié)果如表1所示。
從實驗結(jié)果可以看出,CUDA與OpenGL結(jié)合的方式效果顯著,顯示速度比不使用CUDA提高了7~8倍。
CUDA是一種較新的方便使用GPU進(jìn)行通用計算的架構(gòu),OpenGL是圖形處理的工業(yè)標(biāo)準(zhǔn)。兩者的互操作充分利用了GPU的特點,因而顯得非常自然和合理,實驗驗證了兩者配合使用的效果。該方式為高性能圖形圖像顯示及科學(xué)計算可視化提供了良好的模式架構(gòu)。