基于Virtex 6的PCI Express高速采集卡方案設(shè)計(jì)

隨著計(jì)算機(jī)技術(shù)的發(fā)展，以及大數(shù)據(jù)量交互的需要，硬件系統(tǒng)對(duì)PC總線傳輸速率、數(shù)據(jù)完整性提出了越來(lái)越高的應(yīng)用要求。傳統(tǒng)的PCI總線技術(shù)雖然經(jīng)過(guò)不斷的改進(jìn)，開(kāi)發(fā)出64b,66MHz的并行協(xié)議PCI-X標(biāo)準(zhǔn)，但由于并行總線整體設(shè)計(jì)難度以及造價(jià)高昂，主流的PCI技術(shù)已經(jīng)成為限制數(shù)據(jù)傳輸系統(tǒng)性能發(fā)揮的瓶頸[1-2].因此，第3代I/O技術(shù)PCIExpress總線標(biāo)準(zhǔn)一經(jīng)推出即成為取代PCI總線的下一代標(biāo)準(zhǔn)，并得到迅速的發(fā)展。

PCIExpress總線利用串行的連接特點(diǎn)能輕松的將數(shù)據(jù)整體傳輸速度提到一個(gè)更高的頻率，達(dá)到遠(yuǎn)遠(yuǎn)超出以往PC總線的傳輸速度，同時(shí)保證了數(shù)據(jù)的完整性[2].PCIExpress連接采用點(diǎn)對(duì)點(diǎn)差分傳輸，可以被配置成最高x32的數(shù)據(jù)帶寬，其中PCIExpressGen2.0標(biāo)準(zhǔn)的x1通道傳輸能力達(dá)到單向5Gb/s.PCIExpress總線設(shè)備可以通過(guò)主機(jī)橋接器芯片進(jìn)行基于主機(jī)的傳輸，也可以通過(guò)交換器進(jìn)行多點(diǎn)傳輸，這極大的拓展了PC總線的開(kāi)發(fā)靈活性。Xilinx公司的Virtex-6系列FPGA芯片內(nèi)嵌了PCIExpress協(xié)議硬核，支持x1,x2,x4和x8通道傳輸，為實(shí)現(xiàn)PCIExpress總線解決方案單片集成提供了可能[3].

本文在研究PCIExpress協(xié)議標(biāo)準(zhǔn)及其接口技術(shù)的基礎(chǔ)上，設(shè)計(jì)了基于Virtex-6FPGA芯片的PCIExpress高速數(shù)據(jù)采集卡，實(shí)現(xiàn)了外部系統(tǒng)與PC的數(shù)據(jù)交互。

1系統(tǒng)總體設(shè)計(jì)

PCIExpress采集系統(tǒng)組成框圖如圖1所示。

圖1系統(tǒng)整體框圖

采集系統(tǒng)以FPGA作為采集卡的控制核心，外部數(shù)據(jù)經(jīng)數(shù)據(jù)接口傳入FPGA,FPGA通過(guò)內(nèi)部邏輯對(duì)高速數(shù)據(jù)進(jìn)行必要的時(shí)序控制和相關(guān)處理后將數(shù)據(jù)存儲(chǔ)到片外的SDRAM進(jìn)行緩存，然后采集卡在總線主控DMA控制器的控制下，通過(guò)PCIEx8通道將緩存的數(shù)據(jù)寫(xiě)入計(jì)算機(jī)內(nèi)存[4].上位機(jī)由驅(qū)動(dòng)軟件識(shí)別PCI Express采集卡，并設(shè)置DMA控制寄存器，通過(guò)上層應(yīng)用軟件接收硬件電路發(fā)送到內(nèi)存的數(shù)據(jù)，并在每次傳輸結(jié)束是處理中斷。采用DMA模式傳輸實(shí)現(xiàn)了在實(shí)時(shí)數(shù)據(jù)高速采集的同時(shí)，不影響上位機(jī)對(duì)數(shù)據(jù)的處理工作，不僅提高了采集系統(tǒng)整體的采集速度，也保證了數(shù)據(jù)質(zhì)量，以及測(cè)試分析完整性。

數(shù)據(jù)接口模塊完成外部數(shù)據(jù)的差分接收，這有利于保證高速數(shù)據(jù)的傳輸質(zhì)量。Virtex-6FPGA實(shí)時(shí)接收差分信號(hào)，并在DataProcessor模塊中進(jìn)行解碼然后根據(jù)一定時(shí)序通過(guò)高速FIFO緩存送入外部SDRAM存儲(chǔ)模塊。PCIExpressIPCore為Virtex-6FPGA內(nèi)部集成協(xié)議硬核，完成數(shù)據(jù)的分層打包，DMA控制器作為PCIExpress總線傳輸?shù)闹骺?，?shí)現(xiàn)了DMA方式傳輸。

2采集卡硬件設(shè)計(jì)

2.1基于IPCore的PCIExpress接口設(shè)計(jì)

本采集卡采用Xilinx公司的Virtex-6系列FPGA芯片作為核心控制器。該款FPGA中內(nèi)置了PCIExpress集成模塊和RocketIOGTP收發(fā)器，提供了符合《PCIExpress基本規(guī)范v2.0》的PCI-E解決方案，單通道最高設(shè)計(jì)速度[5]達(dá)到5Gb/s.根據(jù)PCI-E總線的分層模型，Virtex-6集成端點(diǎn)模塊提供事務(wù)層（TL）、數(shù)據(jù)鏈路層（DLL）、物理層（PHYMAC）以及配置空間所具有的全部功能。通過(guò)使用Xilinx公司提供的PCIExpress LogiCOREIPEndpointBlockPlus核，可實(shí)現(xiàn)符合PCI-E總線協(xié)議的數(shù)據(jù)傳輸[6].EndpointBlock Plus核在內(nèi)部例化了Virtex-6集成端點(diǎn)模塊，實(shí)現(xiàn)了集成端點(diǎn)模塊和GTP收發(fā)器之間的數(shù)據(jù)傳輸。集成硬核頂層模塊接口組成如圖2所示。

Xilinx公司所提供的PCIExpress解決方案，遵守了PCIE分層協(xié)議標(biāo)準(zhǔn)，從完成對(duì)接收的數(shù)據(jù)進(jìn)行分層打包，通過(guò)PCIE接口與計(jì)算機(jī)通信。分層傳輸過(guò)程如圖3所示。

其中處理層主要是接受從軟件層送來(lái)的讀寫(xiě)請(qǐng)求，并且建立一個(gè)請(qǐng)求包傳輸?shù)綌?shù)據(jù)鏈路層。作為事務(wù)層和物理層之間的接口，數(shù)據(jù)鏈路層通過(guò)維護(hù)鏈路活躍狀態(tài)信息、流控制初始化和流控制來(lái)確保數(shù)據(jù)的完整性、數(shù)據(jù)包的有序性和數(shù)據(jù)傳輸?shù)目煽啃?。物理層位于PCIE結(jié)構(gòu)的最底層，主要實(shí)現(xiàn)鏈路的建立、通路的分配、時(shí)鐘的編碼和并行數(shù)據(jù)與串行數(shù)據(jù)的之間的轉(zhuǎn)換。

在初始化階段，在無(wú)需固件或操作系統(tǒng)軟件的介入下，物理層建立狀況狀態(tài)機(jī)通過(guò)檢測(cè)、配置和輪詢(xún)來(lái)協(xié)商可用的通道數(shù)目和雙方的工作頻率。

圖2集成硬核頂層模塊接口組成框圖

圖3PCIExpress分層傳輸過(guò)程

2.2高速傳輸實(shí)現(xiàn)

作為采集卡數(shù)據(jù)傳輸主控，F(xiàn)PGA內(nèi)部實(shí)現(xiàn)了高速數(shù)據(jù)傳輸DMA控制操作。為了接收上位機(jī)發(fā)出的DMA控制命令，系統(tǒng)首先必須分配一定大小的FPGA內(nèi)部BlockRAM用作DMA控制寄存器，在驅(qū)動(dòng)程序的映射下，該BlockRAM在采集卡插入系統(tǒng)是會(huì)被映射到主機(jī)內(nèi)存空間，于是主機(jī)只需訪問(wèn)映射好的內(nèi)存空間即可實(shí)現(xiàn)對(duì)FPGA內(nèi)部控制寄存器的訪問(wèn)。

當(dāng)系統(tǒng)啟動(dòng)傳輸時(shí)，上位機(jī)首先將DMA傳輸?shù)哪康牡刂穼?xiě)入相應(yīng)的DMA控制寄存器。在接收到采集命令后，采集卡開(kāi)始接收外部數(shù)據(jù)，并對(duì)數(shù)據(jù)進(jìn)行解碼、整形，按順序?qū)?shù)據(jù)依次通過(guò)高速FIFO送入外部SDRAM進(jìn)行緩存。當(dāng)SDRAM數(shù)據(jù)有效后，通過(guò)觸發(fā)信號(hào)啟動(dòng)DMA傳輸，DMA控制器將申請(qǐng)從SDRAM中將數(shù)據(jù)寫(xiě)入到數(shù)據(jù)發(fā)送FIFO,由發(fā)送模塊將發(fā)送數(shù)據(jù)FIFO中的數(shù)據(jù)按照EndpointBlockPlus核的事務(wù)（TRN）接口的格式提交給IP核，由IP核按照PCIExpress總線規(guī)范將數(shù)據(jù)傳至FPGA的GTP收發(fā)器，GTP收發(fā)器直接連接了PCI-E的差分?jǐn)?shù)據(jù)傳輸對(duì)，于是通過(guò)PCI-Ex8通道將數(shù)據(jù)以DMA方式直接存入主機(jī)物理內(nèi)存中[5,7-8].當(dāng)存完一個(gè)數(shù)據(jù)包后發(fā)出中斷消息通知主機(jī)上層應(yīng)用程序處理數(shù)據(jù)以及將物理內(nèi)存中的數(shù)據(jù)轉(zhuǎn)存至硬盤(pán)，之后即進(jìn)入下一個(gè)數(shù)據(jù)包的傳輸，如此反復(fù)，直到收到主機(jī)的停止DMA傳輸命令，即完成當(dāng)前幀的采集和傳輸并停止下一幀的采集和傳輸。

3PCIExpress采集卡驅(qū)動(dòng)設(shè)計(jì)

本系統(tǒng)驅(qū)動(dòng)程序在WindowsXP操作系統(tǒng)下，應(yīng)用微軟公司的DriverStudio平臺(tái)進(jìn)行開(kāi)發(fā)。DriverStudio平臺(tái)提供了驅(qū)動(dòng)程序開(kāi)發(fā)所需的WDM（Windows DriverMode,Windows驅(qū)動(dòng)程序模型），包括VtoolsD、DriverWorks、DriverNetWorks和SoftICE等開(kāi)發(fā)工具，應(yīng)用該平臺(tái)開(kāi)發(fā)降低了驅(qū)動(dòng)程序開(kāi)發(fā)的難度，同時(shí)了提高了代碼的可靠性[9].

3.1硬件驅(qū)動(dòng)驅(qū)動(dòng)程序

對(duì)外部硬件的訪問(wèn)是通過(guò)DriverWorks提供的2個(gè)類(lèi)來(lái)實(shí)現(xiàn)的，其中，KioRang類(lèi)實(shí)現(xiàn)對(duì)I/O映射芯片的訪問(wèn)，KMemoryRang類(lèi)實(shí)現(xiàn)對(duì)內(nèi)存映射芯片的訪問(wèn)。本系統(tǒng)選擇了KMemoryRang完成PCI Express硬件的訪問(wèn)，主要調(diào)用函數(shù)如表1所示。

表1

KMemoryRang類(lèi)主要函數(shù)初始化KMemoryRang類(lèi)的操作是在驅(qū)動(dòng)程序啟動(dòng)例程中執(zhí)行的，主要執(zhí)行程序如下：NTSTATUSPCIeDevice（KIrpI）

{…

PCM_RESOURCE_LIST pResListRaw=I.AllocatedResources（）；PCM_RESOURCE_LIST pResListTranslated=I.TranslatedResources（）；m_MemoryRange.Initialize（pResListTranslated,pResListRaw,0）；…

}當(dāng)驅(qū)動(dòng)程序完成初始化時(shí)，應(yīng)用端軟件將通過(guò)inb（）和outb（）等函數(shù)對(duì)外部硬件電路進(jìn)行訪問(wèn)，讀寫(xiě)數(shù)據(jù)。

3.2DMA傳輸實(shí)現(xiàn)

采用DMA傳輸能極大的減輕主機(jī)處理負(fù)擔(dān)，特別適用于大數(shù)據(jù)量處理系統(tǒng)。采用DriverWorks提供的KDmaAdapter類(lèi)可輕松建立一個(gè)DMA傳輸鏈路，實(shí)現(xiàn)DMA讀寫(xiě)操作。用于FPGA總線協(xié)議模塊軟件層完成了相關(guān)DMA傳輸?shù)目刂?，所以?qū)動(dòng)程序DMA傳輸只需子在系統(tǒng)啟動(dòng)DMA傳輸時(shí)，身心相應(yīng)的內(nèi)存作為公共緩沖區(qū)，用于外部DMA控制器存入數(shù)據(jù)文件，這里需要調(diào)用DriverWorks提供的KCommonDmaBuffer類(lèi)[10],該類(lèi)常用函數(shù)如表2所示。

VirtaulAddress（）函數(shù)返回的內(nèi)核模式地址是提供給驅(qū)動(dòng)程序讀寫(xiě)公用緩沖區(qū)用的，而進(jìn)行DMA傳輸時(shí)需要用到緩沖區(qū)的物理地址，也即需要寫(xiě)入DMA參數(shù)寄存器的是緩沖區(qū)的物理地址。

3.3總線中斷處理

采集卡一共需要處理三種中斷請(qǐng)求，分別是DMA寫(xiě)完成，DMA讀完成和錯(cuò)誤中斷請(qǐng)求。在Driver-Works平臺(tái)中，KInterrupt類(lèi)可用于處理硬件中斷，其主要函數(shù)包括中斷寄存器初始化，中斷連接函數(shù)，實(shí)現(xiàn)了將一個(gè)中斷服務(wù)例程連接到一個(gè)中斷和解除其連接等。

表2KCommonDmaBuffer類(lèi)主要函數(shù)中斷處理函數(shù)首先在驅(qū)動(dòng)程序構(gòu)造的函數(shù)中調(diào)用MEMBER_ISR（class_name,fuction_name），聲明中斷服務(wù)例程為該類(lèi)的一個(gè)成員函數(shù)，接著在驅(qū)動(dòng)程序驅(qū)動(dòng)例程中調(diào)用InitializeAndConnect（），初始化中斷類(lèi)實(shí)例，并與中斷服務(wù)例程連接起來(lái)。

這樣就完成了對(duì)外部硬件中斷的處理，當(dāng)每次驅(qū)動(dòng)程序檢測(cè)到硬件產(chǎn)生中斷脈沖時(shí)，中斷服務(wù)函數(shù)隨即被調(diào)用，從而轉(zhuǎn)入相應(yīng)中斷處理程序中執(zhí)行。

4采集卡性能測(cè)試

為測(cè)試采集系統(tǒng)性能，自行設(shè)計(jì)了應(yīng)用軟件對(duì)采集卡數(shù)據(jù)傳輸速率進(jìn)行統(tǒng)計(jì)，在Windows環(huán)境下，采用多種數(shù)據(jù)量進(jìn)行DMA方式讀寫(xiě)。應(yīng)用端軟件根據(jù)數(shù)設(shè)定的數(shù)據(jù)包大小，申請(qǐng)不同的內(nèi)存空間，并將虛擬地址映射到FPGA的DMA寄存器。實(shí)際測(cè)試采集速率結(jié)果如圖4所示。

圖4實(shí)際測(cè)試數(shù)據(jù)采集速率

根據(jù)圖4的測(cè)試結(jié)果，總線DMA傳輸速率與數(shù)據(jù)塊大小相關(guān)。當(dāng)設(shè)定系統(tǒng)數(shù)據(jù)塊（即開(kāi)辟的主機(jī)內(nèi)存）大于32Mb時(shí)，采集卡的采集速率穩(wěn)定在5.6Gb/s.實(shí)驗(yàn)結(jié)果表明，該系統(tǒng)大幅度地提高了數(shù)據(jù)交互速度，發(fā)揮了PCIExpress總線的優(yōu)越性能。

5結(jié)語(yǔ)

本文應(yīng)用Xilinx公司的Virtex-6芯片設(shè)計(jì)了PCI Express高速采集卡，通過(guò)調(diào)用FPGA內(nèi)部的PCIE集成協(xié)議硬核，配合總線DMA控制器，能夠快速可靠地采集外部差分?jǐn)?shù)據(jù)，具有解碼、整形，高速采集存儲(chǔ)的功能，是大數(shù)據(jù)量交互的有效解決方案。