一種實時數(shù)據(jù)采集與存儲系統(tǒng)的實現(xiàn)方法
1 引言
隨著信息科學的飛速發(fā)展,數(shù)據(jù)采集和存儲技術已經(jīng)是數(shù)字信號處理中非常重要的環(huán)節(jié),將決定整個系統(tǒng)的性能。它廣泛應用于雷達,通信,遙測遙感等領域。它己經(jīng)成為人們獲得外界信息的重要手段。基于總線的數(shù)據(jù)采集與存儲系統(tǒng),由于可靠且易于實現(xiàn)、經(jīng)濟等優(yōu)點,得到了廣泛的應用。但當數(shù)據(jù)傳輸率很高時,保持高速數(shù)據(jù)存儲過程的可靠性、實時性將會成為一個比較棘手的問題。為此一些廠商提供了雙總線技術、64位/66MHzPCI總線系統(tǒng)來解決這問題。但這些技術較為昂貴,且忽略了現(xiàn)有的硬件設備。經(jīng)過實驗與探索,我們選用ADLINK公司的PCI-7300A_RevB超高速數(shù)字I/O卡,利用現(xiàn)有的單(32位/33MHz)PCI總線的計算機系統(tǒng)構成低成本的硬件平臺,并利用自己開發(fā)的軟件系統(tǒng),最終實現(xiàn)了高速(45Mbytes/sec)持續(xù)的數(shù)據(jù)采集于存儲。
2 硬件組成及注意事項
為了利用現(xiàn)有的硬件設備,降低成本;我們采用ADLINK公司出品的PCI-7300A_RevB超高速數(shù)字I/O卡作為數(shù)據(jù)采集部分。該卡的主要特性如下:
·32位數(shù)字I/O通道
·32位PCI總線
·通過觸發(fā)信號控制數(shù)據(jù)采集操作的開始。
·100針SCSI型連接器
·分散/聚攏方式的DMA
·最高傳輸速率80Mbytes/sec
要實現(xiàn)實時高速的數(shù)據(jù)存儲,使用的一般的硬盤是不行的。所以我們選用希捷公司出品的型號為ST3146707LC的SCSI硬盤,該硬盤的容量是146GB,能滿足記錄大量數(shù)據(jù)的需要,其轉(zhuǎn)速為10Krpm。相應的SCSI硬盤控制器,選用Adaptec公司出品的型號為Adaptec19160的Ultra160-SCSI硬盤控制器。
在搭建硬件平臺的過程中有些問題是必須注意的,否則系統(tǒng)不能正常工作。首先,PCI-7300A_RevB卡雖然采用分散/聚攏方式的DMA,但它對CPU資源的占用率是非常高的。經(jīng)過實驗證明,要保證整個數(shù)據(jù)采集與存儲系統(tǒng)正常工作,只能使用奔四1.7G以上的計算機系統(tǒng)。其次,Windows系統(tǒng)允許多個設備共享一個中斷請求號(IRQ)。為了保證存儲過程的實時性,必須確保SCSI硬盤控制器和PCI-7300A_RevB卡使用不同的IRQ??梢栽谥靼錌IOS里把Pnp(即插即用)/PCI設備的IRQ進行手動配置。最后Windows2000ServicePack2(SP2)及早期版本不支持大于137GB容量的硬盤。須要先安裝ServicePack3,再在注冊表(HKEY_LOCAL_MACHINESYSTEMCurrentControlSetServicesAtapiParameters)里添加一個REG_DWORD類型的參數(shù)EnableBigLba,并把值設成0x1。這樣146GB的硬盤才能工作正常。
3 軟件設計
軟件設計直接決定硬件是否能正常工作,以及能否充分發(fā)揮硬件的性能。
3.1 PCIS-DASK及雙緩沖區(qū)模式的工作原理
PCIS-DASK是ADLINK公司為自己的產(chǎn)品提供的驅(qū)動程序包,提供了專門用于實現(xiàn)高速數(shù)據(jù)采集的連續(xù)多緩沖區(qū)操作的一組API函數(shù)。通過這組API函數(shù),我們可以按照雙緩沖區(qū)的原理,非常方便地實現(xiàn)對數(shù)據(jù)的實時、高速、連續(xù)的采集與存儲。
雙緩沖區(qū)模式,在工程上稱為“乒乓”緩沖區(qū)模式。跟常用的單緩沖區(qū)模式相比雙緩沖區(qū)模式的優(yōu)點是,它可以使用較小容量的內(nèi)存,不間斷地緩沖幾乎無限量的數(shù)據(jù)(輸入與輸出端需協(xié)同工作)。這種緩沖區(qū)模式的工作原理是:在內(nèi)存里開辟兩塊容量相等的緩沖區(qū)(以下將分別它們稱為第一緩沖區(qū)和第二緩沖區(qū))作為連續(xù)數(shù)據(jù)輸入的緩沖區(qū)。工作開始時,數(shù)據(jù)采集卡首先將數(shù)據(jù)寫入第一緩沖區(qū)中,在數(shù)據(jù)采集卡開始把數(shù)據(jù)寫入第二緩沖區(qū)的同時,用戶程序可以根據(jù)自身需要取出第一緩沖區(qū)中的數(shù)據(jù)做特定的處理。當?shù)诙彌_區(qū)被寫滿后,數(shù)據(jù)采集卡回到第一緩沖區(qū)的起始處,以覆蓋舊數(shù)據(jù)的方式,把新數(shù)據(jù)寫入第一緩沖區(qū)中;與此同時用戶程序取出第二緩沖區(qū)中的數(shù)據(jù)。整個數(shù)據(jù)采集處理過程可以如此不斷地循環(huán)進行下去。
3.2 板卡驅(qū)動設置及注意的問題
對板卡驅(qū)動的深刻理解是編寫好數(shù)據(jù)采集于存儲程序的前提。在連續(xù)數(shù)據(jù)輸入模式下,板卡驅(qū)動程序需要在系統(tǒng)內(nèi)存里開辟一塊緩沖區(qū)做為二級緩存,用戶可以設置該緩沖區(qū)的大小。方法是:從菜單開始/程序/PCI-DASK/NuDAQPCIconfigurationUtility打開DASK2000DeviceDriverConfiguration對話框,從CardType組合框中選擇Pci7300A_RevB項,在DI欄輸入你想要開辟的緩沖區(qū)容量,點擊OK按鈕完成設置。需要注意的是板卡驅(qū)動設置的緩沖區(qū)(簡稱驅(qū)動緩沖區(qū))容量與用戶程序開辟的緩沖區(qū)(用戶緩沖區(qū))容量存在著一定關系。經(jīng)過我們多次實驗,得出驅(qū)動緩沖區(qū)容量大約是用戶緩沖區(qū)的3倍;因此,當驅(qū)動緩沖區(qū)過小,而用戶緩沖區(qū)較大時,會出現(xiàn)錯誤。
過小,而用戶緩沖區(qū)較大時,會出現(xiàn)錯誤。
3.3 VisualC++開發(fā)環(huán)境的設置
為了使用PCIS-DASK提供的實現(xiàn)連續(xù)多緩沖區(qū)操作的API函數(shù),以及初始化板卡、設置板卡工作方式的API函數(shù);需要VisualC++連接PCI-DASK提供的動態(tài)連接庫(Pci-dask.lib)。具體方法是:打開工程,從菜單Project/Setting…打開ProjectSetting對話框,切換到Link選項卡,在Object/librarymodules攔中添加Pci-dask.lib,點擊OK按鈕完成設置。最后在工程中加入頭文件Dask.h.。[!--empirenews.page--]
3.4 多線程的實時數(shù)據(jù)存儲軟件設計
在要求高速、實時和連續(xù)采集和存儲的情況下,一方面要求系統(tǒng)不間斷地進行數(shù)據(jù)采集,同時還要進行數(shù)據(jù)實時地存儲,否則將會丟失數(shù)據(jù),造成數(shù)據(jù)不完整。為了解決這個問題,我們在軟件實現(xiàn)中,引入了Windows的多任務處理技術(multitasking)。在程序里創(chuàng)建兩個工作線程分別完成數(shù)據(jù)采集和數(shù)據(jù)存儲工作。緩沖方式采用上面所說雙緩沖區(qū)模式,當數(shù)據(jù)采集線程(SampleThreadProc)把采集到的數(shù)據(jù)寫入第一緩沖區(qū)時,數(shù)據(jù)存儲線程(StorageThreadProc)把第二緩沖區(qū)的數(shù)據(jù)存入SCSI硬盤;當數(shù)據(jù)采集線程把數(shù)據(jù)寫入第二緩沖區(qū)時,數(shù)據(jù)存儲線程把第一緩沖區(qū)的數(shù)據(jù)存入SCSI硬盤;如此循環(huán)。另外通過實際實驗測試Adaptec19160Ultra160-SCSI硬盤控制器,配合希捷公司出品的ST3146707LCSCSI硬盤,持續(xù)寫入速率能達到80Mbytes/sec。遠大于45Mbytes/sec的采集速率。所以當數(shù)據(jù)采集線程寫滿其中一個緩沖區(qū)之前,數(shù)據(jù)存儲線程已經(jīng)把另一個緩沖區(qū)里的數(shù)據(jù)存儲入SCSI硬盤。所以這種方法能保證數(shù)據(jù)的實時性、完整性和連續(xù)性。其程序流程圖如圖1。 [!--empirenews.page--] 3.5 軟件實現(xiàn) 由于篇幅所限,下面僅給出程序中核心的代碼:
4 性能評估 為了驗證該系統(tǒng)的性能,我們對其所能達到的采集和存儲速率、以及數(shù)據(jù)正確率進行了測試和分析。 在測試中我們使用了自己設計的數(shù)據(jù)源,它能以任意速率發(fā)送32位的線性數(shù)字信號。另外編寫了一個數(shù)據(jù)檢測程序,可給出存儲的數(shù)據(jù)的正確率和顯示數(shù)據(jù)錯誤的地方。經(jīng)過長時間的測試,得到結果是:數(shù)據(jù)源發(fā)送速率為45Mbytes/sec時,存儲的數(shù)據(jù)能達到100%的正確率。當數(shù)據(jù)源發(fā)送速率為50Mbytes/sec時,數(shù)據(jù)有錯誤。 經(jīng)分析原因出在數(shù)據(jù)采集過程,當有很多位發(fā)生進位時(如FFFFFFFF→00000000)采集卡不能正確地采樣數(shù)據(jù)。實際上經(jīng)過特殊處理后,這樣的數(shù)據(jù)還是可以使用的。 計算機32位/33MHzPCI總線帶寬典型的輸出數(shù)據(jù)吞吐量為100Mbytes/sec,輸入數(shù)據(jù)吞吐量為120Mbytes/sec,而系統(tǒng)中其他的PCI設備也需要占用一定的帶寬,并且數(shù)據(jù)采集和存儲過程都要占用PCI總線帶寬;因此,45Mbytes/sec(100%正確率)的采集和存儲速率已經(jīng)接近系統(tǒng)和硬件的極限。 5 結語 本文介紹的實現(xiàn)方法易于實現(xiàn),且充分挖掘了硬件的性能,可滿足對數(shù)據(jù)采集與實時存儲速率要求較高(≤45Mbytes/sec)的應用。由于使用的硬件平臺是普通的奔四級PC機,所以開發(fā)成本較低。另外文中對實現(xiàn)過程中應注意的問題作了詳細說明并給出核心編程部分,使讀者很容易在較短時間內(nèi)開發(fā)出滿足自己需要的系統(tǒng)。