多線程技術(shù)在數(shù)據(jù)實(shí)時(shí)采集分析中的應(yīng)用

數(shù)字接口設(shè)備是實(shí)現(xiàn)標(biāo)準(zhǔn)422串行總線到自定義串行總線轉(zhuǎn)換的專用通信設(shè)備。數(shù)字接口測(cè)試系統(tǒng)根據(jù)數(shù)字接口設(shè)備的工作原理，輸出422串行數(shù)據(jù)和自定義串行總線的控制信號(hào)（YCK,YZM）給數(shù)字接口設(shè)備，并對(duì)其輸出的串行數(shù)據(jù)（YDATA）進(jìn)行采集、存儲(chǔ)、分析和處理，從而達(dá)到對(duì)被測(cè)設(shè)備進(jìn)行檢測(cè)的目的。本數(shù)字接口測(cè)試系統(tǒng)共提供了八個(gè)測(cè)試通道，每個(gè)通道的422串行總線和自定義串行總線的相關(guān)參數(shù)都可由測(cè)試人員通過(guò)應(yīng)用軟件進(jìn)行設(shè)置。為方便對(duì)數(shù)據(jù)進(jìn)行分析，同時(shí)在軟件上約定了發(fā)送的數(shù)據(jù)格式為：AA xx 01 23 45 67 89 AB CD EF 01 23… 10，其中幀頭為0xAA，幀尾為0x10，xx為發(fā)送計(jì)數(shù)器值，每發(fā)送一次依次加1。應(yīng)用軟件通過(guò)相應(yīng)的算法對(duì)自定義串行總線接收數(shù)據(jù)進(jìn)行實(shí)時(shí)分析和處理，如：已經(jīng)接收的字節(jié)數(shù)，共接收了多少幀數(shù)據(jù)，共出錯(cuò)有多少字節(jié)……并將結(jié)果在測(cè)試界面上動(dòng)態(tài)顯示，測(cè)試人員可以根據(jù)這些實(shí)時(shí)的測(cè)試結(jié)果來(lái)判斷被測(cè)設(shè)備是否正常工作，一旦發(fā)現(xiàn)測(cè)試數(shù)據(jù)誤碼率太高，即可馬上斷電停止測(cè)試，防止被測(cè)設(shè)備燒壞。

系統(tǒng)實(shí)現(xiàn)方案

數(shù)字接口測(cè)試系統(tǒng)原理框圖如圖1所示。測(cè)試設(shè)備通過(guò)USB2.0總線與操作控制計(jì)算機(jī)進(jìn)行連接，每臺(tái)測(cè)試設(shè)備提供了八個(gè)通道的數(shù)據(jù)發(fā)送和接收單元，其中數(shù)據(jù)發(fā)送單元用于輸出422異步串行數(shù)據(jù)，其波特率最高可達(dá)614.4 kbps，幀長(zhǎng)可根據(jù)測(cè)試要求進(jìn)行調(diào)整，每幀數(shù)據(jù)最高循環(huán)發(fā)送幀周期為5ms；數(shù)據(jù)接收單元用于產(chǎn)生自定義串行總線的控制信號(hào)YZM和YCK，并從YDATA讀回?cái)?shù)據(jù)，YCK和YZM最高分別可達(dá)1.6384MHz和25.6kHz。

由于測(cè)試過(guò)程中傳輸數(shù)據(jù)量大，且需要對(duì)采集回來(lái)的數(shù)據(jù)做實(shí)時(shí)分析，因此對(duì)數(shù)據(jù)的實(shí)時(shí)采集和分析采用多線程分別進(jìn)行處理。應(yīng)用軟件中主界面線程主要負(fù)責(zé)完成人機(jī)界面操作，同時(shí)分別打開(kāi)數(shù)據(jù)采集和數(shù)據(jù)分析兩個(gè)線程來(lái)同步協(xié)調(diào)工作，為保證數(shù)據(jù)采集和分析過(guò)程的連續(xù)和數(shù)據(jù)完整，兩個(gè)線程之間通過(guò)開(kāi)辟高速內(nèi)存緩沖區(qū)和內(nèi)存映射文件的方式來(lái)實(shí)現(xiàn)高速數(shù)據(jù)流的一、二級(jí)緩沖。其中一級(jí)緩沖區(qū)實(shí)現(xiàn)對(duì)USB總線上傳數(shù)據(jù)的緩存，用于實(shí)現(xiàn)接收的USB數(shù)據(jù)包按照各個(gè)通道進(jìn)行數(shù)據(jù)分解；二級(jí)緩沖則按照通道號(hào)將分解輸出的數(shù)據(jù)分別進(jìn)行暫存，用于數(shù)據(jù)分析線程實(shí)現(xiàn)數(shù)據(jù)分析處理。整個(gè)方案中，數(shù)據(jù)包的上傳、存儲(chǔ)、數(shù)據(jù)分解、數(shù)據(jù)分析等操作均是在內(nèi)存中完成，速度快，正確率高，再加上采用新的線程同步方法，既保證了數(shù)據(jù)采集線程高速數(shù)據(jù)吞吐量、數(shù)據(jù)分析線程的快速響應(yīng)和實(shí)時(shí)分析，又保證了整個(gè)方案較高的性能和最低的系統(tǒng)開(kāi)銷。數(shù)據(jù)緩存處理如圖2。

數(shù)據(jù)采集

為了實(shí)現(xiàn)USB返回?cái)?shù)據(jù)的保存，在內(nèi)存中構(gòu)建了一個(gè)12k的高速內(nèi)存緩沖區(qū)，12k的空間以512字節(jié)（一個(gè)USB數(shù)據(jù)包的大?。閱挝黄骄殖?4等份。多線程同步中常用信號(hào)量來(lái)控制訪問(wèn)某一共享資源的線程數(shù)，結(jié)合操作系統(tǒng)中生產(chǎn)者和消費(fèi)者的思想可采用擴(kuò)展信號(hào)量的方式來(lái)完成線程同步。數(shù)據(jù)采集線程操作時(shí)，12k高速緩沖區(qū)分別用讀寫兩個(gè)信號(hào)量作為狀態(tài)指示，對(duì)數(shù)據(jù)讀入和輸出進(jìn)行控制。寫信號(hào)量個(gè)數(shù)初始化為24個(gè)（表示有24個(gè)數(shù)據(jù)區(qū)間可寫入），讀信號(hào)量個(gè)數(shù)初始化為0個(gè)（表示有0個(gè)空間有數(shù)據(jù)需要讀出），數(shù)據(jù)采集線程等效為生產(chǎn)者，數(shù)據(jù)分析線程等效為消費(fèi)者。如圖3所示。USB接口每返回一包數(shù)據(jù)，首先判斷寫信號(hào)量個(gè)數(shù)，為零則線程阻塞等待，不為零則實(shí)現(xiàn)數(shù)據(jù)寫入操作，將USB數(shù)據(jù)包內(nèi)容存入當(dāng)前生產(chǎn)者指針(pWriteIndex)所指向地址的后512字節(jié)緩沖區(qū)中，完成后生產(chǎn)者指針加512，寫信號(hào)量減1，讀信號(hào)量加1，這是生產(chǎn)的過(guò)程。當(dāng)線程切換到數(shù)據(jù)分析線程后開(kāi)始消費(fèi)（對(duì)采集回來(lái)的數(shù)據(jù)包分解處理），首先判斷讀信號(hào)量個(gè)數(shù)，為零（沒(méi)有可消費(fèi)的）則線程阻塞等待，不為零則由消費(fèi)者指針(pReadIndex)來(lái)控制讀取一包數(shù)據(jù)。一包數(shù)據(jù)讀取完畢后消費(fèi)者指針加512，讀信號(hào)量減1，寫信號(hào)量加1。由以上分析可知，整個(gè)12k的緩沖區(qū)在讀寫兩個(gè)信號(hào)量的協(xié)調(diào)工作下不僅實(shí)現(xiàn)了數(shù)據(jù)采集和數(shù)據(jù)分析線程的同步，并且通過(guò)互鎖機(jī)制保證了生產(chǎn)者指針和消費(fèi)者指針不會(huì)指向同一塊內(nèi)存區(qū)域，使整個(gè)系統(tǒng)的可靠性得到顯著提高。

數(shù)據(jù)分析

由于數(shù)字接口測(cè)試設(shè)備八個(gè)通道可同時(shí)工作，為了區(qū)別USB總線上傳的數(shù)據(jù)包中的數(shù)據(jù)分別對(duì)應(yīng)哪一個(gè)通道的數(shù)據(jù)，并滿足數(shù)據(jù)傳輸?shù)膶?shí)時(shí)性要求，每個(gè)通道以64字節(jié)為單位將測(cè)試數(shù)據(jù)送入U(xiǎn)SB接口的內(nèi)部緩沖區(qū)，其第一個(gè)字節(jié)用于標(biāo)識(shí)隨后63字節(jié)是哪一個(gè)通道的數(shù)據(jù)，分別用01，02……07,08進(jìn)行標(biāo)識(shí)。當(dāng)USB接口的內(nèi)部緩沖區(qū)填滿512字節(jié)后即通過(guò)USB總線上傳到計(jì)算機(jī)內(nèi)存中的高速緩沖區(qū)。所以在數(shù)據(jù)分析時(shí)首先需要從USB數(shù)據(jù)包中提取每個(gè)通道回傳的測(cè)試數(shù)據(jù)，然后與標(biāo)準(zhǔn)格式數(shù)據(jù)進(jìn)行對(duì)比分析?？梢?jiàn)若在長(zhǎng)時(shí)間測(cè)試時(shí)，數(shù)據(jù)分析線程數(shù)據(jù)處理量大，任務(wù)繁重。為保證整個(gè)系統(tǒng)的實(shí)時(shí)性和數(shù)據(jù)分析準(zhǔn)確性，測(cè)試接收回來(lái)的數(shù)據(jù)按照通道號(hào)不同分別保存在不同的內(nèi)存映射文件中。

數(shù)據(jù)分析線程在讀信號(hào)量和消費(fèi)者指針的控制下成功讀取一包數(shù)據(jù)后，根據(jù)通道標(biāo)示號(hào)提取此包中每個(gè)通道的數(shù)據(jù)，寫入對(duì)應(yīng)的內(nèi)存映射文件中，再調(diào)用數(shù)據(jù)處理函數(shù)對(duì)每個(gè)通道數(shù)據(jù)做誤碼分析。誤碼分析的結(jié)果可由主界面線程調(diào)用顯示。數(shù)據(jù)分解流程如圖4所示。

為了保證測(cè)試效率和數(shù)據(jù)處理的正確性，pWriteCounter既用于控制內(nèi)存映射文件寫入數(shù)據(jù)指針的移動(dòng)，也用于判斷已接收的數(shù)據(jù)字節(jié)數(shù)，作為數(shù)據(jù)處理時(shí)讀內(nèi)存映射文件指針的參考和是否開(kāi)始對(duì)數(shù)據(jù)進(jìn)行分析的條件。數(shù)據(jù)處理時(shí)，并不是內(nèi)存映射文件中寫入數(shù)據(jù)后就馬上開(kāi)始分析，而是根據(jù)pWriteCounter確定已接收的數(shù)據(jù)字節(jié)數(shù)，直到接收回來(lái)大于一個(gè)標(biāo)準(zhǔn)幀長(zhǎng)度的數(shù)據(jù)后才開(kāi)始對(duì)此幀數(shù)據(jù)的誤碼率分析，這樣既避免了多次分析一幀數(shù)據(jù)，又保證了數(shù)據(jù)分析的正確性，而且減少了數(shù)據(jù)分析線程獨(dú)占CPU的時(shí)間。從最終實(shí)際運(yùn)行結(jié)果來(lái)看，此方法有效解決了數(shù)據(jù)實(shí)時(shí)采集過(guò)程中掉數(shù)據(jù)的問(wèn)題。

數(shù)據(jù)經(jīng)分解寫入對(duì)應(yīng)通道內(nèi)存映射文件后，還需要實(shí)時(shí)地將每個(gè)通道接收回來(lái)的測(cè)試數(shù)據(jù)和標(biāo)準(zhǔn)數(shù)據(jù)進(jìn)行對(duì)比分析，并以誤碼率形式進(jìn)行顯示，測(cè)試人員根據(jù)實(shí)時(shí)變化的誤碼率即可監(jiān)測(cè)數(shù)字接口設(shè)備是否工作正常。數(shù)據(jù)分析處理流程如圖5所示。在實(shí)際使用中，數(shù)字接口設(shè)備可能出現(xiàn)的故障現(xiàn)象較多，采集接收回來(lái)的數(shù)據(jù)量相當(dāng)大且數(shù)據(jù)出錯(cuò)情況各不相同，不能誤判或漏掉任何一種情況，通過(guò)反復(fù)測(cè)試得出以下對(duì)固定格式數(shù)據(jù)處理的方法：

①?gòu)拿總€(gè)通道的內(nèi)存映射文件中逐個(gè)字節(jié)掃描幀頭0xAA，一旦檢測(cè)到幀頭0xAA，進(jìn)入第②步。

②首先判斷此幀數(shù)據(jù)的幀尾位置是否為0x10，以及幀尾的前一個(gè)數(shù)據(jù)和對(duì)應(yīng)的標(biāo)準(zhǔn)數(shù)據(jù)(標(biāo)準(zhǔn)數(shù)據(jù)幀尾的前一個(gè)數(shù))是否相同，若同時(shí)滿足這兩個(gè)條件，說(shuō)明此幀數(shù)據(jù)為標(biāo)準(zhǔn)幀(此幀數(shù)據(jù)長(zhǎng)度和發(fā)送的標(biāo)準(zhǔn)幀幀長(zhǎng)度相等)，若不滿足進(jìn)行第④步操作。

③判斷此幀為標(biāo)準(zhǔn)幀后，從此幀數(shù)據(jù)和標(biāo)準(zhǔn)數(shù)據(jù)的第二位開(kāi)始到幀尾一一進(jìn)行對(duì)比判斷（跳過(guò)第0個(gè)幀頭數(shù)據(jù)和第1個(gè)計(jì)數(shù)器數(shù)據(jù)），不相等則記錄出錯(cuò)，每發(fā)現(xiàn)一處錯(cuò)誤字節(jié)，錯(cuò)誤字節(jié)數(shù)加1。進(jìn)入第⑥步。

④從幀頭到幀長(zhǎng)度數(shù)據(jù)范圍內(nèi)查找是否出現(xiàn)0xAA，出現(xiàn)0xAA，首先用第②步操作判斷此0xAA是否為下一幀數(shù)據(jù)的幀頭，若是下一幀數(shù)據(jù)幀頭，記錄幀頭前一個(gè)字節(jié)為此幀幀尾位置，說(shuō)明此幀數(shù)據(jù)有掉數(shù)據(jù)現(xiàn)象，否則為錯(cuò)誤數(shù)據(jù)，調(diào)用非標(biāo)準(zhǔn)幀處理。

⑤從此幀數(shù)據(jù)和標(biāo)準(zhǔn)數(shù)據(jù)的第二位開(kāi)始到確定的該幀長(zhǎng)度范圍內(nèi)數(shù)據(jù)進(jìn)行一一對(duì)比判斷 (跳過(guò)第0個(gè)幀頭數(shù)據(jù)和第1個(gè)計(jì)數(shù)器數(shù)據(jù))，不相等則記錄出錯(cuò)，并判斷為錯(cuò)誤一個(gè)字節(jié)。

⑥檢查該幀中計(jì)數(shù)器數(shù)據(jù)與前后幀的計(jì)數(shù)器數(shù)據(jù)是否連續(xù)，如果連續(xù)則沒(méi)有幀出錯(cuò)，否則有掉幀現(xiàn)象出現(xiàn)，需要根據(jù)前后計(jì)數(shù)器數(shù)據(jù)確定掉幀的長(zhǎng)度，并轉(zhuǎn)化為對(duì)應(yīng)錯(cuò)誤字節(jié)數(shù)。

同時(shí)接上兩個(gè)被測(cè)設(shè)備驗(yàn)證整個(gè)系統(tǒng)的性能，即使每個(gè)通道均選擇工作在最高波特率614.4 kbps和最高循環(huán)發(fā)送幀周期5ms下，仍能保證數(shù)據(jù)采集實(shí)時(shí)高速、數(shù)據(jù)質(zhì)量穩(wěn)定且誤碼率低。

結(jié)束語(yǔ)

實(shí)時(shí)測(cè)試與結(jié)果顯示如圖6所示。該技術(shù)已經(jīng)成功應(yīng)用于某數(shù)字接口設(shè)備的檢測(cè)與維修系統(tǒng)，取得了良好的效果。經(jīng)大量測(cè)試驗(yàn)證，此種多線程、內(nèi)存映射文件和兩級(jí)緩沖的方法在高速實(shí)時(shí)數(shù)據(jù)采集和分析中效果很好。根據(jù)生產(chǎn)者和消費(fèi)者的思想建立的讀寫信號(hào)量有效地實(shí)現(xiàn)了采集和分析線程間的同步，內(nèi)存映射文件的大小在開(kāi)始測(cè)試前申請(qǐng)為100M，當(dāng)需要更長(zhǎng)時(shí)間測(cè)試時(shí)還可以動(dòng)態(tài)申請(qǐng)開(kāi)辟新的內(nèi)存空間，既保證了系統(tǒng)的實(shí)時(shí)性要求，又有效節(jié)約了系統(tǒng)內(nèi)存資源。