BP神經(jīng)網(wǎng)絡(luò)圖像壓縮算法乘累加單元的FPGA設(shè)計

0 引 言
    神經(jīng)網(wǎng)絡(luò)(Neural Networks)是人工神經(jīng)網(wǎng)絡(luò)(Ar-tificial Neural Networks)的簡稱，是當(dāng)前的研究熱點之一。人腦在接受視覺感官傳來的大量圖像信息后，能迅速做出反應(yīng)，并能在腦海中重現(xiàn)這些圖像信息，這不僅與人腦的海量信息存儲能力有關(guān)，還與人腦的信息處理能力，包括數(shù)據(jù)壓縮能力有關(guān)。在各種神經(jīng)網(wǎng)絡(luò)中，多層前饋神經(jīng)網(wǎng)絡(luò)具有很強的信息處理能力，由于其采用BP算法，因此也稱為BP神經(jīng)網(wǎng)絡(luò)。采用BP神經(jīng)網(wǎng)絡(luò)模型能完成圖像數(shù)據(jù)的壓縮處理。在圖像壓縮中，神經(jīng)網(wǎng)絡(luò)的處理優(yōu)勢在于：巨量并行性；信息處理和存儲單元結(jié)合在一起；自組織自學(xué)習(xí)功能。
    與傳統(tǒng)的數(shù)字信號處理器DSP(Digital Signal Processor)相比，現(xiàn)場可編程門陣列(Field Programma-ble Gate Array，F(xiàn)PGA)在神經(jīng)網(wǎng)絡(luò)的實現(xiàn)上更具優(yōu)勢。DSP處理器在處理時采用指令順序執(zhí)行的方式，而且其數(shù)據(jù)位寬是固定的，因而資源的利用率不高，限制了處理器的數(shù)據(jù)吞吐量，還需要較大的存儲空間。FPGA處理數(shù)據(jù)的方式是基于硬件的并行處理方式，即一個時鐘周期內(nèi)可并行完成多次運算，特別適合于神經(jīng)網(wǎng)絡(luò)的并行特點，而且它還可以根據(jù)設(shè)計要求配置硬件結(jié)構(gòu)，例如根據(jù)實際需要，可靈活設(shè)計數(shù)據(jù)的位寬等。隨著數(shù)字集成電路技術(shù)的飛速發(fā)展，F(xiàn)PGA芯片的處理能力得到了極大的提升，已經(jīng)完全可以承擔(dān)神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)壓縮處理的運算量和數(shù)據(jù)吞吐量。圖像壓縮是信息傳輸和存儲系統(tǒng)的關(guān)鍵技術(shù)，然而如何進(jìn)行FPGA設(shè)計，以實現(xiàn)給定的功能已經(jīng)成為神經(jīng)網(wǎng)絡(luò)應(yīng)用的關(guān)鍵。
    基于以上原因，選擇FPGA作為三層BP神經(jīng)網(wǎng)絡(luò)圖像壓縮算法的實現(xiàn)方式，提出了具體的一種實現(xiàn)方案，并對其中的重點單元進(jìn)行了FPGA設(shè)計與仿真驗證。

1 BP神經(jīng)網(wǎng)絡(luò)圖像壓縮算法
    一般習(xí)慣將單隱層前饋網(wǎng)稱為三層前饋網(wǎng)，它包括輸入層、隱含層和輸出層。三層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示，原始數(shù)據(jù)節(jié)點和重建數(shù)據(jù)節(jié)點構(gòu)成節(jié)點數(shù)較大的外層(輸入層和輸出層)，而中間的具有較小節(jié)點數(shù)的細(xì)腰層即構(gòu)成壓縮結(jié)果。其基本思想是強迫原始數(shù)據(jù)通過細(xì)腰型網(wǎng)絡(luò)瓶頸，并期望在網(wǎng)絡(luò)的瓶頸處能獲得較為緊湊的數(shù)據(jù)表示，以達(dá)到壓縮的目的。在網(wǎng)絡(luò)的學(xué)習(xí)過程中，通過BP訓(xùn)練算法，調(diào)整網(wǎng)絡(luò)的權(quán)重，使重建圖像在均方誤差意義上盡可能近似于訓(xùn)練圖像。經(jīng)過訓(xùn)練的網(wǎng)絡(luò)即可用來執(zhí)行數(shù)據(jù)壓縮任務(wù)，網(wǎng)絡(luò)輸入層與隱含層之間的加權(quán)值相當(dāng)于一個編碼器，隱含層與輸出層之間的加權(quán)相當(dāng)于一個解碼器。從輸入端輸入的原始圖像數(shù)據(jù)經(jīng)過神經(jīng)網(wǎng)絡(luò)的處理，在隱含層得到的輸出數(shù)據(jù)就是原始圖像的壓縮編碼，而輸出層矢量即為解壓后重建的圖像數(shù)據(jù)。

    BP神經(jīng)網(wǎng)絡(luò)用于圖像編碼的壓縮比與輸入層和隱含層的節(jié)點數(shù)有關(guān)：
    壓縮比一輸入層節(jié)點數(shù)(n)／隱含層節(jié)點數(shù)(m)
    因此一般來說采用不同數(shù)目的隱含層神經(jīng)元就可實現(xiàn)同一圖像的不同壓縮比。
    三層BP前饋網(wǎng)中輸入向量X=x(x1，x2，…，xi，…，xn)T，隱含層輸出向量Y=y(y1，y2，…，yi，…，ym)T，輸出層輸出向量O=O(O1，O2，…，Ok，…，Ol)T，期望輸出向量d=d(d1，d2，…，dk，…，dl)T，輸入層到隱含層的權(quán)值向量V=v(v1，v2，…，vj，…，vm)T，其中vj為隱含層第j個神經(jīng)元對應(yīng)的權(quán)值向量；隱含層到輸出層的權(quán)值向量W=W(w1，w2，…，wk，…wl)T，其中wk為輸出層第k個神經(jīng)元對應(yīng)的權(quán)值向量；隱含層的閾值向量θ=(θ1，θ2，…，θi，…,θm)T；輸出層的閾值向量γ=(γ1，γ2，…，γk，…，γl)T。[!--empirenews.page--]
    (1)用小的隨機數(shù)對每一層的權(quán)值和偏差初始化，以保證網(wǎng)絡(luò)不被大的加權(quán)輸入飽和，并進(jìn)行以下參數(shù)的設(shè)定或初始化：期望誤差最小值；最大循環(huán)次數(shù)；修正權(quán)值的學(xué)習(xí)速率；
    (2)將原始圖像分為4×4或8×8大小的塊，選取其中一塊的像素值作為訓(xùn)練樣本接入到輸入層，計算各層輸出：

    其中：f(·)為BP網(wǎng)絡(luò)中各層的傳輸函數(shù)。
    (3)計算網(wǎng)絡(luò)輸出與期望輸出之間的誤差，判斷是否小于期望誤差，是則訓(xùn)練結(jié)束，否則至下一步，其中反傳誤差的計算式為：
   
    (4)計算各層誤差反傳信號；
    (5)調(diào)整各層權(quán)值和閾值；
    (6)檢查是否對所有樣本完成一次訓(xùn)練，是則返回步驟(2)，否則至步驟(7)；
    (7)檢查網(wǎng)絡(luò)是否達(dá)到最大循環(huán)次數(shù)，是則訓(xùn)練結(jié)束，否則返回步驟(2)。
    經(jīng)過多次訓(xùn)練，最后找出最好的一組權(quán)值和閾值，組成三層前饋神經(jīng)網(wǎng)絡(luò)，用于該算法的FPGA設(shè)計。

    其中，在數(shù)據(jù)預(yù)處理部分，首先將原始圖像分成n×n的小塊，以每一小塊為單位進(jìn)行歸一化。歸一化的目的，主要有以下兩點：
    (1)BP網(wǎng)絡(luò)的神經(jīng)元均采用Sigmoid轉(zhuǎn)移函數(shù)，變換后可防止因凈輸入的絕對值過大而使神經(jīng)元輸出飽和，繼而使權(quán)值調(diào)整進(jìn)入誤差曲面的平坦區(qū)；
    (2)Sigmoid轉(zhuǎn)移函數(shù)的輸出在-1～+1之間，作為信號的輸出數(shù)據(jù)如不進(jìn)行變換處理，勢必使數(shù)值大的輸出分量絕對誤差大，數(shù)值小的輸出分量絕對誤差小。網(wǎng)絡(luò)訓(xùn)練時只針對輸出的總誤差調(diào)整權(quán)值，其結(jié)果是在總誤差中占份額小的輸出分量相對誤差較大，對輸出量進(jìn)行尺度變化后這個問題可迎刃而解。
    歸一化后得到以每小塊的灰度值為列向量組成的待壓縮矩陣，將該矩陣存儲在RAM里，然后以每一列為單位發(fā)送給先人先出寄存器FIFO(First Input FirstOutput)；由FIFO將向量x1，x2，…，xn以流水(pipe-line)方式依次傳人各乘累加器MAC(Multiply-Accu-mulate)，相乘累加求和后，送入LUT(Lookup Table)得到隱層相應(yīng)的節(jié)點值，這里L(fēng)UT是實現(xiàn)Sigmoid函數(shù)及其導(dǎo)函數(shù)的映射。
    在整個電路的設(shè)計中，采用IP(Intellectual Prop-erty)核及VHDL代碼相結(jié)合的設(shè)計方法，可重載IP軟核，具有通用性好，便于移植等優(yōu)點，但很多是收費的，比如說一個高性能流水線設(shè)計的MAC軟核，所以基于成本考慮，使用VHDL語言完成MAC模塊的設(shè)計，而RAM和FIFO模塊則采用免費的可重載IP軟核，使整個系統(tǒng)的設(shè)計達(dá)到最佳性價比。在壓縮算法的實現(xiàn)中，乘累加單元是共同部分，也是編碼和譯碼器FPGA實現(xiàn)的關(guān)鍵。
2．2 乘累加器MAC的流水線設(shè)計及其仿真
    流水線設(shè)計是指將組合邏輯延時路徑系統(tǒng)地分割，并在各個部分(分級)之間插人寄存器暫存中間數(shù)據(jù)的方法。流水線縮短了在一個時鐘周期內(nèi)信號通過的組合邏輯電路延時路徑長度，從而提高時鐘頻率。對于同步電路，其速度指同步電路時鐘的頻率。同步時鐘愈快，電路處理數(shù)據(jù)的時間間隔越短，電路在單位時間內(nèi)處理的數(shù)據(jù)量就愈大，即電路的吞吐量就越大。理論而言，采用流水線技術(shù)能夠提高同步電路的運行速度。MAC電路是實現(xiàn)BP神經(jīng)網(wǎng)絡(luò)的重要組成部分，在許多數(shù)字信號處理領(lǐng)域也有著廣泛應(yīng)用，比如數(shù)字解調(diào)器、數(shù)字濾波器和均衡器，所以如何提高M(jìn)AC的效率和運算速度具有極高的使用價值。本方案采用的MAC設(shè)計以四輸入為例。
    四輸入的MAC電路必須執(zhí)行四次乘法操作和兩次加法操作，以及最后的兩次累加操作。如果按照非流水線設(shè)計，完成一次對輸入的處理，需要這三步延遲時間的總和，這會降低一個高性能系統(tǒng)的效率。而采用流水線設(shè)計，則可以避免這種延遲，將MAC的操作安排的像一條裝配線一樣，也就是說，通過這種設(shè)計它可以使系統(tǒng)執(zhí)行的時鐘周期減小到流水線中最慢步驟所需的操作時間，而不是各步驟延遲時間之和，如圖3所示。

    在第一個時鐘邊沿，第一對數(shù)據(jù)被存儲在輸入寄存器中。在第一個時鐘周期，乘法器對第一對數(shù)據(jù)進(jìn)行乘法運算，同時系統(tǒng)為下一對數(shù)據(jù)的輸入作準(zhǔn)備。在第二個時鐘邊沿，第一對數(shù)據(jù)的積存儲在第一個流水線寄存器，且第二對數(shù)據(jù)已經(jīng)進(jìn)入輸入寄存器。在第二個時鐘周期，完成對第一對數(shù)據(jù)積的兩次加法操作，而乘法器完成第二對數(shù)據(jù)的積運算，同時準(zhǔn)備接收第三隊數(shù)據(jù)。在第三個時鐘邊沿，這些數(shù)據(jù)分別存放在第二個流水線寄存器，第一個流水線寄存器，以及輸入寄存器中。在第三個時鐘周期，完成對第一對數(shù)據(jù)和之前數(shù)據(jù)的累加求和，對第二對數(shù)據(jù)的兩次加法操作，對第一對數(shù)據(jù)的乘法運算，并準(zhǔn)備接收第四對數(shù)據(jù)。在第四個始終邊沿，累加器中的和將被更新。[!--empirenews.page--]
    在本設(shè)計方案中，測試仿真平臺選用的FPGA芯片為ALTERA公司CycloneⅡ系列的EP2C8芯片，它采用90 nm的制造工藝，擁有8 256個邏輯單元，36個M4K隨機只讀存儲器，2個數(shù)字鎖相環(huán)，以及18個硬乘法器等豐富資源。仿真工具使用業(yè)界流行的MentorGraphics公司的仿真軟件Modelsim 6．1f。對設(shè)計進(jìn)行驗證時，常見的方法是在模擬時施加輸入激勵信號，然后“讀”該設(shè)計的輸出信號，它的主要缺點是隨著模擬器的不同而不同。為了克服此缺點，采用的測試方法是用VHDL編寫一個測試模型發(fā)生器，稱為Testbench，它的優(yōu)點是通用性好，靈活性強，可以隨時更改輸入激勵，已得到不同的仿真結(jié)果。在對該MAC模塊進(jìn)行測試的過程中，涉及輸入數(shù)據(jù)的轉(zhuǎn)化問題，如前所述，在本神經(jīng)網(wǎng)絡(luò)中，輸入數(shù)據(jù)歸一化后，集中在-1～+1之間，所以處理時必須進(jìn)行轉(zhuǎn)化，最后采用16位補碼形式的定點二進(jìn)制表示法，由于在求和中可能會產(chǎn)生溢出，還必須包含一個溢l出狀態(tài)信號。輸入數(shù)據(jù)轉(zhuǎn)換16位補碼的仿真波形如圖4所示。

    16位補碼轉(zhuǎn)換原輸入實數(shù)的仿真波形如圖5所示。

    在完成了對輸入、輸出數(shù)據(jù)的轉(zhuǎn)換之后，編寫Testbench(測試臺)程序，對基于流水線設(shè)計的四輸入MAC進(jìn)行行為級仿真，仿真波形如圖6所示。

    綜上所述，在基于流水線的乘法設(shè)計中，雖然每一步操作后都加入了寄存器，消耗了更多的資源，但卻可以將系統(tǒng)延時降低到最慢步驟所需要的時間，極大地提高了同步電路的運算速度。

3 結(jié) 語
    介紹了基于三層前饋BP神經(jīng)網(wǎng)絡(luò)的圖像壓縮算法，提出了基于FPGA的實現(xiàn)驗證方案，詳細(xì)討論了實現(xiàn)該壓縮網(wǎng)絡(luò)組成的重要模塊MAC電路的流水線設(shè)計。在對BP神經(jīng)網(wǎng)絡(luò)的電路設(shè)計中，對傳輸函數(shù)及其導(dǎo)函數(shù)的線性逼近也是近來研究的熱點之一，本文使用的壓縮查找表雖然能夠滿足設(shè)計要求，但仍然消耗了大量資源。該研究結(jié)果對整個壓縮解壓縮算法的實現(xiàn)以及多層神經(jīng)網(wǎng)絡(luò)的相關(guān)研究工作提供了參考。