摘要分別采用單層感知器、BP網絡和霍普菲爾德網絡三種神經網絡對26個英文字母進行識別,通過實驗給出各網絡的識別出錯率,從中可以看出三種人工神經網絡各自的優(yōu)缺點,為選擇神經網絡進行字符識別提供了一定的依據。
1引言
人工神經網絡是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。代寫論文 它是理論化的人腦神經網絡的數學模型,是基于模仿大腦神經網絡結構和功能而建立的一種信息處理系統。因其自組織、自學習能力以及具有信息的分布式存儲和并行處理,信息存儲與處理的合一等特點得到了廣泛的關注,已經發(fā)展了上百種人工神經網絡。
一般來說,人工神經網絡從結構上可分為兩種:前向網絡和反饋網絡。典型的前向網絡有單層感知器、BP網絡等,反饋網絡有霍普菲爾德網絡等[1]。
人工神經網絡已經被廣泛應用于模式識別、信號處理、專家系統、優(yōu)化組合、智能控制等各個方面,其中采用人工神經網絡進行模式識別具有一些傳統技術所沒有的優(yōu)點:良好的容錯能力[2j、分類能力、并行處理能力和自學習能力,并且其運行速度快,自適應性能好,具有較高的分辨率。單層感知器、BP網絡和霍普菲爾德網絡均可以用于字符識別。
本文通過具體采用感知器網絡、BP網絡和霍普菲爾德反饋網絡對26個英文字母進行識別的應用,通過實驗給出各自的識別出錯率,通過比較,可以看出這3種神經網絡的識別能力以及各自的優(yōu)缺點。
2 字符識別問題描述與網絡識別前的預處理
字符識別在現代日常生活的應用越來越廣泛,比如車輛牌照自動識別系統[3,4],手寫識別系統[5],辦公自動化等等[6]。代寫畢業(yè)論文 本文采用單層感知器、BP網絡和霍普菲爾德網絡對26個英文字母進行識別。首先將待識別的26個字母中的每一個字母都通過長和寬分別為7×5的方格進行數字化處理,并用一個向量表示。其相應有數據的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數字化過程,其中最左邊的為字母A的數字化處理結果所得對應的向量為:IetterA~「00100010100101010001111111000110001〕’,由此可得每個字母由35個元素組成一個向量。由26個標準字母組成的輸人向量被定義為一個輸人向量矩陣alphabet,即神經網絡的樣本輸人為一個35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網絡樣本輸出需要一個對26個輸人字母進行區(qū)分輸出向量,對于任意一個輸人字母,網絡輸出在字母對應的順序位置上的值為1,其余為O,即網絡輸出矩陣為對角線上為1的26×26的單位陣,定義target=eye(26)。
本文共有兩類這樣的數據作為輸人:一類是理想的標準輸人信號;另一類是在標準輸人信號中加上用MATLAB工具箱里的噪聲信號,即randn函數。
3 識別字符的網絡設計及其實驗分析
3.1單層感知器的設計及其識別效果
選取網絡35個輸人節(jié)點和26個輸出節(jié)點,設置目標誤差為0.0001,最大訓練次數為40。設計出的網絡使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。代寫醫(yī)學論文 首先用理想輸人信號訓練網絡,得到無噪聲訓練結果,然后用兩組標準輸入矢量加上兩組帶有隨機噪聲的輸人矢量訓練網絡,這樣可以保證網絡同時具有對理想輸人和噪聲輸人分類的能力。網絡訓練完后,為保證網絡能準確無誤地識別出理想的字符,再用無噪聲的標準輸入訓練網絡,最終得到有能力識別帶有噪聲輸人的網絡。下一步是對所設計的網絡進行性能測試:給網絡輸人任意字母,并在其上加人具有平均值從。~0.2的噪聲,隨機產生100個輸人矢量,分別對上述兩種網絡的字母識別出錯率進行實驗,結果如圖2所示。其中縱坐標所表示的識別出錯率是將實際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線代表用無噪聲的標準輸人信號訓練出網絡的出錯率,實線代表用有噪聲訓練出網絡的出錯率。從圖中可以看出,無噪聲訓練網絡對字符進行識別時,當字符一出現噪聲時,該網絡識別立刻出現錯誤;當噪聲均值超過0.02時,識別出錯率急劇上升,其最大出錯率達到21.5%。由此可見,無噪聲訓練網絡識別幾乎沒有抗干擾能力。而有噪聲訓練出的網絡具有一定的抗干擾能力,它在均值為。~0.06之間的噪聲環(huán)境下,能夠準確無誤地識別;其最大識別出錯率約為6.6%,遠遠小于無噪聲訓練出的網絡。
3.2BP網絡的設計及其識別效果
該網絡設計方法在文獻[lj中有詳細介紹。網絡具有35個輸人節(jié)點和26個輸出節(jié)點。目標誤差為0.0001,采用輸人在(0,l)范圍內對數S型激活函數兩層109519/109519網絡,隱含層根據經驗選取10個神經元。和單層感知器一樣,分別用理想輸人信號和帶有隨機噪聲的輸人訓練網絡,得到有噪聲訓練網絡和無噪聲訓練網絡。由于噪聲輸人矢量可能會導致網絡的1或o輸出不正確,或出現其他值,所以為了使網絡具有抗干擾能力,在網絡訓練后,再將其輸出經過一層競爭網絡的處理,使網絡的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網絡的訓練采用自適應學習速率加附加動量法,在MATLAB工具箱中直接調用traingdx。在與單層感知器相同的測試條件下對網絡進行性能測試,結果如圖3所示。其中虛線代表用無噪聲訓練網絡的出錯率,實線代表用有噪聲訓練網絡的出錯率。從圖中可以看出,在均值為o一0.12之間的噪聲環(huán)境下,兩個網絡都能夠準確地進行識別。在0.12~0.15之間的噪聲環(huán)境下,由于噪聲幅度相對較小,待識別字符接近于理想字符,故無噪聲訓練網絡的出錯率較有噪聲訓練網絡略低。當所加的噪聲均值超過。.15時,待識別字符在噪聲作用下不再接近于理想字符,無噪聲訓練網絡的出錯率急劇上升,此時有噪聲訓練網絡的性能較優(yōu).
3.3離散型,霍普菲爾德網絡的設計及其識別效果
此時網絡輸人節(jié)點數目與輸出神經元的數目是相等的,有r=s=35,采用正交化的權值設計方法。在MATLAB工具箱中可直接調用函數newh叩.m。要注意的是,由于調用函數newhoP.m,需要將輸人信號中所有的。代寫英語論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設計離散型霍普菲爾德網絡進行字符識別,只需要讓網絡記憶所要求的穩(wěn)定平衡點,即待識別的26個英文字母。故只需要用理想輸人信號來訓練網絡。對于訓練后的網絡,我們進行性能測試。給網絡輸入任意字母,并在其上加人具有平均值從。~0.5的噪聲,隨機產生100個輸人矢量,觀察字母識別出錯率,結果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環(huán)境下,網絡能夠準確地進行識別。在0.33~0.4之間的噪聲環(huán)境下,識別出錯率不到1%,在0.4以上的噪聲環(huán)境下,網絡識別出錯率急劇上升,最高達到大約10%。可以看出,該網絡穩(wěn)定點的吸引域大約在0.3~。.4之間。當噪聲均值在吸引域內時,網絡進行字符識別時幾乎不出錯,而當噪聲均值超過吸引域時,網絡出錯率急劇上升。
4結論
本文設計了3種人工神經網絡對26個英文字母進行了識別??梢钥闯觯@3種人工神經網絡均能有效地進行字符識別,并且識別速度快,自適應性能好,分辨率較高。由圖2和圖3可以看出,單層感知器的有噪聲訓練網絡在均值為O~0.06之間的噪聲環(huán)境下可以準確無誤的識別,而有噪聲訓練的BP網絡可以在o~0.12之間的噪聲環(huán)境下準確無誤的識別,故BP絡網絡容錯性比單層感知器的容錯性好;此外,噪聲達到0.2時,單層感知器的有噪聲訓練網絡的識別出錯率為6.6%,而有噪聲訓練的BP網絡的識別出錯率為2.1%,故BP網絡比單層感知器識別能力強。另外,由圖2、圖3和圖4可以看出,這3種網絡中霍普菲爾德網絡識別率最高,它在噪聲為0.33以前幾乎不會出錯,BP網絡次之,感知器最差。
通過設計、應用與性能對比,我們可得單層感知器網絡結構和算法都很簡單,訓練時間短,但識別出錯率較高,容錯性也較差。BP網絡結構和算法比單層感知器結構稍復雜,但其識別率和容錯性都較好?;羝辗茽柕戮W絡具有設計簡單且容錯性最好的雙重優(yōu)點。因此,我們應根據網絡的特點以及實際要求來選擇人工神經網絡對字符進行識別。
參考文獻
[1]叢爽.面向MATLAB工具箱的神經網絡理論與應用「M」.合肥:中國科學技術大學出版社,2003.
[2]武強,童學鋒,季雋.基于人工神經網絡的數字字符識別[J].計算機工程,2003,29(14):112一113.
[3]廖翔云,許錦標,龔仕偉.車牌識別技術研究[J].徽機發(fā)展,2003,13:30一35.
[4]李中凱,王效岳,魏修亭.BP網絡在汽車牌照字符識別中的應用[J].東理工大學學報,2004,18(4):69一72.
[5]汪同慶,居淡,任莉.基于神經網絡及多層次信息融合的手寫體數字識別[J].小型徽型計算機系統,2003,24(12):2286一2290.
[6]楊慶雄.基于神經網絡的字符識別研究[J].信息技術,2005,4:92一96.
更多醫(yī)療電子信息請關注:21ic醫(yī)療電子頻道