神經(jīng)網(wǎng)絡算法原理_神經(jīng)網(wǎng)絡算法的應用_神經(jīng)網(wǎng)絡算法實例說明
神經(jīng)網(wǎng)絡是一種模擬人腦結構的算法模型。其原理就在于將信息分布式存儲和并行協(xié)同處理。雖然每個單元的功能非常簡單,但大量單元構成的網(wǎng)絡系統(tǒng)就能實現(xiàn)非常復雜的數(shù)據(jù)計算,并且還是一個高度復雜的非線性動力學習系統(tǒng)。
神經(jīng)網(wǎng)絡的結構更接近于人腦,具有大規(guī)模并行、分布式存儲和處理、自組織、自適應和自學能力。神經(jīng)網(wǎng)絡的用途非常廣泛,在系統(tǒng)辨識、模式識別、智能控制等領域都能一展身手。而現(xiàn)在最吸引IT巨頭們關注的就是神經(jīng)網(wǎng)絡在智能控制領域中的自動學習功能,特別適合在需要代入一定條件,并且信息本身是不確定和模糊的情況下,進行相關問題的處理,例如語音識別。
神經(jīng)網(wǎng)絡算法原理由于神經(jīng)網(wǎng)絡算法的設計面太大,我們此處暫且只分析Microsoft神經(jīng)網(wǎng)絡算法的原理,在Microsoft神經(jīng)網(wǎng)絡算法中,我們可以簡化成下面這個圖片:
Microsoft神經(jīng)網(wǎng)絡使用的由最多三層神經(jīng)元組成的“多層感知器”網(wǎng)絡,分別為:輸入層、可選隱含層和輸出層。
輸入層:輸入神經(jīng)元定義數(shù)據(jù)挖掘模型所有的輸入屬性值以及概率。
隱含層:隱藏神經(jīng)元接受來自輸入神經(jīng)元的輸入,并向輸出神經(jīng)元提供輸出。隱藏層是向各種輸入概率分配權重的位置。權重說明某一特定宿儒對于隱藏神經(jīng)元的相關性或重要性。輸入所分配的權重越大,則輸入值也就越重要。而這個過程可以描述為學習的過程。權重可為負值,表示輸入抑制而不是促進某一特定結果。 輸出層:輸出神經(jīng)元代表數(shù)據(jù)挖掘模型的可預測屬性值。
數(shù)據(jù)從輸入經(jīng)過中間隱含層到輸出,整個過程是一個從前向后的傳播數(shù)據(jù)和信息的過程,后面一層節(jié)點上的數(shù)據(jù)值從與它相連接的前面節(jié)點傳來,之后把數(shù)據(jù)加權之后經(jīng)過一定的函數(shù)運算得到新的值,繼續(xù)傳播到下一層節(jié)點。這個過程就是一個前向傳播過程。
而當節(jié)點輸出發(fā)生錯誤時,也就是和預期不同,神經(jīng)網(wǎng)絡就要自動“學習”,后一層節(jié)點對前一層節(jié)點一個“信任”程度(其實改變的就是連接件的權重),采取降低權重的方式來懲罰,如果節(jié)點輸出粗粗哦,那就要查看這個錯誤的受那些輸入節(jié)點的影響,降低導致出錯的節(jié)點連接的權重,懲罰這些節(jié)點,同時提高那些做出正確建議節(jié)點的連接的權重。對那些受到懲罰的節(jié)點而說,也用同樣的方法來懲罰它前面的節(jié)點,直到輸入節(jié)點而止。這種稱為:回饋。 而我們學習的過程就是重復上面的介紹的流程,通過前向傳播得到輸入值,用回饋法進行學習。當把訓練集中的所有數(shù)據(jù)運行過一遍之后,則稱為一個訓練周期。訓練后得到神經(jīng)網(wǎng)絡模型,包含了訓練集中相應值和受預測值影響變化的規(guī)律。
在每個神經(jīng)元中的隱含層中都有著復雜的函數(shù),并且這些都非線性函數(shù),并且類似生物學神經(jīng)網(wǎng)絡的基本傳輸特征,這些函數(shù)稱之為:激活函數(shù),即:輸入值發(fā)生細微的變化有時候會產(chǎn)生較大的輸出變化。
神經(jīng)網(wǎng)絡算法的應用在網(wǎng)絡模型與算法研究的基礎上,利用人工神經(jīng)網(wǎng)絡組成實際的應用系統(tǒng),例如,完成某種信號處理或模式識別的功能、構作專家系統(tǒng)、制成機器人、復雜系統(tǒng)控制等等。
縱觀當代新興科學技術的發(fā)展歷史,人類在征服宇宙空間、基本粒子,生命起源等科學技術領域的進程中歷經(jīng)了崎嶇不平的道路。我們也會看到,探索人腦功能和神經(jīng)網(wǎng)絡的研究將伴隨著重重困難的克服而日新月異。
盡管神經(jīng)網(wǎng)絡現(xiàn)在已經(jīng)被廣泛用于語音識別領域,但是其用途肯定不限于此。下一步,神經(jīng)網(wǎng)絡最有可能進入圖像軟件領域。與分辨聲音的過程類似,神經(jīng)網(wǎng)絡在分析圖像時,每一層的圖像探測器會首先尋找圖像中的一些特征,例如圖像的邊緣。
當探測完成之后,另一層的軟件就會將這些邊緣結合起來,就會形成圖像的邊角等特征。然后如此反復下去,識別的圖像特征就會越來越清晰、明確,到了最后一層就將所有圖像特征結合起來,與數(shù)據(jù)庫中的數(shù)據(jù)進行對比,就能得出圖片里的物體究竟是什么的結論。
前面提到的谷歌狄恩研究小組就采用這種方法,開發(fā)出了一套軟件,已經(jīng)可以通過自學分辨出網(wǎng)絡視頻里的貓。或許未來這套軟件將會推廣到圖片搜索領域,谷歌街景利用這一算法就能區(qū)分出不同事物的特征。 此外,神經(jīng)網(wǎng)絡在醫(yī)學領域也有施展拳腳的空間,多倫多大學的一個研究團隊,已經(jīng)成功地用神經(jīng)網(wǎng)絡分析出藥物分子在實際環(huán)境中可能的作用方式。