神經(jīng)網(wǎng)絡(luò)算法原理_神經(jīng)網(wǎng)絡(luò)算法的應(yīng)用_神經(jīng)網(wǎng)絡(luò)算法實(shí)例說(shuō)明

　　神經(jīng)網(wǎng)絡(luò)是一種模擬人腦結(jié)構(gòu)的算法模型。其原理就在于將信息分布式存儲(chǔ)和并行協(xié)同處理。雖然每個(gè)單元的功能非常簡(jiǎn)單，但大量單元構(gòu)成的網(wǎng)絡(luò)系統(tǒng)就能實(shí)現(xiàn)非常復(fù)雜的數(shù)據(jù)計(jì)算，并且還是一個(gè)高度復(fù)雜的非線性動(dòng)力學(xué)習(xí)系統(tǒng)。

　　神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)更接近于人腦，具有大規(guī)模并行、分布式存儲(chǔ)和處理、自組織、自適應(yīng)和自學(xué)能力。神經(jīng)網(wǎng)絡(luò)的用途非常廣泛，在系統(tǒng)辨識(shí)、模式識(shí)別、智能控制等領(lǐng)域都能一展身手。而現(xiàn)在最吸引IT巨頭們關(guān)注的就是神經(jīng)網(wǎng)絡(luò)在智能控制領(lǐng)域中的自動(dòng)學(xué)習(xí)功能，特別適合在需要代入一定條件，并且信息本身是不確定和模糊的情況下，進(jìn)行相關(guān)問(wèn)題的處理，例如語(yǔ)音識(shí)別。

　　由于神經(jīng)網(wǎng)絡(luò)算法的設(shè)計(jì)面太大，我們此處暫且只分析Microsoft神經(jīng)網(wǎng)絡(luò)算法的原理，在Microsoft神經(jīng)網(wǎng)絡(luò)算法中，我們可以簡(jiǎn)化成下面這個(gè)圖片：

　　Microsoft神經(jīng)網(wǎng)絡(luò)使用的由最多三層神經(jīng)元組成的“多層感知器”網(wǎng)絡(luò)，分別為：輸入層、可選隱含層和輸出層。

　　輸入層：輸入神經(jīng)元定義數(shù)據(jù)挖掘模型所有的輸入屬性值以及概率。

　　隱含層：隱藏神經(jīng)元接受來(lái)自輸入神經(jīng)元的輸入，并向輸出神經(jīng)元提供輸出。隱藏層是向各種輸入概率分配權(quán)重的位置。權(quán)重說(shuō)明某一特定宿儒對(duì)于隱藏神經(jīng)元的相關(guān)性或重要性。輸入所分配的權(quán)重越大，則輸入值也就越重要。而這個(gè)過(guò)程可以描述為學(xué)習(xí)的過(guò)程。權(quán)重可為負(fù)值，表示輸入抑制而不是促進(jìn)某一特定結(jié)果。 輸出層：輸出神經(jīng)元代表數(shù)據(jù)挖掘模型的可預(yù)測(cè)屬性值。

　　數(shù)據(jù)從輸入經(jīng)過(guò)中間隱含層到輸出，整個(gè)過(guò)程是一個(gè)從前向后的傳播數(shù)據(jù)和信息的過(guò)程，后面一層節(jié)點(diǎn)上的數(shù)據(jù)值從與它相連接的前面節(jié)點(diǎn)傳來(lái)，之后把數(shù)據(jù)加權(quán)之后經(jīng)過(guò)一定的函數(shù)運(yùn)算得到新的值，繼續(xù)傳播到下一層節(jié)點(diǎn)。這個(gè)過(guò)程就是一個(gè)前向傳播過(guò)程。

　　而當(dāng)節(jié)點(diǎn)輸出發(fā)生錯(cuò)誤時(shí)，也就是和預(yù)期不同，神經(jīng)網(wǎng)絡(luò)就要自動(dòng)“學(xué)習(xí)”，后一層節(jié)點(diǎn)對(duì)前一層節(jié)點(diǎn)一個(gè)“信任”程度（其實(shí)改變的就是連接件的權(quán)重），采取降低權(quán)重的方式來(lái)懲罰，如果節(jié)點(diǎn)輸出粗粗哦，那就要查看這個(gè)錯(cuò)誤的受那些輸入節(jié)點(diǎn)的影響，降低導(dǎo)致出錯(cuò)的節(jié)點(diǎn)連接的權(quán)重，懲罰這些節(jié)點(diǎn)，同時(shí)提高那些做出正確建議節(jié)點(diǎn)的連接的權(quán)重。對(duì)那些受到懲罰的節(jié)點(diǎn)而說(shuō)，也用同樣的方法來(lái)懲罰它前面的節(jié)點(diǎn)，直到輸入節(jié)點(diǎn)而止。這種稱為：回饋。 而我們學(xué)習(xí)的過(guò)程就是重復(fù)上面的介紹的流程，通過(guò)前向傳播得到輸入值，用回饋法進(jìn)行學(xué)習(xí)。當(dāng)把訓(xùn)練集中的所有數(shù)據(jù)運(yùn)行過(guò)一遍之后，則稱為一個(gè)訓(xùn)練周期。訓(xùn)練后得到神經(jīng)網(wǎng)絡(luò)模型，包含了訓(xùn)練集中相應(yīng)值和受預(yù)測(cè)值影響變化的規(guī)律。

　　在每個(gè)神經(jīng)元中的隱含層中都有著復(fù)雜的函數(shù)，并且這些都非線性函數(shù)，并且類(lèi)似生物學(xué)神經(jīng)網(wǎng)絡(luò)的基本傳輸特征，這些函數(shù)稱之為：激活函數(shù)，即：輸入值發(fā)生細(xì)微的變化有時(shí)候會(huì)產(chǎn)生較大的輸出變化。

　　在網(wǎng)絡(luò)模型與算法研究的基礎(chǔ)上，利用人工神經(jīng)網(wǎng)絡(luò)組成實(shí)際的應(yīng)用系統(tǒng)，例如，完成某種信號(hào)處理或模式識(shí)別的功能、構(gòu)作專(zhuān)家系統(tǒng)、制成機(jī)器人、復(fù)雜系統(tǒng)控制等等。

　　縱觀當(dāng)代新興科學(xué)技術(shù)的發(fā)展歷史，人類(lèi)在征服宇宙空間、基本粒子，生命起源等科學(xué)技術(shù)領(lǐng)域的進(jìn)程中歷經(jīng)了崎嶇不平的道路。我們也會(huì)看到，探索人腦功能和神經(jīng)網(wǎng)絡(luò)的研究將伴隨著重重困難的克服而日新月異。

　　盡管神經(jīng)網(wǎng)絡(luò)現(xiàn)在已經(jīng)被廣泛用于語(yǔ)音識(shí)別領(lǐng)域，但是其用途肯定不限于此。下一步，神經(jīng)網(wǎng)絡(luò)最有可能進(jìn)入圖像軟件領(lǐng)域。與分辨聲音的過(guò)程類(lèi)似，神經(jīng)網(wǎng)絡(luò)在分析圖像時(shí)，每一層的圖像探測(cè)器會(huì)首先尋找圖像中的一些特征，例如圖像的邊緣。

　　當(dāng)探測(cè)完成之后，另一層的軟件就會(huì)將這些邊緣結(jié)合起來(lái)，就會(huì)形成圖像的邊角等特征。然后如此反復(fù)下去，識(shí)別的圖像特征就會(huì)越來(lái)越清晰、明確，到了最后一層就將所有圖像特征結(jié)合起來(lái)，與數(shù)據(jù)庫(kù)中的數(shù)據(jù)進(jìn)行對(duì)比，就能得出圖片里的物體究竟是什么的結(jié)論。

　　前面提到的谷歌狄恩研究小組就采用這種方法，開(kāi)發(fā)出了一套軟件，已經(jīng)可以通過(guò)自學(xué)分辨出網(wǎng)絡(luò)視頻里的貓?；蛟S未來(lái)這套軟件將會(huì)推廣到圖片搜索領(lǐng)域，谷歌街景利用這一算法就能區(qū)分出不同事物的特征。 此外，神經(jīng)網(wǎng)絡(luò)在醫(yī)學(xué)領(lǐng)域也有施展拳腳的空間，多倫多大學(xué)的一個(gè)研究團(tuán)隊(duì)，已經(jīng)成功地用神經(jīng)網(wǎng)絡(luò)分析出藥物分子在實(shí)際環(huán)境中可能的作用方式。