人工神經(jīng)網(wǎng)絡算法的原理是什么？

人工神經(jīng)網(wǎng)絡(Artificial Neural Network，ANN)簡稱神經(jīng)網(wǎng)絡(NN)，是基于生物學中神經(jīng)網(wǎng)絡的基本原理，在理解和抽象了人腦結(jié)構(gòu)和外界刺激響應機制后，以網(wǎng)絡拓撲知識為理論基礎，模擬人腦的神經(jīng)系統(tǒng)對復雜信息的處理機制的一種數(shù)學模型。該模型以并行分布的處理能力、高容錯性、智能化和自學習等能力為特征，將信息的加工和存儲結(jié)合在一起，以其獨特的知識表示方式和智能化的自適應學習能力，引起各學科領域的關注。它實際上是一個有大量簡單元件相互連接而成的復雜網(wǎng)絡，具有高度的非線性，能夠進行復雜的邏輯操作和非線性關系實現(xiàn)的系統(tǒng)。

神經(jīng)網(wǎng)絡是一種運算模型，由大量的節(jié)點(或稱神經(jīng)元)之間相互聯(lián)接構(gòu)成。每個節(jié)點代表一種特定的輸出函數(shù)，稱為激活函數(shù)(activation function)。每兩個節(jié)點間的連接都代表一個對于通過該連接信號的加權(quán)值，稱之為權(quán)重(weight)，神經(jīng)網(wǎng)絡就是通過這種方式來模擬人類的記憶。網(wǎng)絡的輸出則取決于網(wǎng)絡的結(jié)構(gòu)、網(wǎng)絡的連接方式、權(quán)重和激活函數(shù)。而網(wǎng)絡自身通常都是對自然界某種算法或者函數(shù)的逼近，也可能是對一種邏輯策略的表達。神經(jīng)網(wǎng)絡的構(gòu)筑理念是受到生物的神經(jīng)網(wǎng)絡運作啟發(fā)而產(chǎn)生的。人工神經(jīng)網(wǎng)絡則是把對生物神經(jīng)網(wǎng)絡的認識與數(shù)學統(tǒng)計模型相結(jié)合，借助數(shù)學統(tǒng)計工具來實現(xiàn)。另一方面在人工智能學的人工感知領域，我們通過數(shù)學統(tǒng)計學的方法，使神經(jīng)網(wǎng)絡能夠具備類似于人的決定能力和簡單的判斷能力，這種方法是對傳統(tǒng)邏輯學演算的進一步延伸。

人工神經(jīng)網(wǎng)絡具有自學習和自適應的能力，可以通過預先提供的一批相互對應的輸入-輸出數(shù)據(jù)，分析掌握兩者之間潛在的規(guī)律，最終根據(jù)這些規(guī)律，用新的輸入數(shù)據(jù)來推算輸出結(jié)果，這種學習分析的過程被稱為“訓練”。

概念由大量處理單元互聯(lián)組成的非線性、自適應信息處理系統(tǒng)。它是在現(xiàn)代神經(jīng)科學研究成果的基礎上提出的，試圖通過模擬大腦神經(jīng)網(wǎng)絡處理、記憶信息的方式進行信息處理。人工神經(jīng)網(wǎng)絡具有四個基本特征：

(1)非線性非線性關系是自然界的普遍特性。

大腦的智慧就是一種非線性現(xiàn)象。人工神經(jīng)元處于激活或抑制二種不同的狀態(tài)，這種行為在數(shù)學上表現(xiàn)為一種非線性關系。具有閾值的神經(jīng)元構(gòu)成的網(wǎng)絡具有更好的性能，可以提高容錯性和存儲容量。

(2)非局限性一個神經(jīng)網(wǎng)絡通常由多個神經(jīng)元廣泛連接而成。一個系統(tǒng)的整體行為不僅取決于單個神經(jīng)元的特征，而且可能主要由單元之間的相互作用、相互連接所決定。通過單元之間的大量連接模擬大腦的非局限性。聯(lián)想記憶是非局限性的典型例子。

(3)非常定性人工神經(jīng)網(wǎng)絡具有自適應、自組織、自學習能力。神經(jīng)網(wǎng)絡不但處理的信息可以有各種變化，而且在處理信息的同時，非線性動力系統(tǒng)本身也在不斷變化。經(jīng)常采用迭代過程描寫動力系統(tǒng)的演化過程。

(4)非凸性一個系統(tǒng)的演化方向，在一定條件下將取決于某個特定的狀態(tài)函數(shù)。例如能量函數(shù)，它的極值相應于系統(tǒng)比較穩(wěn)定的狀態(tài)。

非凸性是指這種函數(shù)有多個極值，故系統(tǒng)具有多個較穩(wěn)定的平衡態(tài)，這將導致系統(tǒng)演化的多樣性。人工神經(jīng)網(wǎng)絡中，神經(jīng)元處理單元可表示不同的對象，例如特征、字母、概念，或者一些有意義的抽象模式。

網(wǎng)絡中處理單元的類型分為三類：輸入單元、輸出單元和隱單元。輸入單元接受外部世界的信號與數(shù)據(jù);輸出單元實現(xiàn)系統(tǒng)處理結(jié)果的輸出;隱單元是處在輸入和輸出單元之間，不能由系統(tǒng)外部觀察的單元。

神經(jīng)元間的連接權(quán)值反映了單元間的連接強度，信息的表示和處理體現(xiàn)在網(wǎng)絡處理單元的連接關系中。

人工神經(jīng)網(wǎng)絡是一種非程序化、適應性、大腦風格的信息處理，其本質(zhì)是通過網(wǎng)絡的變換和動力學行為得到一種并行分布式的信息處理功能，并在不同程度和層次上模仿人腦神經(jīng)系統(tǒng)的信息處理功能。

它是涉及神經(jīng)科學、思維科學、人工智能、計算機科學等多個領域的交叉學科。

人工神經(jīng)網(wǎng)絡是并行分布式系統(tǒng)，采用了與傳統(tǒng)人工智能和信息處理技術完全不同的機理，克服了傳統(tǒng)的基于邏輯符號的人工智能在處理直覺、非結(jié)構(gòu)化信息方面的缺陷，具有自適應、自組織和實時學習的特點。