人工神經網絡(Artificial Neural Network,ANN)簡稱神經網絡(NN),是基于生物學中神經網絡的基本原理,在理解和抽象了人腦結構和外界刺激響應機制后,以網絡拓撲知識為理論基礎,模擬人腦的神經系統(tǒng)對復雜信息的處理機制的一種數學模型。該模型以并行分布的處理能力、高容錯性、智能化和自學習等能力為特征,將信息的加工和存儲結合在一起,以其獨特的知識表示方式和智能化的自適應學習能力,引起各學科領域的關注。它實際上是一個有大量簡單元件相互連接而成的復雜網絡,具有高度的非線性,能夠進行復雜的邏輯操作和非線性關系實現的系統(tǒng)。
神經網絡是一種運算模型,由大量的節(jié)點(或稱神經元)之間相互聯(lián)接構成。每個節(jié)點代表一種特定的輸出函數,稱為激活函數(activation function)。每兩個節(jié)點間的連接都代表一個對于通過該連接信號的加權值,稱之為權重(weight),神經網絡就是通過這種方式來模擬人類的記憶。網絡的輸出則取決于網絡的結構、網絡的連接方式、權重和激活函數。而網絡自身通常都是對自然界某種算法或者函數的逼近,也可能是對一種邏輯策略的表達。神經網絡的構筑理念是受到生物的神經網絡運作啟發(fā)而產生的。人工神經網絡則是把對生物神經網絡的認識與數學統(tǒng)計模型相結合,借助數學統(tǒng)計工具來實現。另一方面在人工智能學的人工感知領域,我們通過數學統(tǒng)計學的方法,使神經網絡能夠具備類似于人的決定能力和簡單的判斷能力,這種方法是對傳統(tǒng)邏輯學演算的進一步延伸。
人工神經網絡具有自學習和自適應的能力,可以通過預先提供的一批相互對應的輸入-輸出數據,分析掌握兩者之間潛在的規(guī)律,最終根據這些規(guī)律,用新的輸入數據來推算輸出結果,這種學習分析的過程被稱為“訓練”。
概念由大量處理單元互聯(lián)組成的非線性、自適應信息處理系統(tǒng)。它是在現代神經科學研究成果的基礎上提出的,試圖通過模擬大腦神經網絡處理、記憶信息的方式進行信息處理。人工神經網絡具有四個基本特征:
(1)非線性非線性關系是自然界的普遍特性。
大腦的智慧就是一種非線性現象。人工神經元處于激活或抑制二種不同的狀態(tài),這種行為在數學上表現為一種非線性關系。具有閾值的神經元構成的網絡具有更好的性能,可以提高容錯性和存儲容量。
(2)非局限性一個神經網絡通常由多個神經元廣泛連接而成。一個系統(tǒng)的整體行為不僅取決于單個神經元的特征,而且可能主要由單元之間的相互作用、相互連接所決定。通過單元之間的大量連接模擬大腦的非局限性。聯(lián)想記憶是非局限性的典型例子。
(3)非常定性人工神經網絡具有自適應、自組織、自學習能力。神經網絡不但處理的信息可以有各種變化,而且在處理信息的同時,非線性動力系統(tǒng)本身也在不斷變化。經常采用迭代過程描寫動力系統(tǒng)的演化過程。
(4)非凸性一個系統(tǒng)的演化方向,在一定條件下將取決于某個特定的狀態(tài)函數。例如能量函數,它的極值相應于系統(tǒng)比較穩(wěn)定的狀態(tài)。
非凸性是指這種函數有多個極值,故系統(tǒng)具有多個較穩(wěn)定的平衡態(tài),這將導致系統(tǒng)演化的多樣性。人工神經網絡中,神經元處理單元可表示不同的對象,例如特征、字母、概念,或者一些有意義的抽象模式。
網絡中處理單元的類型分為三類:輸入單元、輸出單元和隱單元。輸入單元接受外部世界的信號與數據;輸出單元實現系統(tǒng)處理結果的輸出;隱單元是處在輸入和輸出單元之間,不能由系統(tǒng)外部觀察的單元。
神經元間的連接權值反映了單元間的連接強度,信息的表示和處理體現在網絡處理單元的連接關系中。
人工神經網絡是一種非程序化、適應性、大腦風格的信息處理,其本質是通過網絡的變換和動力學行為得到一種并行分布式的信息處理功能,并在不同程度和層次上模仿人腦神經系統(tǒng)的信息處理功能。
它是涉及神經科學、思維科學、人工智能、計算機科學等多個領域的交叉學科。
人工神經網絡是并行分布式系統(tǒng),采用了與傳統(tǒng)人工智能和信息處理技術完全不同的機理,克服了傳統(tǒng)的基于邏輯符號的人工智能在處理直覺、非結構化信息方面的缺陷,具有自適應、自組織和實時學習的特點。