進化神經網路

動物的大腦及其複雜的神經系統本身就是在漫長的歷史中進化而形成的，因此模擬這種複雜智能系統的演化形成，產生出進化神經網路模型。進化計算與神經網路作為計算智能的兩大分支經過融合之後產生了一種全新的神經網路模型——進化神經網路。這種模型把進化計算的進化自適應機制與神經網路的學習計算機機制有機結合在一起，有效地克服了傳統人工神經網路的幾乎所有缺點，是一種很有發展前途新模型。

進化神經網路模型的一個主要特點就是它對動態環境的自適應性。這種自適應性過程通過進化的三個等級實現，即連接權值、網路結構和學習規則的進化，他們以不同的時間尺度進化，在自適應中也起著不同的作用。

根據進化神經網路的三個等級，進化神經網路模型的發展呈現以下四個不同的類型。

連接權值進化的進化神經網路

神經網路連接權值的調整演演算法是神經網路設計中的一個關鍵問題。區別與傳統人工神經網路中連接權值調整的BP演演算法，該進化演演算法是一種更有效的全局搜索優化演演算法，它能夠避開局部極值點，並且在進化過程中無需提供所需解決問題的梯度信息。它不單可用於前向網路及具有不可微傳遞函數的網路，而且對於任何網路形式都可以進行訓練，程序編製非常簡單、訓練速度很快。

網路結構進化的進化神經網路

在傳統意義上提出了三種網路結構選擇的主要方法：試湊法、構造法以及修剪法。其中，試湊法過程複雜且依賴於經驗，較難找到滿意的結構；構造法及修剪法為局部優化法，極易陷入局部極值。

網路結構化的主要問題是結構的編碼顯示。以編碼方式的不同，結構進化型的進化神經網路可分為以下幾種類型：

（1）直接編碼法。

此法把網路結構的所有信息均用編碼表示。

優點：編碼直觀、方便，可表示一些對網路的特殊約束。

缺點：只能應用於結構固定的網路，且規模不宜太大，否則計算效率會很低。

（2）間接編碼法。

克服直接編碼的缺點，可進化大型網路。常用的兩種類型：

① 參數編碼法

②生長規則法

結構和權值同時進化的進化神經網路

綜合了結構進化和權值進化，代表性的方法有如下：

（1）Yao等提出的EPNet系統。

（2）Maniezzo提出的粒度編碼的進化神經網路方法。

學習規則進化的進化神經網路

不同的網路結構，不同應用問題採用不同的學習規則。

用於進化神經網路的進化演演算法主要有遺傳演演算法及進化規劃。前者是研究最早、成果最多的一種，而後者研究則較晚，經過研究的不斷深入，越來越的研究者傾向於採用進化規劃進化神經網路研究，並認為用進化規劃進化神經網路是更適宜的。

基於遺傳演演算法的進化神經網路

採用遺傳演演算法進化神經網路主要有如下缺點：

①編碼帶來的問題

② 遺傳操作帶來的問題

③ 基因型同表現型的多多映射帶來的問題

④同時進化結構及權值時，採用遺傳演演算法對網路結構有較大的約束。

基於進化規劃的進化神經網路

採用進化規劃進化神經網路具有一些明顯的好處：

① 進化規劃直接採用表現型進行操作，不但省略了遺傳演演算法複雜的編碼及解碼操作，而且避免了交叉運算元和雙重表示帶來的問題。

②進化規劃非常適合於網路結構及權值的同時進化，有利於減少評價雜訊。

③ 進化規劃強調父、子代間的連接，注重網路行為的進化，這增加了網路進化的有效性。

基於其他新型演演算法的進化神經網路

經過不斷的研究，產生了一些基於新型仿生演演算法的進化神經網路模型，如：

（1）用於擬合的權值及結構同時進化的進化網路

（2）用於預測的權值及結構同時進化的進化網路

隨著進化神經網路研究的不斷深入，其應用範圍也越來越廣，主要體現在以下方面：

（1）進化神經網路在股市預測中的應用

（2）進化神經網路在滑坡預測的應用

（3）進化神經網路在異或分類問題中的應用

（4）進化神經網路在巷道圍岩鬆動圈預測中的應用

（5）進化神經網路在岩土力學參數逆分析中的應用