基于進化計算的隨機神經(jīng)網(wǎng)絡(luò)優(yōu)化及其應(yīng)用研究.pdf

1、進化計算是一類基于生物自然選擇和自然遺傳機制的搜索方法，包括遺傳算法、進化策略和進化規(guī)劃等算法。進化計算是一種有效的優(yōu)化技術(shù)，可以優(yōu)化權(quán)值和選擇合適的拓撲結(jié)構(gòu)，而且不要求目標函數(shù)連續(xù)，具有很好的全局搜索性質(zhì)。
　　隨機神經(jīng)網(wǎng)絡(luò)是一類功能強大的人工神經(jīng)網(wǎng)絡(luò)，在優(yōu)化計算和模擬學習領(lǐng)域中發(fā)揮著重要的作用。人們通常所說的人工神經(jīng)網(wǎng)絡(luò)一般有兩種:一種是采用隨機性神經(jīng)元激活函數(shù)的隨機神經(jīng)網(wǎng)絡(luò)，另一種是采用隨機型加權(quán)連接，即在普通人工神經(jīng)網(wǎng)絡(luò)中

2、加入適當隨機噪聲的波耳茲曼機。
　　雖然隨機神經(jīng)網(wǎng)絡(luò)功能強大且應(yīng)用廣泛，但復雜的學習過程和較慢的收斂速度限制了隨機神經(jīng)網(wǎng)絡(luò)的進一步推廣和應(yīng)用。如何優(yōu)化隨機神經(jīng)網(wǎng)絡(luò)的學習過程并提高其收斂速度成為研究的一個難點。因此，將進化計算和隨機神經(jīng)網(wǎng)絡(luò)相結(jié)合，以進化計算的隨機性、全局性、隱并行性和魯棒性等優(yōu)點，彌補了神經(jīng)網(wǎng)絡(luò)學習過程的復雜、訓練速度慢、易陷入局部極小點和全局搜索能力差等缺陷，優(yōu)化了隨機神經(jīng)網(wǎng)絡(luò)的學習過程，逐漸成為一個有效的解決辦

3、法。進化計算與神經(jīng)網(wǎng)絡(luò)的結(jié)合促使“進化人工神經(jīng)網(wǎng)絡(luò)”的發(fā)展。
　　本文對進化算法和隨機神經(jīng)網(wǎng)絡(luò)相結(jié)合的情況進行了研究，嘗試將進化算法強大的優(yōu)化計算能力應(yīng)用到隨機神經(jīng)網(wǎng)絡(luò)的學習過程中，通過進化算法的競爭尋優(yōu)和隱并行計算能力來簡化隨機神經(jīng)網(wǎng)絡(luò)的學習過程。并且通過實驗證實了用優(yōu)化后的隨機神經(jīng)網(wǎng)絡(luò)解決問題能取得較優(yōu)的效果。本文主要進行了以下的研究工作:
　　(一)介紹了本文的研究背景和寫作的意義、本課題目前的研究成果和本文的主要研究

4、內(nèi)容。
　　(二)介紹了遺傳算法的原理、數(shù)學機理以及遺傳算法的求解過程；對隨機神經(jīng)網(wǎng)絡(luò)的模型、主要特征和學習過程進行了系統(tǒng)的闡述。并且對目前進化算法和隨機神經(jīng)網(wǎng)絡(luò)結(jié)合研究的現(xiàn)狀進行了綜述。
　　(三)針對波耳茲曼機學習過程的特點，將遺傳算法用于波耳茲曼機的學習過程中，用遺傳算法來優(yōu)化波耳茲曼機的學習過程，期望能不通過概率統(tǒng)計來完成波耳茲曼機的學習過程，針對波耳茲曼機的特點設(shè)計了優(yōu)化其學習過程的遺傳算法。并且將此方法應(yīng)用于天氣

5、的預報實例上，取得了不錯的效果。
　　(四)對隨機神經(jīng)網(wǎng)絡(luò)的強化學習模型和權(quán)值更新策略進行了研究，針對隨機神經(jīng)網(wǎng)絡(luò)強化學習模型學習算法中權(quán)值更新的復雜性和算法對環(huán)境變化反應(yīng)遲鈍的局限性，將遺傳算法應(yīng)用于隨機神經(jīng)網(wǎng)絡(luò)強化學習過程中，提出了優(yōu)化隨機神經(jīng)網(wǎng)絡(luò)權(quán)值更新策略的方法。并且根據(jù)隨機神經(jīng)網(wǎng)絡(luò)的特點設(shè)計了應(yīng)用于該網(wǎng)絡(luò)計算的遺傳算法。
　　雖然本文中對進化算法優(yōu)化隨機神經(jīng)網(wǎng)絡(luò)做了大量的研究并且提出了一些算法，但還要針對算法的理論