非凸優(yōu)化問題的神經網絡優(yōu)化算法與應用的研究.pdf

1、優(yōu)化問題在科學和工程應用中隨處可見。神經網絡能獲得優(yōu)化問題的實時解，所以利用神經網絡對優(yōu)化問題求解已經得到了廣泛的關注。
　　本文針對偽凸優(yōu)化問題與非凸二次優(yōu)化問題兩類情形，基于投影理論，極值映射以及法錐相關性質，分別構造離散和連續(xù)型神經網絡的求解算法;并探討了其在求解支持向量機中的應用。全文共分以下三個部分:
　　針對偽凸優(yōu)化問題，提出了一個離散型神經網絡模型。首先，利用Karush-Kuhn-Tucker(KKT)條件和

2、投影理論構造投影方程，使得投影方程的解與優(yōu)化問題的解一一對應;進一步基于投影方程建立離散神經網絡;理論結果表明，網絡的平衡點與優(yōu)化問題的最優(yōu)解相對應，且網絡具有全局指數(shù)收斂性。相比于連續(xù)網絡，本文所構造的網絡結構簡單，減少了計算的復雜度;所得理論結果保證了網絡能夠有效求解偽凸優(yōu)化問題。最后，利用數(shù)值算例進行仿真，數(shù)值結果表明了所設計的網絡求解偽凸優(yōu)化問題的有效性。
　　針對非凸二次規(guī)劃問題，首先根據(jù)規(guī)劃問題的等式約束與不等式約束，

3、分別構造了不同的罰函數(shù)。然后，利用極值映射以及正則函數(shù)的相關性質構造一微分包含形式的神經網絡模型。針對所構造的網絡模型，基于微分包含相關性質證明了罰函數(shù)沿著所構造的網絡能在有限時間收斂至可行域內。其次，對網絡的平衡點與臨界點的一致性進行了證明，并基于切錐與法錐的性質分析了優(yōu)化問題的最優(yōu)點集與臨界點集之間的關系。最后，在適當?shù)募僭O條件下，對網絡的收斂性進行了嚴格的證明。
　　針對支持向量機的分類與回歸問題導出的二次規(guī)劃問題，利用所構