非線(xiàn)性共軛梯度算法研究.pdf

1、最優(yōu)化是一門(mén)應(yīng)用性很強(qiáng)的學(xué)科,近年來(lái),隨著計(jì)算機(jī)的發(fā)展以及實(shí)際問(wèn)題的需要,大規(guī)模優(yōu)化問(wèn)題越來(lái)越受到重視.共軛梯度算法是最優(yōu)化中最常用的方法之一,它具有算法簡(jiǎn)單、存儲(chǔ)需求少、易于實(shí)現(xiàn)等優(yōu)點(diǎn),十分適合于大規(guī)模優(yōu)化問(wèn)題. 非線(xiàn)性共軛梯度算法已有50多年的歷史,最早是由計(jì)算數(shù)學(xué)家Hestenes和幾何學(xué)家Stiefel為求解線(xiàn)性方程組Ax=b,x∈Rn而獨(dú)立提出的較著名的有FR方法、PRP方法、HS方法和LS方法等.非線(xiàn)性最優(yōu)化的共軛梯

2、度算法的收斂性分析,也就是討論各種共軛梯度算法在不同線(xiàn)搜索下的收斂性質(zhì).早期工作主要由Fletcher、Powell、Beale等學(xué)者給出的,后來(lái)Nocedal、Gilbert、Nazareth、Al-Baali、Storey等學(xué)者在收斂性方面得到不少新結(jié)果,我國(guó)學(xué)者戴閾虹、袁亞湘、韓繼業(yè)、劉光輝、王長(zhǎng)鈺、連淑君、時(shí)貞軍、韋增欣等也得到了不少新成果.每種經(jīng)典的非線(xiàn)性共軛梯度算法都有各自的優(yōu)缺點(diǎn),為了結(jié)合各種方法的優(yōu)點(diǎn),混合非線(xiàn)性共軛梯度

3、算法應(yīng)運(yùn)而生.也有很多學(xué)者研究超記憶梯度法等. 本文主要研究求解無(wú)約束優(yōu)化問(wèn)題的非線(xiàn)性共軛梯度算法,并討論這些方法的全局收斂性和數(shù)值表現(xiàn)，從對(duì)各個(gè)經(jīng)典方法的收斂性分析希望找到收斂性和數(shù)值表現(xiàn)更好的方法,本文從βκ和ακ的構(gòu)造出發(fā)得到了一些較好的結(jié)果. 本文的結(jié)構(gòu)如下： 第一章對(duì)最優(yōu)化方法進(jìn)行了簡(jiǎn)單的介紹,并介紹了本文所要研究的問(wèn)題、背景、已有結(jié)果以及共軛梯度算法的研究現(xiàn)狀. 第二章在CD方法的基礎(chǔ)上拓展了

4、CD方法的適用范圍,得到一簇共軛梯度下降法,且給出了充分下降性和全局收斂性的證明.數(shù)值試驗(yàn)說(shuō)明在拓展的范圍內(nèi)該方法是適用的. 共軛梯度算法對(duì)一般函數(shù)來(lái)說(shuō),其收斂性是有條件的,不少學(xué)者采用不同的方法對(duì)其收斂性進(jìn)行研究.第三章主要提出了共軛梯度算法全局收斂的一個(gè)充分條件,與以往為數(shù)不多的此類(lèi)充分條件的研究相比該充分條件更直觀,更易于驗(yàn)證.另外還構(gòu)造了滿(mǎn)足此充分條件的βκ,數(shù)值試驗(yàn)說(shuō)明該方法是有效的. 第四、五章分別提出了一種新Arm