19291.logistic回歸在數(shù)據(jù)分析中的應(yīng)用研究

1、暨南大學(xué)碩士學(xué)位論文題名（中英對(duì)照）：Logistic回歸在數(shù)據(jù)分析中的應(yīng)用研究StudyontheapplicationsofLogisticregressiontodataanalysis作者姓名：黃俊煌指導(dǎo)教師姓名安聰沛及學(xué)位、職稱：博士、副教授學(xué)科、專業(yè)名稱：應(yīng)用統(tǒng)計(jì)學(xué)論文提交日期：2015年5月20日論文答辯日期：2015年5月24日答辯委員會(huì)主席：楊力華論文評(píng)閱人：劉春光、江穎學(xué)位授予單位和日期：2015年6月28日暨南大學(xué)

2、碩士學(xué)位論文Logistic回歸在數(shù)據(jù)分析中的應(yīng)用研究I摘要在研究實(shí)際問(wèn)題當(dāng)中，經(jīng)常會(huì)涉及一些預(yù)測(cè)分類問(wèn)題。Logistic回歸模型作為一種重要分類預(yù)測(cè)模型，其主要優(yōu)點(diǎn)是具有堅(jiān)實(shí)的統(tǒng)計(jì)學(xué)基礎(chǔ)以及具有有效的概率模型去解釋數(shù)據(jù)。在尋找Logistic回歸模型最優(yōu)參數(shù)時(shí)，可以等價(jià)為求解使其似然函數(shù)取得最大值的參數(shù)，則求解問(wèn)題變?yōu)闊o(wú)約束優(yōu)化問(wèn)題。由于該無(wú)約束優(yōu)化問(wèn)題是非線性，需要使用迭代法進(jìn)行求解。擬牛頓法在求解無(wú)約束優(yōu)化問(wèn)題求解方法具有較快的

3、計(jì)算速率，而且面對(duì)高維的數(shù)據(jù)集時(shí)穩(wěn)定性較高，故在本文中使用擬牛頓算法對(duì)不同類型的樣本數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)，詳細(xì)闡述Logistic回歸模型在數(shù)據(jù)分類中，各種不同擬牛頓算法的計(jì)算速率以及穩(wěn)定性和Logistic回歸模型對(duì)不同種類數(shù)據(jù)的適用性。選用SR1，BFGS，Broyden和DFP四種不同的擬牛頓算法對(duì)ds1.10數(shù)據(jù)集和ds1.100數(shù)據(jù)集進(jìn)行Logistic回歸模型的參數(shù)擬合，不斷的更改算法迭代停止的條件，計(jì)算結(jié)果表明：在具有相同的迭代

4、停止條件以及初始迭代值時(shí)，BFGS擬牛頓算法對(duì)于高維和低維數(shù)據(jù)集均具有較快的計(jì)算速率，且穩(wěn)定性高，這與國(guó)際上的已知結(jié)論一致，均認(rèn)為BFGS擬牛頓算法在四種擬牛頓算法中最為優(yōu)秀[25]。選用BFGS擬牛頓法對(duì)四個(gè)具有不同特點(diǎn)的數(shù)據(jù)集ds1.10，ds1.100，SIDO以及CINA進(jìn)行Logistic回歸模型的參數(shù)估計(jì)和交叉驗(yàn)證。ds1.10，ds1.100分別代表低維和高維非稀疏數(shù)據(jù)集，SIDO和CINA代表高維稀疏數(shù)據(jù)集。計(jì)算結(jié)果表明