基于粗糙集的粒度神經網絡研究.pdf

1、作為粒計算的三個主要模型之一,粗糙集理論可以直接對數(shù)據(jù)進行分析和推理,從中發(fā)現(xiàn)隱含的知識,揭示潛在的規(guī)律。因此,是一種天然的數(shù)據(jù)挖掘方法。而作為數(shù)據(jù)挖掘的另一種經典方法,神經網絡是一種模仿生物神經網絡行為特征,進行分布式并行信息處理的智能計算模型。鑒于粗糙集和神經網絡在信息處理方式、知識獲取方式、抑制噪聲能力、泛化測試能力等方面有很多互補之處,將兩者集成的粒度神經網絡模型作為智能集成系統(tǒng)的一個新的重要分支,已成為該領域的研究熱點問題之一

2、。
　　本文從兩個方面研究了基于粗糙集的粒度神經網絡模型。一種方式是使用粗糙集作為前置系統(tǒng),利用屬性約簡算法對數(shù)據(jù)集進行粒度約簡,以簡化神經網絡的結構,提高神經網絡的訓練速度和預測精度。另一種方式是利用粗糙集及其擴展模型來提取決策規(guī)則,根據(jù)提取的規(guī)則來定義粒度神經元及其連接權值,實現(xiàn)粗糙集和神經網絡的無縫融合。此外,本文還研究了每一種粒度神經網絡模型的極速學習算法,該算法通過數(shù)學變換實現(xiàn)了學習過程的一次性完成。本文的主要研究內容包

3、括以下幾個方面:
　　1.在保證分類能力不變的基礎上,通過粗糙集理論中的屬性約簡算法對訓練樣本集進行粒度約簡。根據(jù)約簡后的訓練集,優(yōu)化粒度BP神經網絡的結構,加快網絡的訓練速度,提高網絡的泛化能力。針對傳統(tǒng)BP算法訓練速度慢、易陷入局部最小和過擬合等問題,本文提出了基于具有全局搜索能力的量子微粒群算法來自適應地確定粒度BP網絡的隱層神經元個數(shù)、連接權值和閾值等參數(shù)。
　　2.利用粗糙集和AP聚類算法來優(yōu)化粒度RBF神經網絡結

4、構,提出了一種新的粒度RBF神經網絡模型。在該模型中,利用無需任何先驗知識的AP聚類算法對約簡后的數(shù)據(jù)集進行聚類,將聚類后得到的中心及其寬度傳遞給粒度RBF網絡隱層中的RBF單元。然后,對每一個約簡后的樣本實例,計算隱層中RBF單元的輸出,并利用傳統(tǒng)RBF算法訓練粒度RBF網絡。
　　3.提出了一種改進的極速學習算法,用來優(yōu)化單隱層粒度神經網絡模型。該算法利用AP聚類自適應地確定極速學習算法中的隱層節(jié)點個數(shù),并以聚類中心和寬度構造

5、了新的激活函數(shù)(高斯函數(shù))。利用該算法來優(yōu)化粒度BP神經網絡和粒度RBF神經網絡,實現(xiàn)這兩種粒度神經網絡在統(tǒng)一框架下的自適應極速學習,以此建立了具有自適應極速學習能力的單隱層粒度神經網絡模型。
　　4.根據(jù)屬性約簡和值約簡后的數(shù)據(jù)集提取的決策規(guī)則,建立了一種新的粒度神經網絡模型——粗規(guī)則粒度神經網絡。在該模型中,規(guī)則匹配層取代了傳統(tǒng)神經網絡結構中的隱層,該層的每一個粒度神經元代表一條決策規(guī)則,并依據(jù)規(guī)則的前件和后件初始化輸入連接權

6、值和輸出連接權值。最后,利用極速學習算法進一步調整輸出連接權值,以提高網絡的分類能力。
　　5.考慮到決策規(guī)則還應具有一定的容錯能力,基于變精度粗糙集理論,提出了粒度雙神經元網絡及其學習算法。在該模型中,中間層神經元都為粒度雙神經元結構,用來表示每條決策規(guī)則的上近似和下近似。最后,利用極速學習算法調整網絡的連接權值,以提高網絡的分類能力。此外,為提高粒度雙神經元處理大規(guī)模數(shù)據(jù)集的能力,本文引入AP聚類對數(shù)據(jù)集進行粒化處理,提出了基