基于改進PCA和LDA的特征提取方法.pdf

1、在機器學習和模式識別領域，主成分分析（Principal Component Analysis,PCA）和線性判別分析（Linear Discriminant Analysis,LDA）及其相關的改進方法是常用的維數約減方法，它們可以有效地降低數據集的維數，避免高維數據集帶來的維數災難問題。然而，在實際應用中，兩種方法均存在不足，如基于L1范數的核主成分分析（KPCA-L1）在處理較大規(guī)模的數據集時，建模速度將會比較慢；傳統(tǒng)的LDA使用

2、基于L2范數的距離度量，對噪聲數據比較敏感。為了提高KPCA-L1的建模速度、增強LDA的抗噪聲能力，本文對KPCA-L1和LDA兩種特征提取方法開展了研究。
　　1.提出了基于樣本選取和加權 KPCA-L1的異常檢測方法。所提方法首先從訓練集中選取具有代表性的樣本子集，然后為樣本子集中的樣本賦予權重，用帶有權重的樣本子集構造加權KPCA-L1。與KPCA-L1相比，所提方法有效地減小了訓練集的規(guī)模，加快了特征提取模型的建模速度，

3、改善了KPCA-L1算法的更新方法，并在一定程度上加快了異常檢測的速度。在人工數據集和標準數據集上的實驗結果表明，在保證異常檢測準確率的同時，所提方法比KPCA-L1具有更快的處理速度。
　　2.提出了基于Lp范數的線性判別分析（LDA-Lp）算法。所提方法通過最大化基于Lp范數距離度量的類間散度與類內散度的比例，利用梯度上升法與貪婪算法構造一組局部最優(yōu)的映射向量。與 LDA相比，所提方法可以處理基于Lp范數（帶有任意p值）的距離