基于稀疏表征的降維算法研究.pdf

1、信息科學技術的迅速發(fā)展和廣泛應用，使非結構化的超高維數據大量涌現。這些高維數據往往成為模式識別和機器學習領域處理的難題。究其緣由在于:(1)所謂的“維數災難”帶來的技術難度;(2)維數太高所要求的存儲量大和計算代價高。因此，有關數據降維方面的課題研究長期以來都是相關領域研究的重點課題。
　　在過去的幾十年里，有大量的降維(Dimensionality Reduction，DR)算法包括線性降維算法和非線性降維算法被不斷地提出并被深

2、入研究，其中常用的包括傳統(tǒng)的線性降維算法如主成分分析(Principal Component Analysis，PCA)和線性判別分析(LinearDiscriminant Analysis，LDA);幾種經典的流形學習算法如局部線性嵌入(Locally LinearEmbedding，LLE)、等距映射（Isometric Mapping，ISOMAP）、拉普拉斯特征映射（Laplacian Eigenmaps，LE）及局部切空間排列

3、算法(Local Tangent Space Alignment，LTSA)。然而，現存的很多算法存在很多缺陷，如PCA不具有判別力，LDA受困于小樣本問題，LLE等流形學習算法卻無法應用于識別問題，等等。因此，本文的工作主要針對基于稀疏表征理論的降維算法問題進行研究，旨在得到有效可行的降維算法并將所得算法應用于人臉識別以提高人臉識別的性能。本文的主要研究工作如下:
　　(1)對目前降維問題的研究背景及意義、降維技術的國內外研究現

4、狀及其目前所面臨的挑戰(zhàn)等作了綜合分析;
　　(2)通過引入類間權重矩陣和類內權重矩陣，本文提出了一種新的有監(jiān)督線性降維算法——線性判別投影(Linear Discriminant Projection，LDP)方法。其一方面最大化各子流形間的分離性和最小化局部子流形的緊致性，另一方面還保持數據的局部近鄰信息。同時，LDP克服了小樣本問題。除此之外，LDP對outlier數據具有魯棒性。
　　(3)通過在近鄰保持嵌入(Neig

5、hborhood Preserving Embedding，NPE)方法中引入類間散度和類內散度，本文提出了一種判別近鄰保持嵌入(DiscriminatingNeighborhood Preserving Embedding，DNPE)方法。DNPE通過施加判別約束，增強算法的判別力，有效地提高人臉識別性能，增強了算法的實用性能;
　　(4)受稀疏表征(Sparse Representation，SR)理論的啟發(fā)，提出了一種新的基

6、于稀疏表征的算法——稀疏判別近鄰保持嵌入（Sparse Discriminating NeighborhoodPreserving Embedding，SDNPE）。SDNPE算法在無需構造鄰接圖和計算權值矩陣的情況下，直接通過稀疏重構來計算權值矩陣，從而避免了因參數太多帶來的局限性，改善了算法的識別性能。
　　本文在ORL、Yale、AR和Extended Yale B四個人臉數據集上進行了仿真實驗，實驗結果證明了本文所提出的三