高維高噪聲數據聚類中關鍵問題研究.pdf

1、隨著科技的進步,高維高噪聲數據聚類在數據挖掘研究領域中處于越來越重要的地位。聚類分析作為數據挖掘的一項主要研究課題,已引起廣泛重視,同時產生了大量的理論和方法,并取得了豐碩的研究成果。盡管如此,聚類仍面臨著許多問題,尤其隨著數據挖掘技術的廣泛應用,數據對象變得日趨復雜,大量的高維數據和高噪聲數據不斷出現(xiàn),使得聚類研究面臨著“維數災難”和聚類結果對噪聲敏感等問題的挑戰(zhàn)。這要求改進現(xiàn)有聚類技術,同時提出新的聚類理論和方法以適應新的應用。

2、r>　　 本文對高維數據聚類以及健壯聚類等問題進行了較為深入的研究,主要內容包括以下幾個方面:
　　 1.針對高維數據聚類任務中類簇的形狀體積常存在差異,提出了一種基于高斯混合模型(GMM)的子空間聚類算法。高維數據中,樣本類簇通常處于子空間,且不同類簇形狀可能存在差異。許多現(xiàn)有高維數據聚類算法僅考慮前一個因素,而對不同類簇采用同一形狀體積參數。針對此問題,擴展了現(xiàn)有GMM聚類過程,對每個類簇計算一個權矢量和一個局部方差,并利

3、用它們分別鑒定類簇的主要特性,包括類簇的相關維度和形狀體積,從而區(qū)分不同類簇。該問題通過在GMM目標函數中加入權矢量的負熵項及自適應系數得到求解。在仿真數據和真實數據上的實驗結果表明了該算法在高維數據集應用中的優(yōu)越性。
　　 2.針對高維數據聚類任務對噪聲敏感的問題,提出了一種健壯的樣本加權子空間聚類(SWSC)算法。該算法基于樣本加權思想,為每個樣本分配一個反映離群程度的尺度參數,從而實現(xiàn)健壯聚類。各類簇所處的子空間繼而由尺度

4、加權的樣本所確定。該算法首次將樣本加權思想運用于硬劃分類型的聚類算法。在二維仿真數據集、高維仿真數據集以及真實基因數據集上的對比實驗結果表明,對于具有不同噪聲比例的各種維度數據集,該算法均能取得較高的聚類精度,表現(xiàn)出較強的健壯性。
　　 3.從特征選擇角度,針對高維數據聚類任務中不同類簇常具有不同相關特征子集的特點,提出了一種基于約束混合模型(CWMM)的局部特征選擇聚類算法。該算法基于現(xiàn)有局部特征選擇混合模型,將類簇在任一維度

5、上不相關特定分布改進為與其他類簇共同服從的同一分布,從而捕獲類簇間的共性分布。類簇在任一維度上的分布由相關固有分布和同一分布加權和組合而成,兩種分布的權重高低決定相應維度參與識別類簇的相關程度。算法通過對相應模型的似然函數引入各類維度權重參數的約束項實現(xiàn)參數估計。那些對類簇固有分布具有較大權重的維度,即組成相應類簇的局部特征子集。實驗對比了不同算法在仿真數據和真實數據上的聚類性能,結果表明所提算法在類簇重疊現(xiàn)象的高維數據上表現(xiàn)出較現(xiàn)有子

6、空間聚類算法更強的性能。
　　 4.為了提高迭代優(yōu)化健壯聚類算法對噪聲污染數據的聚類質量,提出了一種基于K-Means均勻效應的健壯聚類初始化算法。K-Means聚類結果中各子簇樣本量具有均勻一致的特點,當使用超過實際聚類數進行聚類時,將出現(xiàn)稀疏子簇范圍大,稠密子簇范圍小,以及相鄰稠密子簇范圍相當等現(xiàn)象。算法利用超過實際聚類數的K-Means聚類,通過合并鄰近小子簇、丟棄稀疏大子簇,自動獲得聚類初始簇并有效地消除噪聲,從而實現(xiàn)健

7、壯的聚類初始化。理論和實驗證明了該算法的有效性。
　　 5.針對嚴重噪聲污染數據聚類問題,提出了一種基于自適應多測度Lq范數的健壯聚類算法。該算法利用Lq范數求解數據中心時對噪聲不敏感的特性,對各類簇采用Lq范數距離測度,且對不同類簇設定相應參數qk(qk∈(1,2]),以適應類簇中不同噪聲污染程度的建模需求。通過為各類簇建立一個有關參數qk的非線性變換,自適應求解參數qk,并獲得健壯類簇中心。此外,算法基于聚類所得中心,給出了