基于數據包絡分析的特征選擇方法及應用研究.pdf

1、大數據爆炸式的增長對數據挖掘帶來了空前的挑戰(zhàn)，需要獲取并分析的樣本的范圍有了普遍的擴展，新的數據類型的出現成了十分常見的現象。各類計算機和互聯網在世界范圍的廣泛領域中的應用，導致了數量非常巨大、結構異常復雜的各類數據的出現。特征選擇通過棄去無關的、冗余的、噪聲性的特征而降低數據的維度，從而起到了非常有意義的作用：降低了數據采集與數據加工的成本；推動與加速了改進算法精確性的學習型算法的研究；導致了更加具有可理解性的模型的構建.因此，對特征

2、選擇的深入研究是非常重要的。
　　分析了通過內部距離或類間距離及最大化互信息等工具而形成了一些有效的特征選擇啟發(fā)式算法，指出了那些算法的啟發(fā)式排序通常僅僅依據類相關性的度量，因而它們在高維度數據集上的運行總是相當不理想；論述了特征冗余的存在及其在特征選擇問題上的重要性，以及近來由此而出現的一系列新的啟發(fā)式算法在高相關性與低冗余性進行權衡的要點。鑒于更多的方法、原則、參數有效整合的思考，我們提出了可以把特征選擇歸類于一個多指標評價過

3、程。
　　數據包絡分析（DEA）是一種有效進行決策單元評估的非參數方法，在許多領域有著十分廣泛的應用，它采用線性規(guī)劃的方法并將決策單元的生產過程表達成一個多輸入、多輸出的黑箱結構，我們通過一種全新的視角去看待DEA，將其實體性的決策單元泛化，使DEA效率評價方法與特征選擇能夠有效地整合，并將DEA對多指標系統的有效評估功能應用于特征選擇。
　　構建了一種基于超效率 DEA的特征排序框架。在此基礎上，給出了速度快、效果好的集成

4、DEA和條件獨立性測度的DEAFS特征排序算法。與現有特征選擇方法比較，DEAFS的獨特之處在于：對每個特征進行條件獨立性測試時，將所有其它特征均作為了條件變量。此外，DEAFS還采用了超效率 DEA模型根據條件獨立性測試結果對特征進行排序。
　　考慮到 DEAFS在條件獨立性測試時對于參與條件變量特征規(guī)模的敏感性，提出了一種基于超效率 DEA和類獨立策略的迭代前向搜索特征選擇算法 DEA-CS。該算法將類標簽視為一個獨立的類而對

5、其與特征間的相關性及條件獨立性進行測試，并基于超效率 DEA模型對特征進行迭代排序。DEA-CS雖折中了速度，但有更好的精確度。對這些算法，我們還給出了和計算復雜度分析和分類實驗驗證。在一批著名的UCI數據集上，我們將所給出的兩種算法與一批著名且常用的經典特征選擇算法在實驗中進行了比較，并給出了實驗結果，表明了所提算法的明顯優(yōu)勢。
　　最后，以用戶在線評論及在線評論的有用性預測為實際背景，設計了一個基于IP池和并行技術的大規(guī)模在線