改進的SVM并行回歸預測算法.pdf

1、隨著網絡技術的快速發(fā)展，各行各業(yè)的數據都急劇增長，如何從海量數據中快速挖掘有用信息，已成為亟待解決的問題。對于大規(guī)模數據集，傳統(tǒng)的單機數據挖掘算法已經不能滿足當前的需求。并行處理數據已經成為解決大數據問題的一種有效途徑，目前基于Hadoop的并行計算是處理大數據的一種可行方案。支持向量機基于結構風險化最小原則，避免局部最優(yōu)問題，很少出現過度擬合，因而廣泛應用于模式識別，文本分類，圖像識別等領域，對非線性問題或維度比較高的數據集，支持向量

2、機的分類和預測算法的準確率相對其他數據挖掘算法較高。但是當數據集規(guī)模非常大時，由于支持向量機本身計算復雜度高，使得支持向量機訓練速度比較緩慢。
　　本文在研究了支持向量機理論以及目前比較常用的分布式支持向量機算法后，發(fā)現傳統(tǒng)的分布式支持向量機算法—層疊式SVM算法存在很多改進的地方。因此，結合目前比較流行的并行計算平臺Hadoop框架，提出了基于Hadoop MapRed uce的框架下改進的SVM并行回歸預測算法。該算法的核心思

3、想：首先，將大規(guī)模數據集并行聚類，聚類后每個簇類的樣本相似度較高，將結果以鍵值對的形式存儲在HDFS中，聚類結果中每個樣本的鍵值對形式為<簇ID，樣本向量>，然后對聚類結果數據集分塊，不同簇類別分別建立不同的預測模型，最后測試樣本集經過分布式框架分塊后，每個分塊樣本集中的樣本經過簇類別判斷后，尋找相應的預測模型進行回歸預測。在實驗室搭建標準分布式集群，使用UC I標準數據集作為測試數據，對傳統(tǒng)的單機SVM算法、層疊