海量數(shù)據(jù)分析處理方法的研究.pdf

1、隨著信息技術的發(fā)展,很多領域對信息系統(tǒng)的建設處在轉型階段。以金融領域為例,后續(xù)IT建設的重心逐步從建設“核心業(yè)務交易系統(tǒng)”進入到構建“以客戶為中心、以風險控制和盈利分析為目標的信息管理系統(tǒng)”的發(fā)展階段。這種轉型需要對原有業(yè)務系統(tǒng)的數(shù)據(jù)進行統(tǒng)一分析,實現(xiàn)數(shù)據(jù)跨部門、跨時間和跨平臺共享。為此海量數(shù)據(jù)分析處理需求強烈。MapReduce是由Google公司首先提出的,一種能在大型計算機集群上并發(fā)地處理海量數(shù)據(jù)的框架模型。使用者通過指定一個Ma

2、p函數(shù)將輸入數(shù)據(jù)轉化成為一系列中間鍵-值對,然后由一個自定義的reduce函數(shù)將具有相同鍵的值聚集起來,將結果輸出。很多現(xiàn)實世界對海量數(shù)據(jù)的處理,都可以用這種模型來表示。并行數(shù)據(jù)庫作為一種高性能的數(shù)據(jù)庫系統(tǒng),是并行技術和數(shù)據(jù)庫技術結合的產(chǎn)物,它大大提高了關系數(shù)據(jù)庫中對數(shù)據(jù)的處理效率。常見的并行數(shù)據(jù)庫根據(jù)并行架構的不同,可以分為共性內(nèi)存、共性磁盤、無共享的三種架構方式。本文在分析Mapreduce和并行數(shù)據(jù)庫的基礎上,提出了一種并發(fā)處理海

3、量數(shù)據(jù)的更通用、更可擴展的平臺大概架構。并對相關的產(chǎn)品進行了詳細的測試。首先,我們分析了MapReduce和并行數(shù)據(jù)庫對海量數(shù)據(jù)處理的并行方式,具體的了解了兩種方法的發(fā)展以及實現(xiàn)思路。接著,我們從多個方面對兩者進行了詳細的比較,得到了它們的優(yōu)缺點,為后續(xù)的設計打下了基礎。接著我們提出了三種MapReduce和SQL結合的方式,分別是MapReduce引擎增加SQL層、MapReduce調(diào)度SQL語句、SQL語句調(diào)用MapReduce,通

4、過三種結合方式的比較,我們認為SQL語句調(diào)用MapReduce的方法是最好的一種。然后,我們提出了將并行數(shù)據(jù)庫和MapReduce結合的大概設計框架,這種架構采用客戶端、主控節(jié)點、分支節(jié)點的三點式架構。其中,主控節(jié)點負責收集與處理其他節(jié)點的各種信息；分支節(jié)點負責任務的具體執(zhí)行。接著,我們通過MapReduce的自定義函數(shù)對SQL進行了擴展,提出了將MapReduce嵌入到SQL語句里面的方式和具體的執(zhí)行方式。接著,我們描述了數(shù)據(jù)分布策略