基于Hadoop多維時(shí)態(tài)數(shù)據(jù)挖掘模型的研究與應(yīng)用.pdf

1、隨著信息技術(shù)與互聯(lián)網(wǎng)技術(shù)的深入發(fā)展，全球數(shù)據(jù)量呈現(xiàn)出爆炸式增長(zhǎng)。大規(guī)模數(shù)據(jù)集不僅具有時(shí)間特性,隨著社會(huì)生活資料和生產(chǎn)資料日益繁雜，還具有明顯的多維屬性。如何真實(shí)的反應(yīng)出現(xiàn)實(shí)世界中事物和事物之間、事物的不同屬性之間以及不同事物的不同屬性之間的聯(lián)系，從而挖掘出有效的、新穎的、潛在可用的模式和規(guī)則，具有重要的研究意義。
　　數(shù)據(jù)挖掘是從規(guī)模龐大的、有噪聲的數(shù)據(jù)中提取出數(shù)據(jù)內(nèi)部規(guī)律的表現(xiàn)特征的方法和技術(shù)。面對(duì)海量的多維時(shí)態(tài)數(shù)據(jù)，傳統(tǒng)的存儲(chǔ)

2、系統(tǒng)以及數(shù)據(jù)挖掘模式已經(jīng)不能勝任其所面臨的在效率、擴(kuò)展性和成本等方面的挑戰(zhàn)。云計(jì)算技術(shù)，特別是Hadoop平臺(tái)以其擴(kuò)展性強(qiáng)、性價(jià)比高、容錯(cuò)性好等優(yōu)勢(shì)給出了解決大數(shù)據(jù)挖掘的方案。結(jié)合Hadoop云計(jì)算平臺(tái)，實(shí)現(xiàn)大規(guī)模多維時(shí)態(tài)數(shù)據(jù)的挖掘是本論文要進(jìn)行研究的。
　　首先，從時(shí)態(tài)數(shù)據(jù)入手，構(gòu)造出多維時(shí)態(tài)數(shù)據(jù)SDTE模型?？偨Y(jié)歸納了時(shí)間相關(guān)的概念,以時(shí)間特性為中心，討論了時(shí)態(tài)數(shù)據(jù)的多維性。從現(xiàn)實(shí)世界和數(shù)據(jù)庫(kù)系統(tǒng)角度出發(fā)，結(jié)合時(shí)態(tài)數(shù)據(jù)的數(shù)值型

3、序列、事務(wù)型序列以及事件性序列挖掘的研究，提出了并建立了統(tǒng)一規(guī)范的多維時(shí)態(tài)數(shù)據(jù)SDTE模型。
　　其次，結(jié)合大規(guī)模數(shù)據(jù)挖掘和Hadoop技術(shù)平臺(tái)，架構(gòu)出基于Hadoop技術(shù)框架的大規(guī)模多維時(shí)態(tài)數(shù)據(jù)挖掘模型。模型采用分布式文件系統(tǒng)實(shí)現(xiàn)超大文件數(shù)據(jù)的存儲(chǔ)和容錯(cuò)，同時(shí)使用MapReduce的編程模式進(jìn)行并行計(jì)算。自頂向下分層分為動(dòng)態(tài)交互層、業(yè)務(wù)應(yīng)用層、數(shù)據(jù)挖掘?qū)雍头植际狡脚_(tái)層。著重對(duì)數(shù)據(jù)挖掘?qū)拥臄?shù)據(jù)管理模塊和并行化編程模塊進(jìn)行了整合和優(yōu)

4、化。提出了Hive-HBase集成模型對(duì)HDFS進(jìn)行操作，構(gòu)建了通用性的并行化編程模型。
　　然后，基于模型改進(jìn)了關(guān)聯(lián)規(guī)則FP-Growth算法并進(jìn)行實(shí)驗(yàn)。基于對(duì)多維關(guān)聯(lián)規(guī)則概念的研究，在FP-Growth算法的基礎(chǔ)上對(duì)影響算法效率較大的求子條件模式基的算法進(jìn)行改進(jìn)，提出了FPCpb算法。并對(duì)FPCpb算法進(jìn)行并行化。
　　最后，搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)驗(yàn)，依據(jù)評(píng)估標(biāo)準(zhǔn)對(duì)數(shù)據(jù)進(jìn)行分析，驗(yàn)證了Hadoop多維時(shí)態(tài)數(shù)據(jù)挖掘模型的可行性