基于反饋的動態(tài)負載平衡調(diào)度算法在Hadoop異構環(huán)境中的設計與實現(xiàn).pdf

1、云計算是以互聯(lián)網(wǎng)為基礎的新一代技術的總稱,是并行計算、分布式計算和網(wǎng)格計算的綜合發(fā)展。云計算技術將計算資源以服務的形式提供給用戶使用,廣泛應用于海量信息的存儲和快速高效的數(shù)據(jù)分析。Google提出的MapReduce計算模型將云計算應用的開發(fā)抽象成map和reduce兩個操作,封裝了并行計算中的數(shù)據(jù)處理、本地化文件系統(tǒng)、網(wǎng)絡負載調(diào)節(jié)和容錯處理等細節(jié),降低了云計算應用設計開發(fā)的難度。
　　 本文在介紹云計算的基本概念、體系結構及其

2、應用發(fā)展的基礎上,分析了云計算模型的實現(xiàn)框架和容錯機制。針對云計算Hadoop開源平臺,詳細分析了其中的分布式文件系統(tǒng)(HDFS,Hadoop Distributed File System)和MapReduce計算模型,并對Hadoop平臺下的作業(yè)調(diào)度技術、FIFO、公平隊列和計算能力作業(yè)調(diào)度算法做了深入的研究。
　　 對Hadoop現(xiàn)有的調(diào)度算法在異構環(huán)境下的計算性能進行了詳細的分析,包括硬件資源的CPU使用率和磁盤I/O讀

3、寫頻率對MapReduce作業(yè)調(diào)度的影響。在此基礎上通過對現(xiàn)有的計算能力調(diào)度算法進行改進,提出了一種基于反饋的動態(tài)負載平衡調(diào)度算法,該算法通過計算已運行作業(yè)的硬件負載耗費情況,將運行結果反饋給控制節(jié)點,修改現(xiàn)有的作業(yè)調(diào)度策略,提高了MapReduce在異構的Hadoop節(jié)點集群中的運行效率。
　　 最后,基于文化資源共享系統(tǒng)搭建了Hadoop云計算集群實驗平臺,在該平臺上對本文提出的基于反饋的動態(tài)負載平衡調(diào)度算法的運行效率做了詳