大規(guī)模鍵值分布式存儲系統的設計與實現.pdf

1、隨著互聯網的不斷發(fā)展，全球網絡化的不斷普及，海量信息的不斷聚合，數據量保持指數級增長。面對當前的海量數據，傳統的單機文件存儲系統并不能提供其所需要的存儲能力和高性能讀、寫需求，同時，傳統文件系統的擴展性不佳也使得當數據業(yè)務需求發(fā)生變化時服務能力不足。鑒于此，本文中提出了一種新型的分布式鍵值存儲系統的架構模型，該模型通過結合散列算法和一致性哈希算法，不僅解決了已有分布式系統中存在的擴展性問題和節(jié)點負載均衡問題，同時有效的避免了當機器數目發(fā)

2、生改變時，數據移動代價過高的問題。本文的主要工作有：
　　第一，介紹了當前管理海量數據的主要問題，以及本文的研究動機。
　　第二，詳細分析了已有的分布式存儲系統，包括 NFS系統，HDFS系統，DYNAMO系統等當前比較主流的分布式文件存儲系統，這些系統的相關核心技術對于本文中設計的分布式存儲系統具有良好的借鑒性和參考性。
　　第三，在相關技術準備完成后，本文設計了一種新的大規(guī)模鍵值分布式存儲系統的架構方式，該系統使用

3、三層的架構模式，同時在三層中都設計了良好的災備方案，從前端服務器層，到最底層的數據節(jié)點層，都盡可能的在保證高效性的前提下設計了良好的災備機制，雖然數據備份犧牲了一定的數據一致性，但仍可以很好的滿足應用需求。
　　第四，完成系統設計后，本文中使用python語言對系統進行了仿真，將三層架構分解為三個實現模塊，并將每一個模塊再次詳細拆分為不同功能的子模塊，使得整個系統的耦合性降到最低。
　　第五，為了保證系統的功能完備性和可靠性