面向?qū)嵶C方法的互聯(lián)網(wǎng)數(shù)據(jù)提取系統(tǒng)研究.pdf

1、在管理研究，特別是在實(shí)證研究過程中，研究目標(biāo)相關(guān)數(shù)據(jù)的獲取是一個相當(dāng)重要的環(huán)節(jié)，它既為研究方向的確立提供基本的現(xiàn)實(shí)信息，供研究者進(jìn)一步地對研究目標(biāo)進(jìn)行分析，同時又決定了研究所使用的方法和接下來的研究流程。因此，研究目標(biāo)相關(guān)數(shù)據(jù)的獲取過程在管理研究中起著重要作用。
　　目標(biāo)數(shù)據(jù)的獲取一直是困擾研究人員的難題，在傳統(tǒng)的數(shù)據(jù)獲取過程中，數(shù)據(jù)的來源相當(dāng)有限，并且獲取的方式具有局限性，對數(shù)據(jù)進(jìn)行處理，將原始數(shù)據(jù)提取為可用于分析的數(shù)據(jù)也需要耗

2、費(fèi)許多人力支出，使得人力成本較高。在當(dāng)今的大數(shù)據(jù)時代背景下，互聯(lián)網(wǎng)給當(dāng)今社會帶來了極大的便利，并產(chǎn)生了海量的數(shù)據(jù)，這些數(shù)據(jù)給各類機(jī)構(gòu)帶來價值的同時，也給管理研究人員提供了大量的研究對象，將互聯(lián)網(wǎng)數(shù)據(jù)作為管理研究的數(shù)據(jù)源是理想的選擇。
　　在現(xiàn)階段下，對互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行提取的方式主要有手工操作、使用網(wǎng)絡(luò)數(shù)據(jù)抓取軟件和編寫爬蟲軟件三種，這些方式各有優(yōu)缺點(diǎn)。如何高效、準(zhǔn)確、靈活地獲取互聯(lián)網(wǎng)數(shù)據(jù)用作管理研究，是本文的主要研究目標(biāo)。本文的主要

3、研究內(nèi)容是為了達(dá)成這一目標(biāo)而提出一個互聯(lián)網(wǎng)頁面數(shù)據(jù)提取框架，以滿足管理研究過程中對數(shù)據(jù)爬取的多樣性需求。
　　本文對數(shù)據(jù)爬取的整個流程進(jìn)行了深入地分析，對業(yè)務(wù)邏輯進(jìn)行了詳細(xì)地探討，并查閱了現(xiàn)有的相關(guān)資料，以此為基礎(chǔ)得到了框架各個模塊的設(shè)計方案，框架在整體設(shè)計上可以劃分為五個具體的模塊。
　　框架使用了插件化管理的方式以滿足多種形式不同的爬取任務(wù)靈活性的要求，并設(shè)計了相應(yīng)的插件管理策略，在滿足了靈活性需求的同時，也簡化了任務(wù)的

4、管理流程。
　　通過對數(shù)據(jù)獲取過程中所涉及的各個環(huán)節(jié)進(jìn)行明確的邏輯劃分，框架設(shè)計了相應(yīng)的流程模塊接口，并根據(jù)這些接口進(jìn)一步地開發(fā)出了多種幫助研究人員進(jìn)行各個爬取模塊設(shè)計的開發(fā)庫與工具。
　　針對不同形式的網(wǎng)頁數(shù)據(jù)，框架提供了多種數(shù)據(jù)爬取策略，研究人員可根據(jù)具體的數(shù)據(jù)爬取情景來選擇相應(yīng)的數(shù)據(jù)爬取策略。
　　由于研究人員在數(shù)據(jù)爬取過程中具有不同層次的幫助需要，框架為研究人員提供了多層面的服務(wù)，并設(shè)計了一個Web平臺用于簡化