基于SVm-KNN的文本分類系統(tǒng)的設計與實現.pdf

1、隨著因特網的飛速發(fā)展，人們可以從網絡上獲取越來越多諸如文本、圖片、視頻等各種形式的信息，而其中半結構化或無結構化的文本信息占據了很大一部分。如何利用文本分類技術對這些文本信息進行分門別類是非常重要的。文本分類技術在一定程度上解決了信息雜亂的問題，而且它已成為搜索引擎、垃圾郵件過濾等領域的基礎。所以，對文本分類的研究有著重要的意義。
　　本文首先介紹了中文文本分類所涉及到的相關理論，如:向量空間模型、特征選擇、分類方法、評價指標、權

2、重計算方法以及相似度計算方法。
　　其次通過對權重計算算法TFIDF的分析研究，針對傳統(tǒng)TFIDF算法忽略特征項的在整個樣本集上各個類之間的分布情況這一不足，在傳統(tǒng)算法中增加了表示特征項在各個類間的分布情況的不均衡變量以及表示類內各個文本間分布情況的參數，使改進后的權重計算方法更能夠體現出特征項的類別貢獻率。對信息增益特征選擇方法進行了分析，針對信息增益方法在樣本集不均勻時，性能大幅下降的缺點，引入了體現特征項類別表征能力的分散度

3、和集中度兩個變量，使信息增益方法進一步提升性能。對KNN和SVM分類方法進行了分析，在此基礎上，針對SVM方法在最優(yōu)分界面附近分類準確度降低的缺點和KNN分類速度慢的缺點，提出了SVM-KNN分類方法，提高了分類精度和速度。并針對該算法在樣本分布不平衡時存在的不足之處，加入了懲罰機制，進行了改進。
　　在理論研究的基礎上，構建了一個包括預處理模塊、權重計算和特征選擇模塊、分類模塊以及性能評測模塊四個功能模塊的中文文本分類系統(tǒng)，用C