基于支持向量機的文本自動分類器的研究與應用.pdf

1、文本自動分類是指根據(jù)文本分類體系，通過對文本進行挖掘與分析，自動地決策文本歸屬類別的過程。隨著數(shù)字信息量的迅速增長，越來越多的領域需要應用到文本自動分類技術，如數(shù)字圖書館、電子會議、信息檢索與過濾、文本分類等，如何構(gòu)建有效的文本自動分類器是機器學習領域的一個研究熱點。
　　 支持向量機是基于統(tǒng)計學習理論的結(jié)構(gòu)風險最小化原理和VC維理論基礎上發(fā)展起來的一種機器學習方法，通過轉(zhuǎn)化為二次規(guī)劃問題求得一個全局最優(yōu)解，能夠有效解決小樣本、

2、非線性及高維模式識別的問題，有效克服了“維數(shù)災難”問題，具有很好的學習能力和泛化能力。文本分類具有樣本向量稀疏、維數(shù)高，訓練集越大，存在的“噪音”樣本相對越多，一般不能在低維特征空間中線性可分的特點，本文提出將支持向量機與文本自動分類器相結(jié)合，以解決文本自動分類中維數(shù)龐大、線性不可分和分類性能不高的問題。
　　 本文在研究了文本分類技術和支持向量機算法的基礎上，根據(jù)文本分類過程，首先對輸入文本進行分詞，去掉文本中的無用詞條，然后

3、統(tǒng)計詞條在文本集中的相關數(shù)據(jù)，利用卡方統(tǒng)計量方法進行特征選擇，TF-IDF方法計算特征項的權重，再根據(jù)文本的特征項和權重數(shù)據(jù)，把文本表示成向量模型，最后，結(jié)合不同核函數(shù)的優(yōu)勢和特點，選擇具有強大內(nèi)推能力和局部性強的Gauss核函數(shù)，設定參數(shù)σ為0.4，C為100，在特征向量空間中利用支持向量機算法求解訓練樣本的分類函數(shù)，得到文本的分類模型。
　　 同時，本文構(gòu)建了一種SVM分類器的優(yōu)化訓練方法：根據(jù)訓練集文本與測試集文本之間的互