面向領(lǐng)域的文本分類與挖掘關(guān)鍵技術(shù)研究.pdf

1、大量文本以電子形式存在，人們需要對大量的文本信息資源進行有效的組織和管理，因此文本分類引起人們的高度重視。近年來，關(guān)于文本分類技術(shù)的研究取得了很大進展，并被應(yīng)用于眾多領(lǐng)域。本文深入研究了文本分類與挖掘中的一些關(guān)鍵技術(shù)，同時在對政府公文分類、文本觀點極性分析以及專利挖掘任務(wù)進行深入分析的基礎(chǔ)上，將文本分類與挖掘技術(shù)應(yīng)用到上述領(lǐng)域，提出了相應(yīng)的解決方案，并通過大量實驗證明了這些方案的有效性。主要工作包括：
　　 (1)特征獨立性假設(shè)

2、在文本處理領(lǐng)域被普遍應(yīng)用，它雖然能大大簡化文本計算，但與實際情況不符。本文首次將獨立分量分析技術(shù)應(yīng)用到文本處理領(lǐng)域，進行面向文本分類的獨立特征抽取，并對其中遇到的由于數(shù)據(jù)稀疏和維數(shù)過高造成的收斂速度慢，穩(wěn)定性差的問題進行了解決；將獨立分量分析技術(shù)與傳統(tǒng)的特征選取方法相結(jié)合，在通用數(shù)據(jù)集上進行了文本分類實驗，實驗結(jié)果驗證了這種技術(shù)的優(yōu)越性。
　　 (2)政府公文均帶有主題詞，而主題詞攜帶了大量的類別信息。如何利用這些信息幫助文本分

3、類？首先本文針對主題詞不足的問題，根據(jù)Bootstrapping學(xué)習(xí)框架構(gòu)建了一個主題詞相關(guān)詞的自動獲取模型—KWB模型，用于對政府公文主題詞集合的擴展；然后運用隨機關(guān)鍵詞產(chǎn)生技術(shù)，將公文文本表示成主題詞空間的條件概率，這樣也同時實現(xiàn)了文本特征空間的降維；將KWB模型與隨機關(guān)鍵詞產(chǎn)生技術(shù)相結(jié)合進行了公文文本分類實驗，結(jié)果證明該方法能充分利用主題詞的類別信息，提高分類性能。
　　 (3)針對主觀句子判別正確率不高的問題，應(yīng)用文本分

4、類技術(shù)，提出了三類訓(xùn)練、兩類判別的分類框架。并在公開語料MPQA上進行了實驗，結(jié)果證明在語料中間接主觀句子極少的情況下，該框架也能有效提高主觀句子判別的準(zhǔn)確率。針對訓(xùn)練語料不足以及對實體多方面的觀點極性分析的需要，提出了一種基于弱指導(dǎo)學(xué)習(xí)的分析技術(shù)，實現(xiàn)句子級的實體方面特征識別和實體多方面觀點的極性分析。實驗證明該方法取得了較好的準(zhǔn)確率。
　　 (4)通過深入分析NTCIR-7中專利挖掘任務(wù)的訓(xùn)練數(shù)據(jù)及任務(wù)難點，提出kNN分類框

5、架是完成此任務(wù)的很好選擇；針對訓(xùn)練數(shù)據(jù)分布極端不均衡的問題，提出在Ranking決策時加懲罰因子的方法解決該問題；研究了多種相似度計算方法，并在此基礎(chǔ)上提出、改進了多種Ranking決策方法：如帶有大類懲罰因子的Weak方法、NVote方法等。為了提高系統(tǒng)性能，應(yīng)用機器學(xué)習(xí)中的Log-linear和Rank-SVM模型提出了基于系統(tǒng)融合的結(jié)果鏈表二次調(diào)序方法。該方法使系統(tǒng)性能得到了很大提升，在NTCIR-7的評測中取得了第一名的好成績。