基于貝葉斯理論的增量文本分類算法研究.pdf

1、傳統(tǒng)的文本分類算法需要大量的標(biāo)注文本,但標(biāo)注大量訓(xùn)練文本需要艱苦而緩慢的手工勞動,從而制約了整個分類系統(tǒng)的構(gòu)建。增量學(xué)習(xí)技術(shù)可以利用少量的已標(biāo)注文本對大量的未標(biāo)注文本進(jìn)行標(biāo)注,可以有效解決標(biāo)注瓶頸問題,因此逐漸引起人們的關(guān)注。
　　 由于貝葉斯方法能夠充分利用先驗知識,使它成為增量式文本分類的重要選擇?；?-1分類損失的增量貝葉斯分類算法是通過計算測試集中文本的分類損失大小來確定新增訓(xùn)練集中文本加入到原始訓(xùn)練集的順序。但該算法

2、存在下述三個問題:
　　 首先,噪音數(shù)據(jù)影響分類器精度的問題。由于當(dāng)前分類器存在知識儲備不足等因素而容易產(chǎn)生噪音數(shù)據(jù),一旦這些噪音數(shù)據(jù)被過早地加入到原始訓(xùn)練集中,就會降低當(dāng)前分類器的性能,進(jìn)而影響整體分類精度。
　　 其次,新增訓(xùn)練集的規(guī)模影響增量學(xué)習(xí)效率的問題。當(dāng)新增訓(xùn)練集規(guī)模過大時會增加增量學(xué)習(xí)時間。因此在處理大規(guī)模新增訓(xùn)練集時,如何提高效率成為增量學(xué)習(xí)的一個重要問題。
　　 此外,如何利用新增訓(xùn)練集中有用知

3、識的問題。新增訓(xùn)練集中存在一種有用知識--具有高度相似性的文本,把這些文本作為一個整體來處理,它能夠有效改善增量學(xué)習(xí)的性能。
　　 針對以上問題,本文提出的基于序列選擇增量貝葉斯分類算法,該算法既通過選擇合理的增量學(xué)習(xí)序列解決噪音數(shù)據(jù)影響分類器精度的問題,又通過基于劃分的思想對新增訓(xùn)練集進(jìn)行分割解決新增訓(xùn)練集規(guī)模影響增量學(xué)習(xí)效率的問題；還提出了基于快速聚類的增量貝葉斯分類算法來解決新增訓(xùn)練集中有用知識的利用問題,即通過近鄰傳播算