加權貝葉斯增量學習中文文本分類研究.pdf

1、伴隨著現(xiàn)代信息技術的高速發(fā)展，尤其是因特網的普及應用，網絡上爆炸式增長的數(shù)據(jù)信息，該如何對這些信息進行合理自動的處理，保留住那些有效的大型文本數(shù)據(jù)集合就成為了當今一個非常重要的研究課題。
　　 本文討論了中文文本分類的文本預處理技術、向量空間模型、自動分詞策略等，并且通過大量的實驗研究了信息增益(IG)、互信息(MI)、交叉熵(CE)、X～2統(tǒng)計(CHI)以及文本證據(jù)權這5種不同的特征選擇算法對分類算法性能表現(xiàn)的影響。
　

2、　 在諸多文本分類算法中樸素貝葉斯算法由于其健壯性和簡單性一直都處于業(yè)界重點研究的行列。在條件獨立性假設前提下傳統(tǒng)的樸素貝葉斯分類器往往都默認數(shù)據(jù)集中所有特征權值都是相等的，可事實上并非如此，不同的特征屬性對于不同類別的數(shù)據(jù)集所表現(xiàn)出來的影響力必然是不一樣的，為此，本文便提出了一個權均值的概念，是指屬于同一類別但非同一文本的同一特征項權值總和在該類別中的平均值，本文用此權均值來對樸素貝葉斯的性能加以提升;當面臨有大量新增數(shù)據(jù)到來，傳統(tǒng)

3、的貝葉斯方法就需要重新把之前的所有樣本數(shù)據(jù)都全部重新學習一次，這樣不僅會耗費大量時間而且操作起來也相當麻煩，為此我們便引入了一種增量學習的方法，其學習的過程就是通過使每一次對測試集分類損失最小化的原則來選取每一次的新增樣本直至新增樣本集為空，由于這種增量學習的方法我們只需要少量的基礎訓練樣本集就能實現(xiàn)對文本的分類。綜合上述兩種方案，本文提出了一種基于加權貝葉斯的增量學習方法并通過大量實驗對這這種所提方法的分類性能進行驗證。實驗證明，該加