基于最大熵模型的遷移學(xué)習(xí)算法研究.pdf

1、傳統(tǒng)的機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘算法大多基于這一假設(shè)：訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集具有相同的特征空間和數(shù)據(jù)分布，因而更側(cè)重于與其他任務(wù)或者先前學(xué)習(xí)到的知識(shí)相互獨(dú)立的單任務(wù)學(xué)習(xí)。然而，在實(shí)際應(yīng)用中，特征空間和數(shù)據(jù)分布常常發(fā)生變化，因此需要花費(fèi)大量的時(shí)間和精力去重新收集大量的標(biāo)記數(shù)據(jù)并訓(xùn)練新模型。
　　 遷移學(xué)習(xí)是一種新的學(xué)習(xí)框架，其旨在使一個(gè)系統(tǒng)具有識(shí)別和應(yīng)用先前任務(wù)中學(xué)習(xí)到的知識(shí)和技巧于新的任務(wù)或領(lǐng)域的能力。本文針對(duì)歸納遷移學(xué)習(xí)和直推遷移學(xué)習(xí)

2、這兩個(gè)分支，分別從單領(lǐng)域遷移和多領(lǐng)域遷移兩方面展開(kāi)了遷移學(xué)習(xí)算法的研究，提出了基于最大熵模型的加權(quán)歸納遷移學(xué)習(xí)算法WTLME和集成直推遷移學(xué)習(xí)算法SFEC。主要工作如下：
　　 (1)WTLME著重于解決單領(lǐng)域遷移的歸納遷移學(xué)習(xí)問(wèn)題，通過(guò)將已訓(xùn)練好的原始領(lǐng)域模型參數(shù)遷移到目標(biāo)領(lǐng)域，并對(duì)目標(biāo)領(lǐng)域?qū)嵗龣?quán)重進(jìn)行調(diào)整，來(lái)獲得目標(biāo)領(lǐng)域準(zhǔn)確率較高的分類(lèi)器模型。通過(guò)在Web網(wǎng)頁(yè)數(shù)據(jù)集和評(píng)論數(shù)據(jù)集上的大量實(shí)驗(yàn)表明了該算法的有效性。