融合主動(dòng)學(xué)習(xí)的半監(jiān)督技術(shù)在圖像分類中的應(yīng)用研究.pdf

1、隨著多媒體技術(shù)的迅速發(fā)展和因特網(wǎng)的快速普及，數(shù)字圖像呈爆炸式增長(zhǎng)，如何有效地檢索、分類、挖掘、利用這些數(shù)據(jù)成為當(dāng)今研究的重點(diǎn)，特別是云的出現(xiàn)對(duì)從大量圖片快速檢索帶來(lái)了非常大的挑戰(zhàn)。但是單靠人力進(jìn)行的數(shù)據(jù)分析往往要花費(fèi)非常多的時(shí)間，滿足不了數(shù)據(jù)產(chǎn)生速度的要求。因此在這樣的背景下，機(jī)器學(xué)習(xí)(Machine Learning)應(yīng)運(yùn)產(chǎn)生，機(jī)器學(xué)習(xí)是一種自動(dòng)化的數(shù)據(jù)分析方法，不再需要人工過(guò)多進(jìn)行干預(yù)。
　　機(jī)器學(xué)習(xí)顧名思義就是利用機(jī)器進(jìn)行學(xué)

2、習(xí)，主要是利用計(jì)算機(jī)來(lái)模擬人類的學(xué)習(xí)過(guò)程，機(jī)器學(xué)習(xí)是讓計(jì)算機(jī)在現(xiàn)有知識(shí)的基礎(chǔ)上學(xué)習(xí)一定的模型，進(jìn)而進(jìn)行新知識(shí)的延伸。按照學(xué)習(xí)形式，機(jī)器學(xué)習(xí)可以分為監(jiān)督學(xué)習(xí)(Supervised Learning)和無(wú)監(jiān)督學(xué)習(xí)(Unsupervised Learning)，半監(jiān)督學(xué)習(xí)是介于監(jiān)督學(xué)習(xí)與無(wú)監(jiān)督學(xué)習(xí)的一種學(xué)習(xí)形式。機(jī)器學(xué)習(xí)中的無(wú)監(jiān)督學(xué)習(xí)的分類精度不高，監(jiān)督學(xué)習(xí)則需要足夠的訓(xùn)練樣本，然而標(biāo)記樣本的過(guò)程是非常費(fèi)時(shí)費(fèi)力。半監(jiān)督學(xué)習(xí)與主動(dòng)學(xué)習(xí)都是利用有

3、標(biāo)記數(shù)據(jù)和無(wú)標(biāo)記數(shù)據(jù)進(jìn)行學(xué)習(xí)的學(xué)習(xí)方法，將主動(dòng)學(xué)習(xí)與半監(jiān)督學(xué)習(xí)相結(jié)合應(yīng)用到圖像分類上，在只給定少量有標(biāo)記數(shù)據(jù)的情形下能夠最大程度提高分類器的性能。
　　本文主要是在半監(jiān)督學(xué)習(xí)的基礎(chǔ)上融合主動(dòng)學(xué)習(xí)的學(xué)習(xí)理念，把兩種學(xué)習(xí)方法的優(yōu)勢(shì)融合起來(lái)。在整個(gè)學(xué)習(xí)過(guò)程中既選出置信度最高的樣例加入到訓(xùn)練集中，又選出學(xué)習(xí)器爭(zhēng)議最大的樣例交給專家系統(tǒng)進(jìn)行標(biāo)注，然后加入到訓(xùn)練集中，主要工作如下:
　　1)經(jīng)典的半監(jiān)督算法co-training算法要求

4、樣本集具有充分冗余視圖，即樣本集要具備兩個(gè)不同的視圖，這兩個(gè)視圖能夠分別訓(xùn)練出一個(gè)強(qiáng)分類器。但是這一要求在實(shí)際情況中很難得到滿足，本文采用集成學(xué)習(xí)中的Bagging算法和RSM算法將初始已標(biāo)記數(shù)據(jù)集分成兩個(gè)視圖，即完成了數(shù)據(jù)集從單一視圖轉(zhuǎn)化成多視圖，不再要求已標(biāo)記數(shù)據(jù)集具有充分冗余視圖。
　　2)整個(gè)學(xué)習(xí)過(guò)程中采用兩個(gè)分類器，一個(gè)分類器的訓(xùn)練集由已標(biāo)記樣例組成，另一個(gè)分類器的訓(xùn)練集由已標(biāo)記樣例和部分置信度高的未標(biāo)記樣例及其預(yù)測(cè)標(biāo)簽

5、組成。在本文中，兩個(gè)分類器的訓(xùn)練集不同，一個(gè)是采用已標(biāo)記樣例組成樣本集，另一個(gè)采用已標(biāo)記樣例和部分置信度高的未標(biāo)記樣例及其預(yù)測(cè)標(biāo)簽組成樣本集，這樣可以從多方面對(duì)未標(biāo)記數(shù)據(jù)進(jìn)行描述。
　　3)本文將半監(jiān)督學(xué)習(xí)和主動(dòng)學(xué)習(xí)的優(yōu)點(diǎn)相結(jié)合，既自行利用大量未標(biāo)記樣例中存在的相關(guān)性，又將兩個(gè)分類器分歧最大的樣例交予專家系統(tǒng)進(jìn)行標(biāo)注，這樣既可以增大訓(xùn)練集，又可以減少將標(biāo)記錯(cuò)誤的樣例加入到訓(xùn)練集中的可能。文中通過(guò)實(shí)驗(yàn)表明了該模型分類的優(yōu)越性，也證明