基于知識(shí)整合的詞匯語(yǔ)義相似度計(jì)算方法研究.pdf

1、隨著大數(shù)據(jù)時(shí)代的到來(lái)，海量的文本數(shù)據(jù)在提供高價(jià)值信息的同時(shí)，也給文本語(yǔ)義理解帶來(lái)了嚴(yán)峻的挑戰(zhàn)。單詞是文本的最小組成單元，其語(yǔ)義相似度是挖掘詞匯關(guān)聯(lián)的重要依據(jù)，有助于計(jì)算機(jī)準(zhǔn)確理解語(yǔ)句和文檔的內(nèi)容。根據(jù)詞匯語(yǔ)義資源，典型的語(yǔ)義相似度計(jì)算方法包含兩類:基于知識(shí)庫(kù)(Knowledge Base)和基于語(yǔ)料庫(kù)(Corpus)。知識(shí)庫(kù)能夠提供詞匯的語(yǔ)義描述和結(jié)構(gòu)化信息，但是嚴(yán)重依賴于領(lǐng)域?qū)＜业臉?gòu)建和維護(hù)，詞匯覆蓋率較低，缺乏可擴(kuò)展性。而語(yǔ)料庫(kù)雖然

2、包含豐富的詞匯，但是其非結(jié)構(gòu)性導(dǎo)致難以從中提取詞匯的有效語(yǔ)義特征。為了克服單類語(yǔ)義資源的不足，本文基于WordNet的圖結(jié)構(gòu)和詞匯的低維向量表示，分別從概念信息含量的量化模型、語(yǔ)義增強(qiáng)的詞向量、度量方法的優(yōu)化組合三方面，研究了知識(shí)庫(kù)和語(yǔ)料庫(kù)中語(yǔ)義知識(shí)的整合。本文的主要研究成果如下:
　　(1)提出了一種基于IC加權(quán)最短路徑的概念語(yǔ)義相似度計(jì)算方法CSSM-ICSP(Concept Semantic Similarity Measu

3、rement Based on IC-weighted Shortest Path)。該方法利用WordNet中概念的邊長(zhǎng)、深度、密度等結(jié)構(gòu)屬性以及信息含量(Information Content，IC)，計(jì)算概念之間的路徑距離并非線性地轉(zhuǎn)化為概念語(yǔ)義相似度。首先，用概念深度的相關(guān)函數(shù)對(duì)概念密度進(jìn)行平滑，構(gòu)造基于WordNet的固有IC混合(Intrinsic IC Hybrid，IIH)計(jì)算模型，該模型改進(jìn)了傳統(tǒng)IC計(jì)算模型未考慮概念

4、深度的不足;其次，將概念的IC差值作為邊長(zhǎng)的權(quán)重，衡量處于不同深度的概念語(yǔ)義關(guān)系的強(qiáng)度差異。利用IC加權(quán)的路徑距離、深度差異率和歸一化路徑距離，建立概念距離計(jì)算模型。此外，為了實(shí)現(xiàn)WordNet與語(yǔ)料的語(yǔ)義知識(shí)整合，該方法將基于語(yǔ)料的統(tǒng)計(jì)IC模型引入固有IC模型。實(shí)驗(yàn)結(jié)果表明，在詞對(duì)相似度公共測(cè)試集M&C、R&G、WS-353和WS-sim上，相比基于WordNet的其它方法，本文提出的方法具有較高的皮爾森線性相關(guān)系數(shù)。
　　(2

5、)提出了一種基于多語(yǔ)義融合的單詞語(yǔ)義相似度計(jì)算方法WSSM-MSF(Word Semantic Similarity Measurement Based on Multiple Semantic Fusion)。該方法旨在構(gòu)建有效的詞匯語(yǔ)義表征，改善基于向量空間的語(yǔ)義相似性度量。由于文檔所表達(dá)的語(yǔ)義內(nèi)容可以表示為句子、短語(yǔ)或單詞的向量組合，該方法基于向量的代數(shù)運(yùn)算，利用WordNet中概念的多個(gè)語(yǔ)義屬性，包括同義詞(Synset)、注釋

6、(Gloss)、上位詞(Hypemym)和下位詞(Hyponym)，構(gòu)造多語(yǔ)義融合(Multiple Semantic Fusion，MSF)模型，以此生成概念向量和語(yǔ)義增強(qiáng)詞向量，實(shí)現(xiàn)基于語(yǔ)義特征的異構(gòu)知識(shí)整合。為了避免傳統(tǒng)詞袋模型帶來(lái)的數(shù)據(jù)稀疏、特征高維等問(wèn)題，該方法采用連續(xù)詞袋模型CBOW（Continuous Bag-of-Words），從大規(guī)模文本語(yǔ)料中學(xué)習(xí)出低維、稠密的實(shí)數(shù)詞向量。實(shí)驗(yàn)結(jié)果表明，本文提出的語(yǔ)義增強(qiáng)的詞向量相對(duì)

7、于原始詞向量具有更好的表示語(yǔ)義特征的能力，能夠提高詞對(duì)相似度評(píng)測(cè)的計(jì)算準(zhǔn)確度，以及語(yǔ)義Web服務(wù)匹配的查準(zhǔn)率和召回率。
　　(3)提出了一種基于差分進(jìn)化(Differential Evolutionary，DE)算法的單詞語(yǔ)義相似度計(jì)算方法WSSM-DE(Word Semantic Similarity Measurement Based on Differential Evolutionary)。該方法將多種度量方法的優(yōu)化組合問(wèn)

8、題演化為解空間中的隨機(jī)尋優(yōu)過(guò)程，將基于WordNet或基于低維向量的計(jì)算語(yǔ)義相似度作為DE算法中種群個(gè)體的多維分量，通過(guò)基于個(gè)體差異的啟發(fā)式全局搜索，獲得分量上的權(quán)值和最優(yōu)解，以此實(shí)現(xiàn)WordNe與語(yǔ)料的語(yǔ)義知識(shí)整合?；谧顑?yōu)個(gè)體的每一維分量值的變化，分析了在語(yǔ)義計(jì)算任務(wù)中詞向量可能隸屬的空間。在詞對(duì)相似度評(píng)測(cè)任務(wù)上的實(shí)驗(yàn)結(jié)果表明，本文提出的方法不僅優(yōu)于基于單一語(yǔ)義源的相似度計(jì)算方法，而且優(yōu)于基于有監(jiān)督優(yōu)化組合的計(jì)算方法，包括基于排序?qū)W