面向漢英專利文獻的神經網絡翻譯模型的集外詞翻譯研究.pdf

1、機器翻譯(Machine Translation，MT)的目的是為源語言找到一個意思最為相近的目標語言。從本質上來看，機器翻譯完成的是一個序列到序列的任務。近年來隨著深度神經網絡(Deep Neural Network，DNN)在語音識別和圖像處理等方面取得突破性進展，研究人員開始著手使用深度神經網絡處理符號變量方面的問題，例如自然語言處理領域的機器翻譯任務。神經網絡機器翻譯(Neural Machine Translation，NMT

2、)包含編碼器和解碼器兩個神經網絡，編碼器把源語言轉化成一個向量表示，解碼器根據(jù)源語言的向量表示加上目標語言的歷史信息生成目標語言的詞序列。為了控制計算復雜度，大多數(shù)的NMT系統(tǒng)會限制源語言和目標語言的詞典大小，一般設置為三萬詞到八萬詞之間。對于不在詞典中的詞，也就是集外詞，使用符號“UNK”來代替。集外詞帶來幾個問題，一個是在測試過程中，模型不能夠生成合適的翻譯結果;另一個是集外詞導致源語言句子語義無法正確表示，加重翻譯結果的歧義現(xiàn)象;

3、第三個是訓練語料中源語言和目標語言句子結構被嚴重破壞，神經網絡參數(shù)質量不高。在專利文獻語料中存在大量的低頻詞，導致這幾個問題更為嚴重。
　　本論文以專利文獻的集外詞翻譯為切入點，以中英神經網絡機器翻譯為主要研究方向，重點研究并提出了一種改善集外詞翻譯問題的方法，從而提高神經網絡機器翻譯的效果。主要研究成果如下:
　　(1)引入統(tǒng)計機器翻譯中的對齊信息，以外部信息的形式加入語料庫詞典，當出現(xiàn)集外詞時根據(jù)神經網絡機器翻譯中的注意