改進的自然梯度算法及在語音和圖像處理中的應用.pdf

1、自然梯度算法是盲源信號處理領(lǐng)域一種常見的算法，特別是在盲源信號的分離和獨立分量分析中，其作為核心的算法之一，受到越來越多的關(guān)注。同時由于自然梯度算法計算量低、收斂速度快、分離效果好等優(yōu)點，凸顯出其良好的應用前景，并已在多方面有了廣泛的應用。
　　 本文圍繞傳統(tǒng)的自然梯度算法存在的不足以及在語音和圖像方面的應用方面而展開，做了以下工作：
　　 本文對于自然梯度算法在盲源信號分離中的應用進行了總結(jié)和分析，并對其相關(guān)理論進行了

2、闡述，重點對固定步長自然梯度算法、變步長的自然梯度等算法進行了分析和比較。其都存在一些缺陷：固定步長自然梯度算法對于步長的要求很高，其直接影響到收斂速度和穩(wěn)定性；變步長的自然梯度算法其步長變化還不能根據(jù)需求進行變化，雖能改進部分性能，但對于復雜條件下和在應用過程中，其收斂速度和分離效果不夠理想。
　　 本文介紹了與自然梯度算法相關(guān)的信息論和高階統(tǒng)計方面的基礎(chǔ)知識以及在盲源分離和獨立分量分析中幾種判據(jù)和算法，重點討論了互信息極小(

3、MMI)，信息極大(Infomax)以及最大似然估計(MLE)等三種最常用的算法的基本原理。分析了自然梯度算法的原理和步驟，介紹了神經(jīng)網(wǎng)絡(luò)中的動量因子以及表征信號分離程度的分離度的概念，將其引入到自然梯度算法中，在變步長的自然梯度算法的基礎(chǔ)上，對算法進行了改進。算法以分離度為基準，通過動量因子的自適應變化來自適應改變步長，從而能夠更好的改進盲源分離后信號的性能。以一組線性瞬時混合信號為例，成功實現(xiàn)了盲分離，并且經(jīng)過對改進之前算法的對比，