FastICA

在諸多ICA演演算法中，固定點演演算法 (也稱FastlCA)以其收斂速度快、分離效果好被廣泛應用於信號處理領域。該演演算法能很好地從觀測信號中估計出相互統計獨立的、被未知因素混合的原始信號。

近幾年出現了一種快速ICA演演算法(Fast ICA)，該演演算法是基於定點遞推演演算法得到的，它對任何類型的數據都適用，同時它的存在對運用ICA分析高維的數據成為可能。又稱固定點(Fixed-Point)演演算法，是由芬蘭赫爾辛基大學Hyvärinen等人提出來的。是一種快速尋優迭代演演算法，與普通的神經網路演演算法不同的是這種演演算法採用了批處理的方式，即在每一步迭代中有大量的樣本數據參與運算。但是從分散式并行處理的觀點看該演演算法仍可稱之為是一種神經網路演演算法。FastICA演演算法有基於四階累積量、基於似然最大、基於負熵最大等形式。此外，該演演算法採用了定點迭代的優化演演算法，使得收斂更加快速、穩健。用流程圖的形式表現演演算法的流程如圖：

較普通的ICA演演算法，它具有以下優點:

1）收斂速度快。在 ICA數據模型的假設下，FastICA收斂速度是3次的(或至少是2次的)，而普通的ICA演演算法收斂速度僅僅是線性的。

2）和基於梯度的演演算法相比，快速定點演演算法不需要選擇步長參數，說明該演演算法更加易於使用。

3）能通過使用一個非線性函數g便能直接找出任何非高斯分佈的獨立分量。而對於其他的演演算法來說，它們首先必須進行概率密度分佈函數的估計，然後才相應地進行非線性的選擇，因而必須選擇非線性。

4）FastICA演演算法的性能能夠通過選擇一個適當的非線性函數g而使其達到最佳化。特別是能得到最小方差的演演算法。

5）獨立分量可被逐個估計出來，在探索性數據分析里是非常有用的，這類似於做投影追蹤，這在僅需要估計幾個（不是全部）獨立分量的情況下，能極大地減小計算量。

FastlCA演演算法本質上是一種最小化估計分量互信息的神經網路方法，是利用最大熵原理來近似負熵，並通過一個合適的非線性函數g使其達到最優。這個演演算法具有很多神經演演算法里的優點：并行的、分佈的、計算簡單、要求內存小。如果要估計多個分量。

1）對觀測信號去均值是ICA演演算法最基本和最必須的預處理步驟，其處理過程是從觀測中減去信號的均值向量，使得觀測信號成為零均值變數。該預處理只是為了簡化 ICA演演算法，並不意味著均值不能估計出來。

2）一般情況下所獲得的數據都具有相關性，通常都要求對數據進行初步的白化或球化處理，因為白化處理可去除各觀測信號之間的相關性，從而簡化後續獨立分量的提取過程。通常情況下，數據進行白化處理與不對數據進行白化處理相比，演演算法的收斂性較好，有更好的穩定性。

3）對多個獨立分量的估計，需要將最大非高斯性的方法加以擴展。對應於不同獨立分量的向量在白化空間中應是正交的，演演算法第6步用壓縮正交化保證分離出來的是不同的信號，但是該方法的缺點是第1個向量的估計誤差會累計到隨後向量的估計上。

簡單地說快速ICA演演算法通過三步完成：首先，對觀測信號去均值；然後，對去均值后的觀測信號白化處理；前兩步可以看成是對觀測信號的預處理，通過去均值和白化可以簡化ICA演演算法。最後，獨立分量提取演演算法及實現流程見流程圖。

FastICA演演算法的方法輸出向量，在排列順序的時候可能出現顛倒和輸出信號幅度發生變化。這主要是由於ICA的演演算法存在2個內在的不確定性導致的：

1）輸出向量排列順序的不確定性，即無法確定所提取的信號對應原始信號源的哪一個分量；

2）輸出信號幅度的不確定性，即無法恢復到信號源的真實幅度。

但由於主要信息都包含在輸出信號中，這2種不確定性並不影響其應用。