線性動態系統與卡爾曼濾波

一、前言

在之前的文章中我們分別介紹了混合模型和隱馬爾科夫模型，詳見《混合模型與EM演算法》和《隱馬爾科夫模型》兩篇文章。隱馬爾科夫模型是一種時間序列模型，混合模型是一種與時間序列無關的模型。事實上，單看隱馬爾科夫模型的發射概率模型部分，它就是一個混合模型。通過轉移概率模型將一系列的混合模型的隱藏變數連成一個一階馬爾科夫鏈，就構成了隱馬爾科夫模型，因此用隱馬爾科夫模型可以表示比混合模型更豐富的一類模型。然而，根據定義，隱馬爾科夫模型的隱藏變數必須是離散的，而實際中遇到的許多問題需要對連續變數進行建模。因此，我們需要對隱馬爾科夫模型進行擴展，使其能夠對隱藏變數為連續變數的問題建模。在新開一篇文章介紹連續隱變數模型（隱藏變數為連續變數的混合模型）之前，我們先介紹線性動態系統（Linear Dynamic System，LDS），從中可以看到，卡爾曼濾波是LDS的一個子問題。

由於HMM和LDS的相似性，本文的所有記號均沿用《隱馬爾科夫模型》一文，不再重複說明。本文的大部分推導過程也與《隱馬爾科夫模型》一文一模一樣，只不過因為隱藏變數從離散變為連續了，推導公式中的所有求和要換成求積分。因此如果熟悉了《隱馬爾科夫模型》一文的內容，本文也就不難理解了。

在LDS中，要求發射概率模型和轉移概率模型都是線性高斯模型，因此

（1）

（2）

其中， 和 分別是表示線性關係的變換矩陣， 和 分別是兩個高斯分布的方差。

同理，隱藏變數的初始分布也是一個高斯分布，

（3）

二、LDS中的推理（Inference）

在這一節中，我們先假設LDS的所有參數已知，介紹其推理過程。關於參數學習的內容在下一節介紹。

推理問題是要求解如下後驗分布

（4）

由於在LDS中發射概率模型和轉移概率模型都是線性高斯模型，因此 也是一個高斯分布，記作

（5）

因此，我們的目標是求解此高斯分布的均值 和方差 。

在《隱馬爾科夫模型》一文中，我們推導了 的遞推式

（53）

只需要將式中的求和符號換成積分符號，即可得到LDS中的遞推式

（6）

將（1）、（2）、（5）式代入（6）式得到高斯分布表示

（7）

利用《機器學習中的高斯分布》一文中關於邊緣和條件高斯分布的結論，上式被積式是兩個高斯分布的卷積，因此結果也是一個高斯分布，且卷積結果為

（8）

其中，

（9）

這樣，（7）式的左右兩邊分別是兩個高斯分布的乘積，形如 ，其中 、 、 、 都是高斯分布，且 、 已知，要求 、。 再次利用《機器學習中的高斯分布》一文中的結論可以得到

（10）

（11）

（12）

其中，

（13）

叫做卡爾曼增益矩陣（Kalman Gain Matrix）。

我相信，當你利用《機器學習中的高斯分布》一文中的相關結論時，可以輕易寫出要求的高斯分布的均值和方差，但你寫出的結果很可能不是（10）~（13）式所示的形式。的確，要變換成（10）~（13）式的形式並不是那麼容易，其中會用到以下矩陣求逆公式

（14）

我們不要求能從你一開始寫出的結果正向推導出形如（10）~（13）式的結論，只需要能夠根據（10）~（13）式的結論反向驗證其正確性即可。

遞推式有了，接下來只需要計算初始條件即可。因為

（15）

利用同樣的技巧，可以得到

（16）

（17）

（18）

其中，

（19）

至此，推理部分就推導完了。其中，（10）~（13）式的遞推式，加上（16）~（19）式的初始條件，即是卡爾曼濾波過程。從後文我們將看到，卡爾曼濾波只是LDS理論的一個子問題，除此之外，LDS還有其他理論問題需要解決。

我們可以回過頭來仔細觀察一下（10）~（13）式的結論，公式是冷冰冰的，因此需要用自然語言的方式解釋一下卡爾曼濾波到底是如何做濾波的。假設我們已經知道到第 步時隱藏變數的後驗分布的均值 和方差 ，怎麼求第 步的隱藏變數的後驗分布的均值 和方差 呢？首先，因為此時還未觀測到第 步的觀測變數 ，可以先用轉移概率關係預測 的均值大約為 ；進一步，利用發射概率關係，可以預測觀測值大約為 。當觀測到第 步的觀測變數 後，我們發現觀測值和預測值有誤差，因此，我們可以利用此誤差對剛剛的預測進行修正，修正係數正是卡爾曼增益。因此，卡爾曼濾波的過程可以看做不斷對隱藏變數進行預測、並利用觀測值對預測值進行修正的過程。

三、LDS的參數學習（Learning）

同HMM一樣，LDS的參數學習也要用EM演算法，因此，也需要計算兩個關鍵的量，分別是和。與HMM不同的是，我們不需要通過先求 間接求，而是直接求 的遞推式。因為根據定義， 是兩個高斯分布的比，它本身並不是一個高斯分布， 才是一個高分布，因此，直接求 更容易。將 的高斯分布記為

根據《隱馬爾科夫模型》一文中的結論，

（57）

而 的遞推式為

（55）

因此，在LDS中， 離散變連續，求和變積分， 的遞推式為

（20）

上式左右兩邊同乘以 得到

（21）

重點關註上式被積式中除 以外的三個高斯分布，我們需要對其進行一些變換。為了記號的簡潔，我們省略條件變數中的 ，從而可以看到以下推導過程：

（22）

其中，第一個「 」 符號之後省略了條件變數中的 ，第二個「 」符號之後又將省略的條件變數加進來了。將（22）式帶入（21）式從而得到

（23）

現在的目標是要求 。觀察（22）式第一個「 」之後的推導可以發現， 其實是由 和 這兩個高斯分布經過貝葉斯定理變換之後得到的。記

（24）

利用《機器學習中的高斯分布》一文中的結論可得

（25）

（26）

將（24）~（26）式帶入（23）式，並再次利用《機器學習中的高斯分布》一文中的結論可得

（27）

（28）

這樣就得到了 的均值和協方差矩陣。但是這樣的結論看上去不夠簡潔，既不利於計算機實現（有很多多餘的中間矩陣運算），也無法從式子中直接看出遞推式的解釋。下面對該結論做一些簡化。

首先，根據矩陣求逆公式，

（29）

那麼，

（30）

其中用到了 的定義式（9）。記

（31）

那麼

（32）

同理，

（33）

其中用到了等式

（34）

（32）式和（33）式即是最終的結論。

上面求出了 的均值和方差表達式，要用EM演算法學習LDS的參數，還要求 ，它也是個高斯分布。根據定義，

（35）

其中用到了條件獨立等式

（36）

因為根據LDS模型結構，通過概率圖模型條件獨立判斷方法可知，當已知 時， 和 條件獨立。

注意到，（35）式的等式右邊正是（23）式右邊的被積式。利用《機器學習中的高斯分布》一文中的結論，高斯分布 的均值為

（37）

協方差矩陣為

（38）

至此，兩個關鍵中間變數 和 的分布就求出來了。而我們在應用EM演算法進行參數學習時，還需要求得以下幾個期望：

（39）

（40）

（41）

至此，用EM演算法進行參數學習的準備工作都做完了。

在LDS中，共有六組參數需要學習，分別是初始概率分布的均值和協方差矩陣 和 ，發射概率模型的變換矩陣和協方差矩陣 和 ，以及轉移概率模型的變換矩陣和協方差矩陣 和 。我們將這些參數統一記為 。

根據EM演算法原理，需要最大化全數據的對數似然在（隱藏變數的）後驗分布下的期望，即最大化

（42）

其中，全數據的對數似然為

（43）

首先，考慮參數 和 ，將其它所有參數當做常數。將 的表達式帶入（43）式可得

（44）

其中， 表示所有與參數 和 無關的項。最大化上式可求得

（45）

（46）

同樣的，考慮參數 和 ，將其它所有參數當做常數。將 的表達式帶入（43）式可得

（47）

其中， 表示所有與參數 和 無關的項。最大化上式可求得

（48）

（49）

最後，考慮參數 和 ，將其它所有參數當做常數。將 的表達式帶入（43）式可得

（50）

其中， 表示所有與參數 和 無關的項。最大化上式可求得

（51）

（52）

此文完。