均值和標準差服從正態分布的正態分布是什麼分布?

已知隨機變數μ, σ滿足正態分布μ~N(μ1, σ1), σ~N(μ2, σ2),隨機變數y的條件分布也為正態分布y|μ,σ~N(μ, σ)。那麼y的邊緣分布是什麼?


題主可以先了解一下共軛先驗(Conjugate prior)這個概念。按照連接中的描述,題主要求的分布就是沒有觀測到y的樣本時候的y的預測分布(posterior predictive distribution)。而對於三個高斯這樣的設定,應該是沒有閉式解的。

對於y在已知參數的條件分布為高斯分布的情況下,μ和σ如果能服從下面的先驗分布,則y的邊緣分布會有比較簡單的形式。

  1. 如果σ是指定的,μ服從正態分布,那麼y還是一個正態分布。
  2. 如果μ是指定的,σ服從Inverse gamma分布,則y服從t分布。
  3. 如果σ和μ服從Normal-inverse gamma分布,則y服從t分布。

這是一維高斯分布的情況,如果是多維,先驗分布的名字不太一樣,具體可以參考維基百科頁面Conjugate prior。

維基百科下面還引用了一個論文,分析了各種高斯分布的先驗後驗,希望對題主有幫助。

http://www.cs.ubc.ca/~murphyk/Papers/bayesGauss.pdf


題目給的條件是給定參數的隨機變數分布以及參數本身的分布,所以視參數為隨機變數,可以得到三元的聯合分布,積分掉其餘兩個參數隨機變數就可以得到原本隨機變數的邊緣分布。


先糾結一下 sigma 不可能是正態分布,因為不會小於0

然後,計算Y的分布:

給定mu and sigma, Y小於y的概率就是N( (y-mu)/sigma )記這個為f(y)

Y整體的分布就是f(y)*p(mu)*p(sigma) d(mu) d(sigma) 在全體實數域上的雙重積分。

不會在知乎打公式,見諒。


如果mui分布不變,sigma的分布改成Gaussian inverse gamma,

那麼p(Y)也是Gaussian inverse gamma(但是參數會跟sigma的不同).


Posterior = Likelihood * Prior.


y~N( , )本來就是正態分布的形式吧?


推薦閱讀:

為什麼在匈牙利誕生了那麼多位數理天才?
「幾何基本定理」是什麼?
怎麼高效率地學習英文,專業,大部頭的書?
如果讓你來實現最近很火的「三姑六婆」應用,打算用怎樣的數據結構和演算法來做?
武器升級概率問題!?

TAG:數學 | 統計學 | 正態分布 | 概率論 |