泊松分布族是指數型分布族嗎？

01-15

要是能證明就更好了！謝謝！

指數分布族 (exponential family) 應能以以下形式表示：

$f_{X}(xmid heta )=h(x)exp left(eta ( heta )cdot T(x)-A( heta ) ight)$

其中， $heta$ 為自然參數 (natural parameter) ， $A( heta)$ 為對數配分函數 (partition function)。

==================== 敲黑板：『同學們看好，我要變形了！』====================

泊松分布 (Poisson distribution) 很容易就可以轉換為此形式，大致步驟如下：

$egin{equation} egin{split} f(xmid lambda )={frac {lambda ^{x}e^{-lambda }}{x!}}\ =exp(ln({frac {lambda ^{x}e^{-lambda }}{x!}}))\ =exp(xln(lambda)-lambda-log(x!))\ ={frac {1}{x!}}exp(xln(lambda)-lambda) end{split} end{equation}$

其中，

$h(x)=frac{1}{x!}, eta(lambda)=ln(lambda),A(lambda)=lambda$

當然是啊

指數分布族的一般表達式 $p(y;eta) = b(y)exp(eta^TT(y) -a(eta))$ 其中 $eta$ 是分布的自然參數，通常情況下 $T(y) =y$ , $a(eta)$ 是對數分配函數，而a,b 與T一般都是給定的，會隨著 $eta$ 的變化得到不同的分布。

已知伯努利分布(Bernoulli)方程

$egin{align*} p(y;phi) = phi^y(1-phi)^{1-y} \ = exp left( ylogphi + (1-y)log(1-phi) ight) \ =exp((log(frac{phi}{1-phi}))y + log(1-phi)) end{align*}$

對應指數分布族表達式可知：

$egin{align} eta = log(frac{phi}{1-phi}) \ T(y) =y \ a(eta) = -log(1-phi) \ = log(1+e^eta) \ b(y) = 1 end{align}$

這表明合適的a,b,T,可以將Bernoulli寫成指數分布族的把表達式。

========我是分割線==========

同時還可證明高斯分布，多項式分布也是指數分布族。

通過指數分布族和GLM的假設，可以推導出服從伯努利分布的二分類器logistic的方程表達式和服從高斯分布的最小二乘，還有服從多項式分布的softmax函數等。

是的

是