擬極大似然估計(Quasi-likelihood estimation)和極大似然估計有什麼區別?

什麼是擬極大似然估計?


最大似然估計,ML: MAXIMUM LIKELIHOOD

  • 選擇 真實參數的一個估計值(theata_hat)來最大化樣本數據是由我們假定的DGP產生的
  • choose the theta_hat as the estimator of the true theta that maximises the probability that our sample(y_i, x_i) was generated by the assumed DGP.

這裡需要我們的樣本的數據是 i.i.d.

如果這個 likelihood function is correctly specified,那麼

  1. theta_hat is consistent
  2. 正態分布(這個比較複雜不太好打,需要的話私信我拍照發給你)
  3. 這個ML的估計值是 asymptotic efficient .

但是

如果這個likelihood function出現了問題(misspecified),那麼這時候的theta_hat,這個估計值就是叫做 Quasi-maximum likehood estimator, 擬極大似然估計值。

這時候上面的三個特徵:

第一個,第二個還是有可能滿足。

但是第三個就不再具有: not efficient any more.

例如,剛剛我們假定的樣本數據如果不再是 i.i.d, 那麼這時候就是quasi-ml.

以上。


如果你對總體的分布函數有足夠的信心,那麼就使用極大似然估計,你得到的參數的均方誤差是在所有估計方法中最小的。如果你對總體的二階矩有足夠的信心,但是對總體分布函數沒有把握,那麼就使用擬極大似然估計。

換成統計語言,如果總體分布設定正確,那麼採用極大似然估計就會得到一致的估計,但是如果錯誤則是非一致的估計,這時我們退而求其次,採用擬極大似然估計,它只要求二階矩設定正確,它的估計就是一致的估計。


推薦閱讀:

秩和檢驗的作用和原理是什麼?
在用收入法進行GDP核算時候,勞動者報酬、生產稅凈額、固定資產折舊和營業盈餘四部分相加得到為什麼要把固定資產折舊算成增加值也就是GDP,按常理,固定資產折舊應該是損失的經濟,那為什麼要算到增加值裡面呢?
博士退學重新申請computing science是怎麼樣的體驗?
阿西莫夫的心理史學有可能實現么?
數據什麼時候需要做中心化和標準化處理?

TAG:數學 | 統計 | 時間序列分析 |