隨機變數的矩和高階矩有什麼實在的含義?
- 在實踐中,每一個X的矩都告訴你一些關於X分布的信息。
舉例而言,期望描述隨機變數以概率為權重的平均值。根據大數定理(LLN),對於,。令這些獨立同分布隨機變數的和為,則和的平均值依分布收斂於期望,即。換而言之,對於期望存在的獨立同分布隨機變數,當實驗重複多次時,其平均值近似可以看作均值。方差描述隨機變數的離散程度。方差越大的隨機變數的結果,往往會更偏離其期望;而小方差的隨機變數往往靠近其期望。
進一步而言,期望和方差分別可以和不等式一起運用來給出更一般的分布性質。對期望而言,我們有Markov不等式:即對於非負隨機變數,,我們可以給出X概率分布的不等式,。對於方差而言,我們有Chebyshev不等式:即對於任意二階矩存在的隨機變數,我們可以給出X偏離期望概率的不等式,。雖然這兩個不等式都沒有辦法對特定的分布給出「較好」的界,但是他們對於任何符合要求的隨機變數都可以成立。
除開期望與方差,我們還有很多在實踐中可以用來描述分布的矩。例如:偏度,標準3階矩,即。它的正負及大小用來衡量分布的不對稱性。偏度為正代表分布為右偏態,即右側的尾部更長,分布的主體集中在左側。峰度,標準4階矩,即。它用來描述隨機變數分布的峰態。
偏度與分布的關係
Image Source:Skewness- 在理論中,在一定情況下,矩可以完全決定分布。
特徵函數(characteristic function),,是理論中分析隨機變數分布的有力工具。由於Laplace變換的一一對應性和被積函數的連續性與有界性,,我們可以得到(1)分布和特徵函數一一對應,即如果兩個隨機變數有相同的特徵函數,則他們一定有相同的分布;(2)任何隨機變數的特徵函數都存在。除了特徵函數,我們還有矩母函數(moment generating function),。由於也是Laplace變換,矩母函數也有特徵函數的分布與自身一一對應的性質,但由於去掉了虛部,矩母函數並不一定存在。也就是說,在不考慮矩母函數不存在的時候,我們可以通過矩(特徵函數和矩母函數都是一族矩)來完全決定分布。
贊最高票回答。事實上資訊理論可以把矩的信息這件事情說的很形象。其第一句話每一階矩都告訴我們這個分布的一些信息,
嚴格表達就是:
一個分布可以完全被可數階矩描述 等價於 其各階矩看作隨機變數時,其信息之和收斂於原分布的信息。個人粗淺理解(以下高階矩對比對象均為正態分布):三階矩表明隨機變數具有多少「彩票」的性質,比如分布均值為0,但中位數在均值左邊,說明你50%概率拿到一個負數回報,但一旦中獎,將獲得一個巨大正回報。
四階矩表示分布是不是比正態分布更容易發生極端事件(分布厚尾表示黑天鵝更容易發生)。
如有錯誤請大家多多指正!推薦閱讀:
※拓撲量子計算的前景?
※x^2+y^2=x^3有幾組整數解?
※喜歡建模的人可以從事什麼樣的工作?
※學數學需不需要很好的基礎,或者說是不是要從小就開始學?
※如何證明 若兩個實數 a·b=0,則 a=0 或者 b=0?