填坑:隨機級數

01-29

考慮 $mathbb{R}$ 上的隨機遊走,每一步有 $frac{1}{2}$ 的概率選擇往左走,有 $frac{1}{2}$ 的概率往右走.但是第$n$步走的距離為 $frac{1}{n}$ .
請問終點的概率分布是否存在?如果存在那是什麼樣子的?

填坑:

這個問題等價於求隨機調和級數的收斂分布.

如果 $sum a_n x^n$ 中的 $a_n$ 是個隨機變數,那麼就把他稱為隨機級數,隨機級數有個很最簡單的審斂方法.

柯-辛審斂法 Kolmogorovs three-series theorem:
若 $mathbb{E}( xi_n ) = 0$ 且 $mathbb{E}( {xi_n}^2 )$ 有界,則 $sum xi_n$ 以概率 $1$ 收斂.

無偏隨機遊走嘛,也就是 $mathbb{E}( xi_n ) = 0$ 的意思, 另一方面 $mathbb{E}( {xi_n}^2 ) =mathbb{E}( {|xi_n|}^2 ) =sum_{n=1}^infty {frac{1}{n^2}}=frac{pi^2}{6}$ .

所以這個隨機級數以概率$1$收斂,接下來我們來求最終收斂到的概率密度函數.

$a_n$ 是個數列, $sum a_n$ 自然收斂到一個數.

$a_n$ 服從一個概率分布,那 $sum a_n$ 自然也就收斂到一個概率分布咯.

因為問題的複雜性,一般來講是沒法求出解析式的,只有各種近似計算.

考慮這個過程的生成函數 $prodlimits_{n > 0} {left( {frac{1}{2}{z^{frac{1}{n}}} + frac{1}{2}{z^{ - frac{1}{n}}}} right)}$ ,這根本就無從下口.

所以我們轉而考慮其特徵函數 $cos(t/n) $,也就是求 $prod_{n=1}^infty cos(t/n)$ 的逆傅里葉變換.

我們希望找個能進行傅里葉變換的函數來近似計算.

首先這是個偶函數,其次無窮個餘弦函數相乘在遠離原點的地方會衰減,$text{Sinc}$函數是個不錯的示範

但是衰減的速度不是很契合,所以還要加個指數函數來調整,當然得是偶函數,加個平方.

也就是用 $e^{-frac{t^2}{a}} text{sinc}(b t)$ 來近似.

我們可以用級數展開來確定係數.

什麼,你說為什麼不用最小二乘...大哥我們能不能考慮下顏值...

兩個方程解兩個未知數,所以我們至少要展開到四次項:

$e^{-frac{t^2}{a}} text{sinc}(b t)=1- left(frac{1}{a}+frac{b^2}{6}right)t^2+frac{a^2 b^4+20 a b^2+60}{120 a^2}t^4 +Oleft(t^6right)$

然後另一個問題就是怎麼把那個累積展開到四次項了.

根據泰勒公式: $displaystyle cos left(frac{t}{n}right)=1-frac{t^2}{2 n^2}+frac{t^4}{24 n^4}+O(t^6)$

另外絕對收斂的級數累乘和累加運算元可以直接交換.

因此:

$begin{aligned} &quadprod _{n=1}^{infty } cos left(frac{t}{n}right) =prod _{n=1}^{infty } left(1-frac{t^2}{6 n^2}+frac{t^4}{120 n^4}+O(t^6)right) &=left(1-frac{t^2}{2}+frac{t^4}{24}+O(t^6)right) left(1-frac{t^2}{8}+frac{t^4}{384}+O(t^6)right) left(1-frac{t^2}{18}+frac{t^4}{1944}+O(t^6)right)cdots end{aligned}$

我們來整理一下:

$0$次項恆為$1$,奇次項恆為$0$.

$2$次項就是原來的2次項之和: $displaystyle -left(frac{t^2}{2}+frac{t^2}{8}+frac{t^2}{18}+cdots right)$

$4$次項有兩個來源,一個是原來的4次項之和 $displaystyle frac{t^4}{24}+frac{t^4}{384}+frac{t^4}{1944}+cdots$ ,另一個來源是兩個2次項之積.

這個比較複雜了,大概是這些: $displaystyle frac{t^2}{2} left(frac{t^2}{8}+frac{t^2}{18}+cdotsright)+frac{t^2}{8} left(frac{t^2}{18}+cdotsright)$

總的來說就是:

$begin{aligned} &sum _{n=1}^{infty } frac{t^4}{24 n^4}+sum _{p=1}^{infty } frac{t^2 }{2 p^2}left(sum _{n=p+1}^{infty +1} frac{t^2}{2 n^2}right) =&frac{pi ^4 t^4}{2160}+sum _{p=1}^{infty } frac{t^2 }{2 p^2}left(frac{t^2}{2} psi ^{(1)}(p+1)right) =&t^4left(frac{pi^4}{2160}+frac{pi^4}{480}right) =&frac{11 pi ^4 }{4320}t^4 end{aligned}$

因此:

$displaystyleprod _{n=1}^{infty } cos left(frac{t}{n}right)=1-frac{pi ^2}{12} t^2+frac{11 pi^4 }{4320}t^4+O(t^6)$

然後對應項數相等:

$displaystyleleft{begin{aligned} &frac{pi^2}{12}=frac{1}{a}+frac{b^2}{6} &frac{11 pi ^4}{4320}=frac{a^2 b^4+20 a b^2+60}{120 a^2} end{aligned}right.$

解得:

$displaystyleleft{begin{aligned} a&= frac{12 left(sqrt{6}+3right)}{pi ^2} b&= frac{pi }{sqrt[4]{6}} end{aligned}right.$

所以我們現在可以說:

$displaystyle prod _{n=1}^{infty} cos left(frac{t}{n}right)sim expleft(-frac{pi ^2 }{12 left(sqrt{6}+3right)}t^2right) text{sinc}left(frac{pi t}{sqrt[4]{6}}right)$ 是四階最優近似,我們來畫個圖:

嗯,這個擬合程度說得過去...

不過反正是近似了,我們可以把參數再改的好看一點:

$frac{pi }{sqrt[4]{6}}= 2.0073 sim 2; quad 12 left(sqrt{6}+3right) = 65.394 sim 64$

為什麼要這麼湊呢,我們來看這個函數的逆傅里葉變換,注意傅里葉參數的選取為$(-1,1)$:

$mathscr{F}_{-1}left(e^{-frac{t^2}{a}} text{sinc}(b t)right)=frac{1}{4b} left[text{erf}left(frac{sqrt{a}}{2} (b-x)right)+ text{erf}left(frac{sqrt{a}}{2}(b+x)right)right]$

所以把$a$湊成平方比較好看.

綜上所述:該分布的概率密度函數為: $displaystyle f(x)=frac{1 }{8}left[text{erf}left(frac{8+4x}{pi }right)+text{erf}left(frac{8-4 x}{pi }right)right]$

當然我們可以做個實驗看看擬合程度到底如何:

Perfect!雖然長得有點像正態分布但我真的沒見過平頭的正態分布...

然後再來看連續分布的情況

$displaystyle x_n sim Uleft[ { - frac{1}{n},frac{1}{n}} right]$

特徵函數: $displaystyle f_n = frac{n}{t}sin frac{t}{n}$

類似的計算過程:

$begin{aligned} prod_{n = 0}^infty {frac{n}{t}sin frac{t}{n}} =&prod_{n = 0}^infty left({1-frac{t^2}{6 n^2}+frac{t^4}{120 n^4}+Oleft(t^6right)}right) a_2 =& sum _{n=1}^{infty } -frac{t^2}{6 n^2}=-frac{pi ^2}{36} t^2 a_4=&sum _{i=1}^{infty } frac{t^2 }{6 i^2}sum _{n=i+1}^{infty +1} frac{t^2}{6 n^2}+sum _{n=1}^{infty } frac{t^4}{120 n^4}=frac{7 pi ^4}{21600} t^4 therefore text{原式}=&1-frac{pi ^2 }{36}t^2 +frac{7 pi ^4 }{21600}t^4 +O(t^6) end{aligned}$

然後解方程估近似值:

$begin{aligned} a =& frac{12 left(sqrt{10}+5right)}{pi ^2} sim frac{100}{pi ^2} b =& frac{pi }{sqrt{3} sqrt[4]{10}} sim 1 end{aligned}$

綜上所述: $displaystyle f(x)=frac{1}{2} left[text{erf}left(frac{5 (1-x)}{pi }right)+text{erf}left(frac{5 (1+x)}{pi }right)right]$

這個看起來更像正態分布了,不過真的不是正態分布,雖然...數據確實能通過能某些正態檢測...

後記:

第一段相當扯淡... $prod _{n>0} cos frac{t}{n^p}$ 的行為根本無法預測...

衰減是肯定會衰減的,但是怎麼衰減在哪衰減就像混沌一樣不可捉摸...