第一章事件的概率

05-18

第一章事件的概率

來自專欄概率論與數理統計

事件

一般含義：（1）有一個明確界定的試驗。

（2）這個試驗的全部可能結果，是在試驗前就明確的。

（3）一個確定的部分，就叫做一個事件。

基本事件：單一的試驗結果。

古典概率

定義：設一個試驗有 $N$ 個「等可能」的結果，而事件 $E$ 恰包含其中的 $M$ 個結果，則事件 $E$ 的概率，記為 $Pleft( E ight)$ ，定義為

$Pleft( E ight)=M/N$

局限性：它只能用於全部試驗結果為有限個，且等可能性成立的情況。

概率的統計定義

把事件 $E$ 概率定義為具有如下性質的一個數 $p$ :當把試驗重複時， $E$ 的頻率在 $p$ 附近擺動，且當重複次數增大時，這個擺動愈來愈小，或者乾脆說：概率就是當試驗次數無限增大時頻率的極限。

概率的公理化定義

已知事件是與試驗相連的，試驗有許多可能的結果，每個結果叫做一個基本事件.與此相應，在柯氏的公理體系中引進一個抽象的集合 $Omega$ ，其元素 $omega$ 稱為基本事件。

一個事件是由若干基本事件構成的.與此相應，在柯氏公理體系中考慮由 $Omega$ 的子集（包括 $Omega$ 本身及空集 $varnothing$ ）構成的一個集類 $Im$ ， $Im$ 不必包括 $Omega$ 的一切可能的子集，且必須滿足某種條件. $Im$ 中的每個成員就稱為「事件」。概率是事件的函數.與此相應，在柯氏公理體系中，引進了一個定義在 $Im$ 上的函數 $P$ 。對 $Im$ 中的任意成員 $A$ ， $Pleft( A ight)$ 的值理解為事件 $A$ 的概率，柯氏公理體系對這個函數 $P$ 加上幾條公理：

$0ll Pleft( A ight)ll1$
$Pleft( Omega ight)=1，Pleft( varnothing ight)=0$
加法公理

排列組合公式

事件的蘊含、包含及相等

在同一試驗下的兩個事件 $A$ 和 $B$ ，如果當 $A$ 發生時 $B$ 必發生，則稱 $A$ 蘊含 $B$ ，或者說 $B$ 包含 $A$ ，記為 $Asubset B$ 。

若 $A,B$ 相互蘊含記 $Asubset B$ 且 $Bsubset A$ ，則稱 $A,B$ 兩事件相等，記為 $A=B$ 。

事件的互斥和對立

互斥：

若兩事件 $A,B$ 不能再同一次試驗中都發生（但可以都不發生），則稱它們是互斥的。

如果一些事件中任意兩個都互斥，則稱這些事件是兩兩互斥的，或簡稱互斥的。

從「事件是由一些試驗結果所構成的」這個觀點看：互斥事件無非是說，構成這兩個事件各自的試驗結果中不能有公共的。

對立：

若 $A$ 為一事件，則事件

$B=left{ A,不發生 ight}$

稱為 $A$ 的對立事件，多記為 $ar{A}$ 。

事件的和（或稱並）

設有兩個事件 $A,B$ ，定義一個新事件 $C$ 如下：

$C=left{ A,發生,或B發生 ight}=left{ A,B至少發生一個 ight}$

$C$ 稱為事件 $A$ 與事件 $B$ 的和，記為

$C=A+B$ 或記為 $C=Acup B$

事件的和很自然地推廣到多事件。

概率的加法定理

若干個互斥事件之和的概率，等於各事件的概率之和，即：

$Pleft( A_{1}+A_{2}+cdots ight)=Pleft( A_{1} ight)+Pleft( A_{2} ight)+cdots$ .

事件個數可以是有限的或無限的。註：各事件必須是兩兩互斥.

推論：以 $ar{A}$ 表示 $A$ 的對立事件，則

$Pleft{ ar{A} ight}=1-Pleft{ A ight}$

事件的積（或稱交）、事件的差

事件的積：

設有兩個事件 $A,B$ ，則如下定義事件 $C$ ：

$C=left{ A,B,都發生 ight}$

稱為兩事件 $A,B$ 的積或者乘積，並記為 $AB$ 。可依此推廣到多個事件的積.

事件的差：

兩個事件 $A,B$ 之差，記為 $A-B$ ，定義為：

$A-B=left{ A,發生,B,不發生 ight}$

事件的和、差、積等運算滿足乘法結合律，分配率。

下面給出幾個容易混淆的例子：

$A+A=A$
$AA=A$
$A-B=varnothing Rightarrow A=B,Rightarrow Asubset B$
$left( A-B ight)+B=A+B$

條件概率

當說到「條件概率」時，總是指另外附加的條件，其形式總可歸結為「已知某事件發生了」。

定義：設有兩個事件 $A,B$ ,而 $Pleft{ B ight} e0$ ，則「在給定 $B$ 發生的條件下 $A$ 的條件概率」，記為 $Pleft( A,|B ight)$ ,定義為：

$Pleft( A,|B ight)=frac{Pleft( AB ight)}{Pleft( B ight)}$

事件的獨立性、概率乘法定理

設有兩個事件 $A,B$ , $A$ 的無條件概率 $Pleft( A ight)$ 與其在給定 $B$ 發生之下的條件概率 $Pleft{ A,|B ight}$ ,一般是由差異的.這反映了這兩個事件之間存在著一些關聯。

例如， $Pleft( A,|B ight)>Pleft( A ight)$ ,則 $B$ 的發生使 $A$ 發生的可能性增大了，即 $B$ 促進了 $A$ 的發生。

反之，若 $Pleft( A,|B ight)=Pleft( A ight)$ （可推出： $Pleft( A,|ar{B} ight)=Pleft( A ight)$ ），則 $B$ 的發生與否對 $A$ 發生的可能性毫無影響.這時，在概率論上就稱 $A,B$ 兩事件獨立。

定義：由條件概率公式得出： $Pleft( A,|B ight)=Pleft( A ight)Pleft( B ight)$ $Rightarrow$ A,B兩事件獨立。

定理：兩獨立事件 $A,B$ 的積 $AB$ 的概率 $Pleft( AB ight)$ 等於其各自概率的積 $Pleft( A ight)Pleft( B ight)$ 。

（註：如果試驗的內容真是單一的，那麼，在這種試驗下兩事件獨立的較少出來的例外.因為兩個事件既然都依賴同一批結果，彼此必定會有影響。）

推廣：對個事件獨立性的定義。

定義：設 $A_{1},A_{2},cdots$ 為有限或無限個事件，如果從其中任意取出有限個 $A_{i_{1}},A_{i_{2}},cdots,A_{i_{m}}$ ,都成立。

$Pleft( A_{i_{1}}A_{i_{2}}cdots A_{i_{m}} ight)=Pleft( A_{i_{1}} ight)Pleft( A_{i_{2}} ight)cdots Pleft( A_{i_{m}} ight)$

則稱事件 $A_{1},A_{2},cdots$ 相互獨立，或簡稱獨立。

定理：若干個獨立事件 $A_{1},cdots,A_{n}$ 之積的概率，等於各事件概率的乘積：

$Pleft( A_{1}cdots A_{n} ight)=Pleft( A_{1} ight) cdots Pleft( A_{n} ight)$

（註：加法定理 $ightarrow$ 互斥，乘法定理 $ightarrow$ 獨立.）

兩個性質：

獨立事件的任意部分也獨立。
若一列事件 $A_{1},A_{2},cdots$ 相互獨立，則將其中任一部分改為對立事件時，所得事件列仍為相互獨立的。

（註：相互地理 $Rightarrow$ 兩兩獨立，反之不一定成立。）

全概率公式與貝葉斯公式

1.全概率公式：

設 $B_{1},B_{2},cdots$ 為有限或無限個事件，它們兩兩互斥且在每次試驗中至少發生一個，用式表之，即

$B_{i}B_{j}=varnothing$ (不可能事件) $quadleft( i e j ight)$ ，

$B_{1}+B_{2}+cdots=Omega$ (必然事件).

由加法定理和條件概率的定義 $Rightarrow$ $Pleft( A ight)=Pleft( B_{1} ight)Pleft( A,|B_{1} ight)+Pleft( B_{2} ight)Pleft( A,|B_{2} ight)+cdots$

這個公式稱為全概率公式。

理論和實用意義：在較複雜的情況下直接算 $Pleft( A ight)$ 不易，但 $A$ 總是隨某個 $B_{i}$ 伴出，適當去構造這一組 $B_{i}$ 往往可以簡化計算。

從另一個角度理解全概率公式：把 $B_{i}$ 看做導致事件 $A$ 發生的一種可能途徑，對不同途徑， $A$ 發生的改立即條件概率 $Pleft( A,|B ight)$ 各不相同，而採取哪個途徑卻是隨機的.正確的答案應是諸 $Pleft( A,|B_{i} ight)$ 以 $Pleft( B_{i} ight)$ 為權的加權平均值 $left( i=1,2, cdots ight)$ 。

2.貝葉斯公式：

在全概率公式的假定之下，有

$Pleft( B_{i},|A ight)=frac{Pleft( AB_{i} ight)}{Pleft( A ight)}$

$=frac{Pleft( B_{i} ight)Pleft( A,|B_{i} ight)}{sumlimits_{j}Pleft( B_{j} ight)Pleft( A,|B_{j} ight)}$

這個公式稱為貝葉斯公式。

3.總結概括：

如果我們把事件 $A$ 看成「結果」，把諸事件 $B_{1},B_{2},cdots$ 看成導致這個結果的可能的「原因」，則可以形象地把

全概率公式看做「由原因推結果」;而貝葉斯公式則看做「由結果推原因」。

第一章 事件的概率

第一章事件的概率