生物統計學習筆記從概念、推導到實務判讀

CHAPTER 02 · TOPIC 08

二項分配

二項分配(binomial distribution)描述的是:在固定次數、彼此獨立且成功機率相同的重複試驗中,成功次數 X 的機率分布。它是一種離散型機率分配。

本頁內容
  1. 使用二項分配的四個條件
  2. 二項分配的記法
  3. 剛好成功 x 次的機率
  4. 累積機率怎麼算?
  5. 平均成功次數與變異
  6. 二項分配何時接近常態分配?
  7. 和其他分配的關係

二項分配(binomial distribution)描述的是:在固定次數、彼此獨立且成功機率相同的重複試驗中,成功次數 X 的機率分布。它是一種離散型機率分配。

使用二項分配的四個條件#

  1. 試驗次數 n 事先固定
  2. 每次試驗只有兩種互斥結果,通常標記為成功與失敗
  3. 各次試驗彼此獨立,一次結果不改變另一次結果
  4. 每次試驗的成功機率都相同,記為 p;失敗機率為 q=1-p

二項分配的記法#

令 X 表示 n 次試驗中的成功次數,每次成功機率為 p,則 X 服從參數 n 與 p 的二項分配。X 只能取 0、1、2,直到 n。

分配記法XBinomial(n,p)X\sim\operatorname{Binomial}(n,p)
可能取值x=0,1,2,,nx=0,1,2,\ldots,n
失敗機率q=1pq=1-p
符號代表意義
Xn 次試驗中的成功總次數
xX 的某個可能取值
n固定的試驗總次數
p每一次試驗的成功機率
q每一次試驗的失敗機率,q=1-p

剛好成功 x 次的機率#

先指定一種成功與失敗的排列:其中有 x 次成功、n-x 次失敗,其機率等於各次試驗機率的乘積。但成功可以出現在不同位置,因此還要乘上從 n 個位置選出 x 個成功位置的組合數。

一個指定排列的機率px(1p)nxp^x(1-p)^{n-x}
剛好成功 x 次的總機率P(X=x)=(nx)px(1p)nx,x=0,1,,nP(X=x)=\binom{n}{x}p^x(1-p)^{n-x},\qquad x=0,1,\ldots,n
成功位置的組合數(nx)=n!x!(nx)!\binom{n}{x}=\frac{n!}{x!(n-x)!}
公式部分代表意義
p^x指定排列中的 x 次成功
(1-p)^(n-x)指定排列中的 n-x 次失敗
C(n,x)x 次成功可安排在 n 個位置中的方式數
P(X=x)所有可能排列加總後,剛好成功 x 次的機率

累積機率怎麼算?#

二項公式給的是剛好成功 x 次的機率。若問題問「至多」、「至少」或某個範圍,就要把符合條件的多個 x 值相加;計算至少成功 k 次時,也常用反事件簡化。

至多成功 k 次P(Xk)=x=0k(nx)px(1p)nxP(X\le k)=\sum_{x=0}^{k}\binom{n}{x}p^x(1-p)^{n-x}
至少成功 k 次P(Xk)=1P(Xk1)P(X\ge k)=1-P(X\le k-1)

平均成功次數與變異#

n 次試驗中,每一次平均貢獻 p 次成功,因此總成功次數的平均值為 np。單次成功指標的變異數為 p(1-p);在各次試驗獨立時,n 次變異數相加得到 np(1-p)。

期望值E(X)=npE(X)=np
變異數Var(X)=np(1p)=npq\operatorname{Var}(X)=np(1-p)=npq
標準差SD(X)=np(1p)\operatorname{SD}(X)=\sqrt{np(1-p)}
補充:用成功指標快速推導平均數與變異數

令 I_i 表示第 i 次試驗是否成功:成功時 I_i=1,失敗時 I_i=0。總成功次數就是所有成功指標的總和。

成功次數X=I1+I2++InX=I_1+I_2+\cdots+I_n
單次試驗E(Ii)=p,Var(Ii)=p(1p)E(I_i)=p,\qquad \operatorname{Var}(I_i)=p(1-p)

期望值具有可加性;而試驗彼此獨立時,共變異數為 0,因此變異數也可以直接相加。

平均數E(X)=i=1nE(Ii)=npE(X)=\sum_{i=1}^{n}E(I_i)=np
變異數Var(X)=i=1nVar(Ii)=np(1p)\operatorname{Var}(X)=\sum_{i=1}^{n}\operatorname{Var}(I_i)=np(1-p)
補充:依原公式完整推導 E(X) 與 Var(X)

第一部分:推導 E(X)=np

從離散型隨機變數的期望值定義開始。因為 x=0 的那一項等於 0,所以總和可從 x=1 開始。

E(X)=x=1nx(nx)px(1p)nxE(X)=\sum_{x=1}^{n}x\binom{n}{x}p^x(1-p)^{n-x}

接著使用第一個組合恆等式。它的作用,是把前面的 x 吸收到組合數中,並將 n 次選 x 個位置改寫成先固定一個成功位置,再從其餘 n−1 個位置選 x−1 個。

組合恆等式x(nx)=n(n1x1)x\binom{n}{x}=n\binom{n-1}{x-1}
同時從 p 的次方提出一個 ppx=ppx1p^x=p\,p^{x-1}

代回期望值後,可以把與 x 無關的 n 與 p 提到總和外面。

E(X)=npx=1n(n1x1)px1(1p)nxE(X)=np\sum_{x=1}^{n}\binom{n-1}{x-1}p^{x-1}(1-p)^{n-x}

令 j=x−1。當 x 從 1 走到 n 時,j 便從 0 走到 n−1;而 n−x=(n−1)−j。換元後,總和正好是參數 n−1、p 的所有二項機率之和。

換元j=x1,j=0,1,,n1j=x-1,\qquad j=0,1,\ldots,n-1
完整二項機率和j=0n1(n1j)pj(1p)(n1)j=[p+(1p)]n1=1\sum_{j=0}^{n-1}\binom{n-1}{j}p^j(1-p)^{(n-1)-j}=[p+(1-p)]^{n-1}=1
得到期望值E(X)=np×1=npE(X)=np\times1=np

第二部分:先求 E[X(X−1)]

若直接計算 E(X²),組合數前會留下 x²,不容易立即化簡。原文採用的技巧是先計算第二階階乘動差 E[X(X−1)];因為 x=0、1 的項都等於 0,所以總和從 x=2 開始。

E[X(X1)]=x=2nx(x1)(nx)px(1p)nxE[X(X-1)]=\sum_{x=2}^{n}x(x-1)\binom{n}{x}p^x(1-p)^{n-x}

這次使用第二個組合恆等式,把 x(x−1) 吸收到組合數中;同時從 p^x 提出 p²。

第二個組合恆等式x(x1)(nx)=n(n1)(n2x2)x(x-1)\binom{n}{x}=n(n-1)\binom{n-2}{x-2}
從成功機率提出 p²px=p2px2p^x=p^2p^{x-2}
E[X(X1)]=n(n1)p2x=2n(n2x2)px2(1p)nxE[X(X-1)]=n(n-1)p^2\sum_{x=2}^{n}\binom{n-2}{x-2}p^{x-2}(1-p)^{n-x}

再令 j=x−2。換元後的總和是參數 n−2、p 的完整二項機率和,因此仍然等於 1。

第二次換元j=x2,j=0,1,,n2j=x-2,\qquad j=0,1,\ldots,n-2
剩餘機率和等於 1j=0n2(n2j)pj(1p)(n2)j=1\sum_{j=0}^{n-2}\binom{n-2}{j}p^j(1-p)^{(n-2)-j}=1
得到階乘動差E[X(X1)]=n(n1)p2E[X(X-1)]=n(n-1)p^2

第三部分:由階乘動差得到 Var(X)

利用 X²=X(X−1)+X,把剛才求得的階乘動差與 E(X)=np 組合起來,先得到 E(X²)。

代數關係X2=X(X1)+XX^2=X(X-1)+X
二次動差E(X2)=E[X(X1)]+E(X)=n(n1)p2+npE(X^2)=E[X(X-1)]+E(X)=n(n-1)p^2+np

最後代入變異數定義並逐步整理。

變異數定義Var(X)=E(X2)[E(X)]2\operatorname{Var}(X)=E(X^2)-[E(X)]^2
代入已知結果Var(X)=n(n1)p2+np(np)2\operatorname{Var}(X)=n(n-1)p^2+np-(np)^2
展開並消去共同項=n2p2np2+npn2p2=n^2p^2-np^2+np-n^2p^2
得到變異數Var(X)=npnp2=np(1p)\operatorname{Var}(X)=np-np^2=np(1-p)
符號或技巧在推導中的作用
xC(n,x)=nC(n−1,x−1)消去期望值總和前的 x
x(x−1)C(n,x)=n(n−1)C(n−2,x−2)消去階乘動差總和前的 x(x−1)
j=x−1 或 j=x−2重新設定求和索引,使總和從 0 開始
完整二項機率和=1將剩餘總和直接化簡
X²=X(X−1)+X由階乘動差轉回二次動差

二項分配何時接近常態分配?#

你原本的直覺是正確的:n 越大,而且 p 不太靠近 0 或 1 時,二項分配通常越接近鐘形的常態分配。只用「n 至少 20」仍可能不夠,因為 p 很小或很大時,成功或失敗的預期次數可能仍然太少。

近似的常態分配XN ⁣(np,np(1p))X\approx N\!\left(np,\,np(1-p)\right)
標準化Z=Xnpnp(1p)N(0,1)Z=\frac{X-np}{\sqrt{np(1-p)}}\approx N(0,1)

因為二項分配是離散的、常態分配是連續的,實際近似機率時可使用連續性校正。例如 P(X≤k) 以常態近似時,將邊界 k 改為 k+0.5,再計算常態曲線下的面積。

P(Xk)P(Yk+0.5),YN ⁣(np,np(1p))P(X\le k)\approx P(Y\le k+0.5),\qquad Y\sim N\!\left(np,np(1-p)\right)
符號在這組公式中的意義
~服從某個機率分配
n本段使用的觀察數、樣本數或試驗次數;以公式前的研究設定為準

和其他分配的關係#

  • 伯努利分配:n=1 的二項分配就是一次成功/失敗試驗
  • 多項分配:當每次試驗不只兩種結果時,可視為二項分配向多類別的推廣
  • 卜瓦松分配:n 很大、p 很小且 np 保持適中時,可用參數 λ=np 的卜瓦松分配近似
  • 常態分配:np 與 n(1-p) 足夠大時,可用平均數 np、變異數 np(1-p) 的常態分配近似