生物統計學習筆記從概念、推導到實務判讀

CHAPTER 05 · TOPIC 02

卡方適合度檢定

卡方適合度檢定(chi-square goodness-of-fit test)用來判斷一個類別變項的母體比例,是否符合事先指定的理論分布。資料可以分成兩類或更多類;我們比較各類實際觀察到的次數與 H₀ 下應該出現的次數,評估兩者的落差是否

本頁內容
  1. 從二項分布推廣到多項分布
  2. 資料與模型的條件
  3. 建立假設
  4. Pearson 卡方統計量
  5. 二分類情況的公式推導
  6. 自由度為什麼是 k−1?
  7. 從二分類推廣到 k 個類別
  8. 與單一比例 Z 檢定的關係
  9. 與卡方獨立性檢定的差別
  10. 檢定步驟

卡方適合度檢定(chi-square goodness-of-fit test)用來判斷一個類別變項的母體比例,是否符合事先指定的理論分布。資料可以分成兩類或更多類;我們比較各類實際觀察到的次數與 H₀ 下應該出現的次數,評估兩者的落差是否大到難以用隨機抽樣解釋。

從二項分布推廣到多項分布

二項分布只有成功與失敗兩種互斥結果;多項分布(multinomial distribution)則把相同概念推廣到 k 個互斥類別。一次觀察只能落入其中一類,各類機率固定為 p₁,…,pₖ,而且全部機率相加必須等於 1。

各類觀察次數(O1,O2,,Ok)Multinomial(n;p1,p2,,pk)(O_1,O_2,\ldots,O_k)\sim\operatorname{Multinomial}(n;p_1,p_2,\ldots,p_k)
總機率與總次數i=1kpi=1,i=1kOi=n\sum_{i=1}^{k}p_i=1,\qquad \sum_{i=1}^{k}O_i=n
第 i 類的期望次數Ei=E(Oi)=npiE_i=E(O_i)=np_i

資料與模型的條件

  • 樣本包含固定的 n 次觀察或試驗。
  • 每次觀察只能歸入 k 個互斥且完整的類別之一。
  • 在 H₀ 下,各類機率 p₁,…,pₖ 已被指定,且總和為 1。
  • 各次觀察彼此獨立;同一個觀察單位不能被重複計入。
  • 各類期望次數不能過小,卡方分配的漸近近似才會可靠。

建立假設

假設理論分布事先指定各類比例為 p₁⁽⁰⁾,…,pₖ⁽⁰⁾。適合度檢定不是逐類各做一次檢定,而是用一個統計量同時評估整組比例是否符合指定分布。

虛無假設H0:p1=p1(0), p2=p2(0),, pk=pk(0)H_0:p_1=p_1^{(0)},\ p_2=p_2^{(0)},\ldots,\ p_k=p_k^{(0)}
對立假設H1:至少有一個 pipi(0)H_1:\text{至少有一個 }p_i\ne p_i^{(0)}
H₀ 下的期望次數Ei=npi(0)E_i=np_i^{(0)}

拒絕 H₀ 只能表示觀察到的整體分布與指定分布不相容,不能只靠總檢定直接判定是哪一類造成差異。若要找出主要來源,還要進一步查看各類殘差與實際差異的方向。

Pearson 卡方統計量

每一類先計算觀察次數與期望次數的差 Oᵢ−Eᵢ,再除以該類在 H₀ 下的尺度。平方可以讓高於期望與低於期望的差異都成為正值,除以 Eᵢ則讓不同期望規模的類別可以放在同一尺度比較。

第 i 類的 Pearson residualri=OiEiEir_i=\frac{O_i-E_i}{\sqrt{E_i}}
Pearson 卡方統計量χ2=i=1kri2=i=1k(OiEi)2Ei\chi^2=\sum_{i=1}^{k}r_i^2=\sum_{i=1}^{k}\frac{(O_i-E_i)^2}{E_i}

二分類情況的公式推導

先看 k=2 的情況。假設樣本數為 n,第一類的理論比例為 p、觀察次數為 a;第二類的比例與觀察次數便分別由總和限制成 1−p 與 n−a。

類別觀察次數 OH₀ 下的比例期望次數 EO−E
第 1 類apnpa−np
第 2 類n−a1−pn(1−p)np−a=−(a−np)

把兩類代入 Pearson 卡方統計量,可以看見兩類的偏差大小相同、方向相反。第二類是所有未落入第一類的觀察,因此觀察次數應為 n−a。

代入兩類的觀察與期望次數χ2=(anp)2np+[(na)n(1p)]2n(1p)\chi^2=\frac{(a-np)^2}{np}+\frac{\left[(n-a)-n(1-p)\right]^2}{n(1-p)}
第二類偏差是第一類的相反數(na)n(1p)=npa=(anp)(n-a)-n(1-p)=np-a=-(a-np)
整理後χ2=(anp)2np(1p)\chi^2=\frac{(a-np)^2}{np(1-p)}

自由度為什麼是 k−1?

k 個觀察次數受到總數固定為 n 的限制。只要知道前 k−1 類的次數,最後一類就已經被決定,因此真正可以自由變動的資訊只有 k−1 個。二分類時知道 a,另一類必定是 n−a,所以只有 1 個自由度。

指定比例沒有由樣本估計參數時df=k1df=k-1
由同一批資料估計 m 個參數時df=k1mdf=k-1-m

從二分類推廣到 k 個類別

多項分布中,每一類計數的邊際變異數為 npᵢ(1−pᵢ),不同類別之間則具有負共變異數。由於全部次數的總和固定,這些偏差不是彼此獨立;在 H₀ 與大樣本條件下,扣除總和限制及由資料估計的參數後,Pearson 統計量近似服從相應自由度的卡方分配。

單一類別的變異數Var(Oi)=npi(1pi)\operatorname{Var}(O_i)=np_i(1-p_i)
不同類別的共變異數Cov(Oi,Oj)=npipj(ij)\operatorname{Cov}(O_i,O_j)=-np_ip_j\qquad(i\ne j)
大樣本下的近似分配i=1k(OiEi)2Ei  χk1m2\sum_{i=1}^{k}\frac{(O_i-E_i)^2}{E_i}\ \overset{\cdot}{\sim}\ \chi^2_{k-1-m}

與單一比例 Z 檢定的關係

在二分類、雙尾檢定且使用相同大樣本近似時,單一比例 Z 檢定與自由度為 1 的 Pearson 卡方適合度檢定其實是同一件事。把 Z 統計量平方,正好得到前面推導出的 χ² 統計量。

Z=p^pp(1p)/nZ2=(anp)2np(1p)=χ12Z=\frac{\hat p-p}{\sqrt{p(1-p)/n}}\quad\Longrightarrow\quad Z^2=\frac{(a-np)^2}{np(1-p)}=\chi_1^2
符號在這組公式中的意義
平方根;常用來把變異數轉成標準差
χ²卡方分配或卡方統計量
n本段使用的觀察數、樣本數或試驗次數;以公式前的研究設定為準

與卡方獨立性檢定的差別

比較項目卡方適合度檢定卡方獨立性檢定
資料問題一個類別變項是否符合指定比例兩個類別變項是否彼此獨立
期望次數來源Eᵢ=npᵢ⁽⁰⁾由列總數與欄總數計算
基本自由度k−1−m(r−1)(c−1)
共同點比較 O 與 E,使用 Pearson χ²比較 O 與 E,使用 Pearson χ²

兩種檢定使用相同的 Pearson 統計量形式,但抽樣結構、H₀、期望次數的來源與自由度不同。後面的卡方獨立性檢定會再由列聯表說明。

檢定步驟

  1. 確認資料為一個類別變項的次數資料,類別互斥且觀察值彼此獨立。
  2. 在看見或分析資料前,根據理論或研究問題指定 H₀ 下的各類比例。
  3. 計算各類期望次數 Eᵢ=npᵢ⁽⁰⁾,並檢查卡方近似是否合理。
  4. 計算 χ²=Σ(Oᵢ−Eᵢ)²/Eᵢ,以及扣除限制與估計參數後的自由度。
  5. 由右尾 p 值判斷是否拒絕 H₀;若拒絕,再查看殘差與各類差異方向,說明偏離主要來自哪些類別。