4.6 廣義線性模型（Generalized Linear Models）

📖 前言：當 Y 不是數字也不是類別

到目前為止，我們學了兩種 Y 的型態：連續數值（第三章的線性迴歸） 和類別（第四章前半的分類方法）。但真實世界還有一種尷尬的 Y：計數（counts）—— 它不是連續的實數，也不是「是/否」的類別，而是 0, 1, 2, 3, … 的非負整數。

想像你在管理 華盛頓特區的公共自行車系統（Bikeshare）。 你想預測「某個小時會有幾個人租車」。這個數字：

• 不會是負的（不可能有 -5 個人租車）
• 不會是小數（不會有 3.7 個人）
• 平均值大的時候，變異數也大（尖峰時段人多且波動大；凌晨人少波動也小）

線性迴歸在這三個點上都會出問題。本節將介紹 卜瓦松迴歸（Poisson Regression）， 並將其統一進 廣義線性模型（GLM） 的框架中。

4.6.1 用線性迴歸硬幹 Bikeshare 資料——然後翻車

我們拿 Bikeshare 資料直接跑最小平方法線性迴歸。結果看起來還行：

表 4.10 摘要：線性迴歸預測 Bikeshare 每小時租車人數。

乍看合理：溫度高 → 租車多、天氣差 → 租車少。但仔細看有三個致命問題：

問題一：9.6% 的預測值是負的 🔴

線性迴歸模型不「知道」租車人數不能為負。在大雪紛飛的凌晨兩點， 模型可能預測「-15 個人租車」——這在現實中毫無意義。

問題二：變異數不是常數（異質變異性）🔴

線性模型假設誤差項的變異數 σ² 是常數，但自行車資料明顯違反： 凌晨雨天平均 5 人、標準差 3.7；晴天上午尖峰平均 244 人、標準差 132。 平均值越大，變異數也越大。這違反了同質變異性假設。

問題三：Y 是整數，模型卻給連續值 🔴

線性模型 Y = β₀ + Σ Xⱼβⱼ + ε，其中 ε 是連續誤差 → Y 必然是連續的。 但租車人數只能是整數（0, 1, 2, …），連續預測在概念上就不對。

取 log 可以救嗎？

對 Y 取 log 再跑迴歸可以避免負預測，也部分緩解異質變異性（見課本 Figure 4.14 右圖）。 但解釋變得很尷尬：「Xⱼ 增加一單位，log(Y) 的平均增加 βⱼ」——誰聽得懂？ 而且 Y=0 時無法取 log。所以 取 log 只是權宜之計，不是正解。

4.6.2 卜瓦松迴歸——為計數而生的模型

卜瓦松分佈（Poisson Distribution）

如果隨機變數 Y 取值為非負整數 {0, 1, 2, …}，且服從卜瓦松分佈，則：

這裡 λ > 0 是 Y 的期望值，而且 λ = E(Y) = Var(Y)。 這就是卜瓦松分佈的關鍵特性：平均值等於變異數。 平均值大 → 變異數也大，完美匹配 Bikeshare 的「尖峰波動大、離峰波動小」現象。

📐 生活化理解：想像一個櫃台，平均每小時有 λ=5 個人來。 有時多來幾個（8 人）、有時少來幾個（2 人），這個「來客數」的波動幅度跟 λ 有關。 λ=5 時波動有限，λ=100 時波動自然就大——卜瓦松用 λ = Var(Y) 捕捉了這個自然的規律。

卜瓦松迴歸模型

當然，λ 不該是常數——它應該隨著天氣、時間、月份而變化。 因此我們讓 log(λ) 是預測變數的線性組合：

等價於：

這裡用 log 連結 保證 λ 永遠為正（指數函數的輸出恆正）， 而且用最大概似法（MLE）估計係數，跟邏輯迴歸的估計方式相同。

程式碼示範：Poisson 迴歸實作

# Google Colab / 本機相容資料讀取
try:
    from google.colab import drive
    drive.mount('/content/drive')
    DATA_PATH = '/content/drive/MyDrive/ISLP_data/'
except ImportError:
    DATA_PATH = '/tmp/'

import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
import numpy as np
import pandas as pd
import statsmodels.api as sm
import statsmodels.formula.api as smf

# 載入 Bikeshare 資料（來自 ISLP 套件）
from ISLP import load_data
Bike = load_data('Bikeshare')

# 查看資料結構
print("資料維度:", Bike.shape)
print(Bike.head(3))
print("\n租車人數分布:")
print(Bike['bikers'].describe())

# ---- Poisson 迴歸 ----
# 使用 statsmodels 的 GLM 搭配 Poisson family
model_pois = smf.glm(
    'bikers ~ mnth + hr + workingday + temp + weathersit',
    data=Bike,
    family=sm.families.Poisson()
).fit()

print("\n=== Poisson 迴歸結果 ===")
print(model_pois.summary().tables[1])

# ---- 比較：線性迴歸（OLS）----
model_lm = smf.ols(
    'bikers ~ mnth + hr + workingday + temp + weathersit',
    data=Bike
).fit()

# 計算線性迴歸的負預測比例
neg_pred = (model_lm.fittedvalues < 0).mean() * 100
print(f"\n線性迴歸負預測比例: {neg_pred:.1f}%")
print(f"Poisson 迴歸負預測比例: 0.0% (模型本身禁止負值)")

plt.show()

Bikeshare 資料上的 Poisson 迴歸結果

表 4.11：Poisson 迴歸預測 Bikeshare 租車人數。

係數解讀：乘法思維 🔑

Poisson 迴歸的係數要用 乘法 來解讀，而不是加法。 因為 λ = e^(β₀ + β₁X₁ + …)，所以 Xⱼ 增加 1 單位，λ 會 乘以 e^(βⱼ)。

• 天氣從晴天變陰天：係數 = -0.08 → e^(-0.08) = 0.923。陰天時的租車人數只有晴天的 92.3%。
• 天氣從陰天變雨天：係數變化 = -0.58 - (-0.08) = -0.50 → e^(-0.50) = 0.607。雨天只有陰天的 60.7%。
• 溫度上升 1 單位（標準化）：係數 = 0.79 → e^(0.79) = 2.20。租車人數變為 2.2 倍。

Poisson 迴歸 vs. 線性迴歸——三個關鍵差異

4.6.3 GLM：一個框架統治三種迴歸

現在我們學了三種迴歸——線性、邏輯斯、卜瓦松。它們看似不同，但其實共享一個 統一結構。這就是 廣義線性模型（Generalized Linear Model, GLM） 的核心洞見。

GLM 的三個組件

每個 GLM 由三個部分組成：

1. 隨機成分（Random Component）：Y 服從某個指數族分佈
   • 線性迴歸：Y ~ Normal(μ, σ²)
   • 邏輯斯迴歸：Y ~ Bernoulli(p)
   • 卜瓦松迴歸：Y ~ Poisson(λ)
2. 系統成分（Systematic Component）：線性預測子 η = β₀ + β₁X₁ + … + βₚXₚ
3. 連結函數（Link Function）：把 E(Y) 和線性預測子 η 連起來

三種迴歸的連結函數對照

程式碼示範：GLM 統一介面

import matplotlib
matplotlib.use('Agg')
import matplotlib.pyplot as plt
import numpy as np
import statsmodels.api as sm
import statsmodels.formula.api as smf
from ISLP import load_data
Bike = load_data('Bikeshare')

# GLM 統一介面：只需換 family 參數
families = {
    'Gaussian (線性迴歸)': sm.families.Gaussian(),
    'Poisson (卜瓦松迴歸)': sm.families.Poisson(),
}

print("=== 同一個公式，不同 family，不同結果 ===\n")
for name, fam in families.items():
    model = smf.glm(
        'bikers ~ temp + workingday',
        data=Bike,
        family=fam
    ).fit()
    print(f"[{name}]")
    print(f"  截距: {model.params.iloc[0]:.3f}")
    print(f"  temp 係數: {model.params.iloc[1]:.3f}")
    print(f"  AIC: {model.aic:.1f}\n")

# 視覺化：比較三種連結函數
eta = np.linspace(-3, 3, 200)
fig, axes = plt.subplots(1, 3, figsize=(14, 4))

# Identity link
axes[0].plot(eta, eta, 'b-', lw=2)
axes[0].axhline(y=0, color='gray', ls='--', alpha=0.5)
axes[0].set_title('Identity: μ = η')
axes[0].set_xlabel('η')
axes[0].set_ylabel('μ')

# Logit link
mu_logit = 1 / (1 + np.exp(-eta))
axes[1].plot(eta, mu_logit, 'r-', lw=2)
axes[1].axhline(y=0.5, color='gray', ls='--', alpha=0.5)
axes[1].set_title('Logit: μ = e^η / (1+e^η)')
axes[1].set_xlabel('η')

# Log link
mu_log = np.exp(eta)
axes[2].plot(eta, mu_log, 'g-', lw=2)
axes[2].axhline(y=0, color='gray', ls='--', alpha=0.5)
axes[2].set_title('Log: μ = e^η')
axes[2].set_xlabel('η')

for ax in axes:
    ax.grid(True, alpha=0.3)
plt.tight_layout()
plt.savefig('/tmp/glm_links.png', dpi=100, bbox_inches='tight')
print("✅ 已儲存連結函數比較圖")
plt.show()

🔬 GLM 的深層洞見：對 Hermes 系統設計的啟發

GLM 給我們的最大教訓不是數學，而是設計哲學：

統一的介面 + 可替換的引擎 = 最大彈性。
GLM 的精髓在於：η = Xβ（線性預測子）不變，只換 g(·)（連結函數）和分佈家族， 就能從線性迴歸切換到邏輯斯迴歸再切到卜瓦松迴歸。

這對 Hermes 子代理（sub-agent）系統的啟發：

• 統一任務介面：像 GLM 的 η = Xβ 一樣，所有子代理應該接受相同的輸入格式（任務描述 + 上下文），讓協調者不用針對每個子代理寫特殊邏輯。
• 可替換的執行引擎：像 GLM 換 family 參數一樣，子代理應該可以換底層模型（Claude Code ↔ Codex ↔ OpenCode），而不改變上層呼叫介面。
• 連結函數 = 輸出轉換層：GLM 的連結函數確保預測在合理範圍內（log 保證 λ>0，logit 保證 p∈[0,1]）。子代理的輸出也應該經過一個驗證層，確保結果格式正確、數值合理。

這正是 subagent-driven-development skill 設計中的核心原則： 定義統一的任務 schema → 子代理自由選擇實作方式 → 結果經過審查層（critic）驗證。

📊 模型比較總覽

ISLP §4.6 Generalized Linear Models · 課本 pp. 167–172 · 下一節：§4.7 Lab: Logistic Regression, LDA, QDA, and KNN