繰り返しのある回帰分析｜同じxで複数のyがあるときの処理法

😓「同じ条件で複数回測定したデータ、どう扱えばいいの？」
😓「残差が大きいのは、測定誤差？それとも直線が合ってない？」
😓「Lack of Fit検定って何を検定しているの？」

こんな疑問、抱えていませんか？
実験データでは、同じxの値で複数回測定することがよくあります。この「繰り返しデータ」を活用すると、通常の回帰分析では見えなかった情報が得られます。

💡 結論ファースト

繰り返しのある回帰分析では、残差を「純誤差（測定のバラつき）」と「当てはめの悪さ（モデルのズレ）」に分解できます。これにより「直線モデルで本当にいいのか？」を統計的に検定（Lack of Fit検定）できます。

📚 この記事でわかること

繰り返しのある回帰分析のメリット
純誤差（Pure Error）と当てはめの悪さ（Lack of Fit）の違い
Lack of Fit検定で直線モデルの妥当性を判定する方法
計算例で分散分析表を完成させる手順

📌 前提知識：単回帰の分散分析表を理解している方向けです。まだの方は以下もどうぞ。
→ 単回帰の分散分析表｜回帰・残差・全体の平方和

🔄 繰り返しのある回帰分析とは？
- 📊 通常の回帰 vs 繰り返しのある回帰
- 🤔 なぜ繰り返しデータが重要なのか？
📐 残差の分解：純誤差と当てはめの悪さ
📋 分散分析表の構造（繰り返しあり）
🧮 計算例：繰り返しのあるデータ
- 📊 完成した分散分析表
⚖️ 検定の判定
📌 まとめ
統計学のおすすめ書籍

🔄 繰り返しのある回帰分析とは？

繰り返しのある回帰分析とは、同じxの値に対して複数のyが測定されているデータを扱う回帰分析です。

📊 通常の回帰 vs 繰り返しのある回帰

通常の回帰データ

x	1	2	3	4	5
y	2	4	5	4	6

各xに対してyは1つだけ

繰り返しのあるデータ

x	1	1	2	2	3	3
y	2	3	4	5	5	7

同じxに対して複数のyがある！

🤔 なぜ繰り返しデータが重要なのか？

通常の回帰分析では、残差（y − ŷ）が大きいとき、その原因が2つ考えられます。

原因①：測定のバラつき

同じxでも測定するたびにyが違う。これは避けられない誤差（純誤差）。

原因②：モデルのズレ

本当は曲線なのに直線で近似している。これは当てはめの悪さ（Lack of Fit）。

☕ イメージで理解：的当てゲーム

あなたが的を狙って矢を投げたとします。的の中心からズレた原因は2つ考えられます。

① 腕のブレ（純誤差）：何度投げてもピッタリ同じ場所には当たらない
② 狙いのズレ（当てはめの悪さ）：そもそも狙っている場所が中心からズレている

繰り返しデータがあれば、「腕のブレ」と「狙いのズレ」を分離して評価できます！

✨ 繰り返しデータがあると…

残差を「純誤差」と「当てはめの悪さ」に分解できる
→ 「直線モデルで本当にいいのか？」を検定できる

📐 残差の分解：純誤差と当てはめの悪さ

繰り返しのある回帰分析では、残差平方和S_eを2つに分解します。

🎯 残差分解の基本式

S_e = S_PE + S_LOF

残差平方和＝純誤差＋当てはめの悪さ

📊 各平方和の定義

記号の定義：
m = xの水準数（異なるxの種類）
n_i = 水準iでの繰り返し数
N = 全データ数（= Σn_i）
ȳ_i = 水準iでのyの平均
ŷ_i = 水準iでの回帰による予測値

S_PE：純誤差（Pure Error）

S_PE = Σ_i Σ_j (y_ij − ȳ_i)²

意味：各グループ内でのバラつき（測定の繰り返し誤差）
自由度：N − m

S_LOF：当てはめの悪さ（Lack of Fit）

S_LOF = Σ_i n_i(ȳ_i − ŷ_i)²

意味：グループ平均と回帰直線のズレ（モデルの不適合）
自由度：m − 2

📈 図解イメージ

同じxの値に複数のyがあるとき…

S_PE（純誤差）

各点 y_ij → グループ平均 ȳ_i
「同じxなのにバラつく」

S_LOF（当てはめの悪さ）

グループ平均 ȳ_i → 予測値 ŷ_i
「平均が直線から外れる」

⚖️ Lack of Fit検定（当てはめの妥当性検定）

「直線モデルで本当にいいのか？」を統計的に検定します。

Lack of Fit検定

帰無仮説 H₀：直線モデルは適切（当てはめの悪さは純誤差と同程度）
対立仮説 H₁：直線モデルは不適切（当てはめの悪さが大きい）

F_LOF = ^V_LOF/_{V_PE} = ^{S_LOF/(m−2)}/_{S_PE/(N−m)}

F_LOF > F(m−2, N−m; α) ならば 直線モデルは不適切

📋 分散分析表の構造（繰り返しあり）

要因	平方和 S	自由度 φ	平均平方 V	F値
回帰 R	S_R	1	V_R	F_R = V_R/V_PE
残差 e	S_e	N − 2	−	−
└ 当てはめの悪さ LOF	S_LOF	m − 2	V_LOF	F_LOF = V_LOF/V_PE
└ 純誤差 PE	S_PE	N − m	V_PE	−
全体 T	S_T	N − 1	−	−

🧮 計算例：繰り返しのあるデータ

データ（N = 6, m = 3水準, 各水準で繰り返し2回）

i	1	2	3	4	5	6
x	1	1	2	2	3	3
y	2	3	4	5	5	7

Step 1：グループ平均の計算

水準 x_i	y の値	グループ平均 ȳ_i
1	2, 3	2.5
2	4, 5	4.5
3	5, 7	6.0

全体平均：ȳ = (2+3+4+5+5+7)/6 = 26/6 ≈ 4.33

Step 2：回帰係数の計算

x̄ = (1+1+2+2+3+3)/6 = 2

Σ(x−x̄)(y−ȳ) = (−1)(−2.33) + (−1)(−1.33) + (0)(−0.33) + (0)(0.67) + (1)(0.67) + (1)(2.67) = 2.33 + 1.33 + 0 + 0 + 0.67 + 2.67 = 7

Σ(x−x̄)² = 1 + 1 + 0 + 0 + 1 + 1 = 4

傾き b = 7/4 = 1.75

切片 a = 4.33 − 1.75 × 2 = 0.83　→　回帰式：ŷ = 0.83 + 1.75x

Step 3：予測値の計算

水準 x	ŷ = 0.83 + 1.75x	ȳ_i	ȳ_i − ŷ
1	2.58	2.5	−0.08
2	4.33	4.5	+0.17
3	6.08	6.0	−0.08

Step 4：各平方和の計算

S_T（全体）= Σ(y−ȳ)² = (−2.33)² + (−1.33)² + (−0.33)² + (0.67)² + (0.67)² + (2.67)² = 5.43 + 1.77 + 0.11 + 0.45 + 0.45 + 7.13 = 15.33

S_R（回帰）= b × Σ(x−x̄)(y−ȳ) = 1.75 × 7 = 12.25

S_e（残差）= S_T − S_R = 15.33 − 12.25 = 3.08

S_PE（純誤差）= Σグループ内変動
　= [(2−2.5)² + (3−2.5)²] + [(4−4.5)² + (5−4.5)²] + [(5−6)² + (7−6)²]
　= [0.25 + 0.25] + [0.25 + 0.25] + [1 + 1] = 0.5 + 0.5 + 2 = 3.0

S_LOF（当てはめの悪さ）= S_e − S_PE = 3.08 − 3.0 = 0.08