【完全図解】Lack of Fitの検定とは？｜「この直線、本当に正しいの？」をF検定で見破る方法

回帰分析で直線を引いて、決定係数R²もそこそこ高い。「よし、このモデルでOKだ」と結論づけたくなりますよね。

でも、ちょっと待ってください。そもそも「直線」で当てはめたこと自体が間違っている可能性を考えたことはありますか？

たとえば、本当はデータが曲線的な関係を持っているのに、無理やり直線を引いてしまったら──R²がそれなりに高くても、予測はズレます。

この「直線モデルが本当に適切なのか？」を統計的に判定する方法が、今回解説する「Lack of Fit（適合性の欠如）の検定」です。

この検定を理解すると、回帰分析の結果を「なんとなくOK」ではなく、「統計的に根拠を持ってOK」と言えるようになります。計算例もつけて丁寧に解説していくので、ぜひ最後まで読んでみてください。

Lack of Fit（適合性の欠如）とは何か？

💡 一言でいうと「直線モデルの限界」を暴く検定

回帰分析では、データに直線 ŷ = a + bx を当てはめますよね。でも、現実のデータが本当に直線的な関係とは限りません。

Lack of Fit検定は、「残差のうち、直線モデルでは説明しきれないズレがどのくらいあるか」を調べるための手法です。

ここで重要なのは、残差が生まれる原因は「2つある」ということです。

🎯 「射撃の的」でイメージする ── 残差の2つの原因

射撃で的の中心を狙うとき、弾が中心からズレる原因は2つあります。

回帰分析に置き換えると、こうなります。

純粋誤差（Pure Error）は、同じ条件（同じx）で実験しても生じるランダムなバラつきです。これはモデルのせいではなく、測定誤差や個体差などの「避けられないノイズ」です。

Lack of Fit（モデル不適合）は、直線モデルでは捉えきれないズレです。もし本当の関係が曲線なのに直線を引いたら、このズレが大きくなります。

🔁 なぜ「繰り返しデータ」が必要なのか？

ここで重要な問題があります。もし各xに対してyが1つしかなければ、「純粋誤差」を見積もることができません。

なぜでしょうか？ たとえば、x=2のときy=7という1つのデータしかなければ、「y=7のうち、どこまでがランダムな誤差で、どこからがモデルのズレか」を区別する手がかりがないからです。

しかし、同じx=2に対してy=5, 7, 6の3つのデータがあれば、この3つのバラつき（分散）が「純粋誤差」の大きさを教えてくれます。

分散分析表の構造 ── 残差を「2つに分解」する

📊 通常の回帰分析の分散分析表（復習）

まず、通常の単回帰分析の分散分析表を復習しましょう。全体のバラつき（S_T）を「回帰で説明できた部分（S_R）」と「説明できなかった部分＝残差（S_e）」に分解します。

ここまでは、単回帰の分散分析で学んだ内容ですね。

🔍 Lack of Fit検定の分散分析表 ── 残差をさらに分解する

Lack of Fit検定では、この残差（S_e）をさらに2つに分解します。

つまり、分散分析表は以下のように拡張されます。

ここで k は「xの水準数（何種類のxがあるか）」、n は「データの総数」です。

📏 自由度の配分を理解する

自由度の構造が少し複雑なので、整理しておきましょう。

検算してみましょう。回帰 + LOF + PE = 1 + (k−2) + (n−k) = n−1 = 全体。ちゃんと合いますね。

各平方和の求め方 ── 何を計算しているのか？

🟢 純粋誤差平方和（S_PE）の計算

純粋誤差平方和は、「同じxの中で、yがどれだけバラついているか」を測ります。

具体的には、各水準（各xの値）ごとに、グループ内のバラつき（偏差平方和）を計算して、すべて足し合わせます。

やっていることはシンプルです。各グループの中で「平均からどれだけズレているか」を二乗して合計する。これは一元配置実験の「群内平方和」と同じ計算です。

🔴 Lack of Fit平方和（S_LOF）の計算

Lack of Fit平方和は、引き算で求まります。

直接計算する公式もあります。

この式の意味を考えてみましょう。「各水準の実測平均 ȳ_i」と「回帰直線の予測値 ŷ_i」のズレを二乗して合計しています。

もし直線モデルが完全に正しければ、各水準の平均は回帰直線上にほぼ乗るはずです。つまり ȳ_i ≈ ŷ_i となり、S_LOFはゼロに近づきます。逆に、直線では捉えきれない曲線的なパターンがあれば、ȳ_iとŷ_iのズレが大きくなり、S_LOFも大きくなります。

⚖️ F検定で「直線モデルは適切か？」を判定する

最後に、F検定で判定します。

この検定の考え方はこうです。

直感的に理解しましょう。V_LOF（モデル不適合によるバラつき）が V_PE（純粋な誤差のバラつき）と比べて大きすぎるなら、「そのズレはランダムな誤差では説明できない＝モデルが間違っている」と判断するわけです。

【計算例】具体的な数値で分散分析表を完成させる

📋 例題のデータ

ある工場で、加熱温度（x）と製品の強度（y）の関係を調べるため、4つの温度水準でそれぞれ3回ずつ実験を行いました。

データの基本情報を整理しておきます。

STEP 1：回帰直線を求める

まず、最小二乗法で回帰直線 ŷ = a + bx を求めます。

各水準での予測値を計算します。

実測平均と予測値にズレがありますが、これが「Lack of Fit」です。このズレが「誤差の範囲」なのか「モデルの問題」なのかを検定で判断します。

STEP 2：全体平方和 S_T を求める

STEP 3：回帰平方和 S_R と残差平方和 S_e を求める

STEP 4：純粋誤差平方和 S_PE を求める

各水準内で「平均からのズレ」を二乗して合計します。

STEP 5：Lack of Fit平方和 S_LOF を求める

引き算で求まります。

念のため、直接計算でも検算しておきましょう。

STEP 6：分散分析表を完成させてF検定

すべての計算結果を分散分析表にまとめます。

STEP 7：結果を判定する

射撃の例え話に戻ると、「照準のズレ（Lack of Fit）は、腕のブレ（純粋誤差）と比較して無視できるレベル」ということです。安心して直線モデルを使えます。

よくある疑問と注意点

❓ 「Lack of Fitが有意」だったらどうする？

もしF₀が棄却域に入り、Lack of Fitが有意と判定された場合、「直線モデルではデータを適切に表現できていない」ということになります。

この場合の次のアクションは、主に以下の3つです。

❓ 繰り返し数が不揃いでも検定できる？

はい、各水準の繰り返し数 n_i が異なっていても検定可能です。

純粋誤差の自由度は Σ(n_i − 1) = n − k で変わりませんし、S_LOFの直接計算式 Σn_i(ȳ_i − ŷ_i)² でも n_i の違いが自動的に反映されます。

ただし、繰り返しが1回しかない水準がある場合、その水準はPure Errorに寄与しません（水準内の分散が計算できないため）。最低でも各水準2回以上の繰り返しがあることが望ましいです。

❓ R²が高いのにLack of Fitが有意になることはある？

あります。これは一見矛盾しているように見えますが、ちゃんと理由があります。

R²（決定係数）は「全体のバラつきのうち、回帰で説明できた割合」を示す指標です。データの範囲が広く、全体的な傾向が強ければR²は高くなります。

しかし、R²が高くても「直線ではなく曲線で当てはめた方がさらに良い」というケースは存在します。たとえば、R² = 0.95でも、残差にS字型のパターンが残っていれば、Lack of Fit検定は有意になり得ます。

R²は「どれだけ説明できたか」、Lack of Fitは「モデルの形が正しいか」── 見ている角度が異なるのです。

まとめ ── 平方和の分解と判定フローを一枚で整理

最後に、この記事で学んだ内容を総整理しましょう。

📋 平方和の分解まとめ

🔑 この記事のポイント

Lack of Fit検定は、回帰分析の結果を「使って良いかどうか」を判断する最後の関門です。この検定をクリアして初めて、「直線モデルで予測してOK」と胸を張って言えます。

ぜひ、自分のデータでも実際に手を動かして計算してみてください。分散分析表を1つ作り上げると、理解が一気に深まりますよ。