回帰分析

ロジスティック回帰分析とは?不良が出る確率を予測する式とオッズ比の読み方を例題で図解

ロジスティック回帰分析のアイキャッチ。0と1のデータにS字の曲線を当てはめる

※本記事にはプロモーション(広告)が含まれています。

ロジスティック回帰分析とは、「不良が出る・出ない」のような2択の結果が起きる確率pを、説明変数xから予測する回帰分析です。計算の流れは例題、オッズ比の読み方は係数の読み方の節にあります。

結論|まず30秒でわかる答え

確率は p=1÷(1+e^−(b₀+b₁x)) というS字の曲線で表し、必ず0〜1の間に入ります。係数b₁は、xが1増えたときに「起きる・起きない」の比(オッズ)が何倍になるかを表し、その倍率をオッズ比 e^b₁ と呼びます。

ロジスティック回帰分析のアイキャッチ。0と1のデータにS字の曲線を当てはめる

ロジスティック回帰分析とは?2択の結果の「起きやすさ」を予測する

ふつうの回帰分析(単回帰・重回帰)は、寸法や強度のように数値で表される結果yを、説明変数xで予測します。ところが品質の現場では、結果が「良品か不良か」「合格か不合格か」の2択になることがよくあります。

結果(目的変数)使う分析予測するもの
寸法・強度・温度などの数値単回帰・重回帰分析yの値
良品・不良などの2択(0と1)ロジスティック回帰分析1(不良など)になる確率p

2択のデータに直線の式を当てはめると、xが大きいときに確率が1をこえたり、小さいときにマイナスになったりします。確率は0〜1の間にしかならないので、S字の曲線で表すロジスティック回帰を使います。

回帰分析とは?相関との違い・単回帰の式 y=ax+b・4つの前提を初心者向けに図解
あわせて読みたい
回帰分析とは?相関との違い・単回帰の式 y=ax+b・4つの前提を初心者向けに図解

回帰分析の基本と、単回帰の式 y=ax+b の意味がわかります

ロジスティック回帰の考え方の図。直線の回帰では確率が0〜1をはみ出すが、ロジスティック回帰のS字の曲線は0〜1におさまる

確率をS字で表す式と、オッズ・ロジット

公式
確率 p = 1 ÷(1 + e^−(b₀+b₁x))

eは約2.718の定数(ネイピア数)です。b₀+b₁x がどんな値でも、pは0と1の間に入ります。b₀+b₁x=0 のとき、ちょうど p=0.5 になります。

用語意味例(p=0.8のとき)
オッズ起きる確率÷起きない確率 = p÷(1−p)0.8÷0.2=4(4対1で起きやすい)
ロジット(対数オッズ)オッズの自然対数 log(p÷(1−p))log 4≒1.39
ロジスティック回帰の式ロジット = b₀+b₁x(直線の形)xとロジットが直線の関係
たとえると

天気予報の「雨の確率」のようなものです。雲の量(x)が増えるほど雨の確率は上がりますが、どんなに雲が多くても100%をこえることはなく、どんなに少なくても0%より下にはなりません。この上下で頭打ちになる形がS字の曲線です。

二項分布とは?公式・期待値 np・分散 np(1−p)|不良品の確率を例題と計算ツールで
あわせて読みたい
二項分布とは?公式・期待値 np・分散 np(1−p)|不良品の確率を例題と計算ツールで

不良品の数の確率を求める二項分布の考え方がわかります

例題:乾燥時間の不足から、不良が出る確率を予測する

塗装の乾燥時間が基準より x 分不足したとき、不良が出る確率を、過去のデータから b₀=−4、b₁=0.5 と推定できたとします(説明のための仮の値です)。

STEP 1

x=4分のとき:b₀+b₁x=−4+0.5×4=−2

STEP 2

p=1÷(1+e²)=1÷(1+7.389)≒0.119(約12%)

STEP 3

x=8分のとき:−4+0.5×8=0 なので、p=1÷(1+1)=0.5(50%)

STEP 4

x=12分のとき:−4+0.5×12=2 なので、p=1÷(1+e^−2)=1÷(1+0.135)≒0.881(約88%)

乾燥時間の不足 xb₀+b₁x不良の確率 p
4分−2約12%
8分050%
12分2約88%
POINT

不足が8分をこえると、不良が出る確率のほうが高くなります。「何分まで不足を許せるか」の判断に、確率の数字で答えられるのがロジスティック回帰の強みです。

ロジスティック回帰の例題の図。乾燥時間の不足が4分なら不良の確率は約12%、8分なら50%、12分なら約88%、オッズ比は約1.65

係数の読み方:オッズ比 e^b₁

係数b₁は、そのままでは「ロジットがいくつ増えるか」しか表しません。e^b₁ に直すと、xが1増えたときにオッズが何倍になるか(オッズ比)として読めます。

STEP 1

b₁=0.5 なので、オッズ比=e^0.5≒1.65

STEP 2

乾燥時間の不足が1分増えるごとに、不良のオッズは約1.65倍になる

STEP 3

x=8分のオッズは1(50対50)、x=9分のオッズは約1.65

注意|ここで間違えやすい

オッズ比は「確率が1.65倍」という意味ではありません。確率で表すと、x=8分の50%が、x=9分では約62%になります(1.65÷(1+1.65)≒0.62)。確率とオッズを取りちがえないようにしましょう。

係数b₀とb₁は、最尤法(さいゆうほう:データがいちばん起こりやすくなる値を探す方法)で推定します。手計算ではなく、Excelのソルバーや統計ソフトで求めるのがふつうです。

説明変数(x)と目的変数(y)の違いとは?どっちが原因か迷わない覚え方
あわせて読みたい
説明変数(x)と目的変数(y)の違いとは?どっちが原因か迷わない覚え方

説明変数(x)と目的変数(y)の違いと決め方がわかります

ロジスティック回帰でよくある間違い

よくある間違い正しい考え方
2択のデータに直線の回帰を使う確率が0〜1をはみ出すので、ロジスティック回帰を使う
係数b₁を確率の増え方と読むb₁はロジットの増え方。e^b₁がオッズ比
オッズ比1.65=確率が1.65倍オッズが1.65倍。確率の増え方は元の確率で変わる
決定係数R²で当てはまりを見るふつうのR²は使わず、的中率などで確かめる
相関があれば原因と決める因果関係は、工程の知識と実験で確かめる
ロジスティック回帰のよくある間違いの図。2択のデータはロジスティック回帰、e^b₁がオッズ比、オッズ比は確率の倍率ではない、当てはまりは的中率などで確かめる

よくある質問

Q. ロジスティック回帰分析とは?

A. 良品・不良のような2択の結果が起きる確率を、説明変数から予測する回帰分析です。

Q. ロジスティック回帰の式は?

A. 確率p=1÷(1+e^−(b₀+b₁x))です。どんなxでも確率は0〜1の間に入ります。

Q. オッズ比とは?

A. 説明変数が1増えたとき、オッズ(起きる確率÷起きない確率)が何倍になるかで、e^b₁で求めます。

Q. 重回帰分析との違いは?

A. 重回帰分析は数値の結果を予測し、ロジスティック回帰分析は2択の結果が起きる確率を予測します。

Q. 係数はどうやって求める?

A. 最尤法で推定します。手計算ではなく、Excelのソルバーや統計ソフトで求めるのがふつうです。

この記事の要点
  • ロジスティック回帰分析=2択の結果が起きる確率を予測する
  • p=1÷(1+e^−(b₀+b₁x))、S字で0〜1におさまる
  • ロジット log(p÷(1−p))=b₀+b₁x が直線の形
  • オッズ比 e^b₁:xが1増えるとオッズが何倍か
  • 係数は最尤法で推定、確率とオッズを取りちがえない
参考にした資料

法令・規格・資料は改訂されることがあります。実務で使うときは、発行元の最新版で確かめてください。

この記事の理解を深める本と道具
おすすめの本

多変量解析を、教科書で基礎から体系的に学びたいときに向いています。多変量解析の考え方と手法を解説した入門書です(サイエンス社、永田靖・棟近雅彦 著)。

おすすめの本

「ロジスティック回帰分析」の土台になる統計学を、検定まで含めて1冊で学びたいときに向いています。検定から多変量解析・実験計画法・ベイズ統計学までを扱う、統計学の入門書です(オーム社、栗原伸一 著、第2版)。

S
シラス
電験三種・QC検定1級 / メーカーでパワエレ設計・品質保証 実務10年

メーカーで回路設計と生産技術(品質改善)に携わってきた経験をもとに執筆しています。むずかしい専門用語をできるだけ使わず、はじめて学ぶ人がつまずかないように、図とたとえで説明することを大切にしています。

テーマ別に、もっと深く学ぶ

気になるところから読んでも大丈夫です。どの記事も、はじめて学ぶ人向けにやさしく書いています。

つまずきやすい「違い」を一気に解決
疑似相関(擬似相関)とは?因果関係との違いと見抜き方を例で図解
違いがわかる
疑似相関(擬似相関)とは?因果関係との違いと見抜き方を例で図解

因果関係と相関関係の違い、擬似相関の罠がわかります

違いを確かめる →
統計学とは?初心者向けに「何の役に立つか」を現場目線で解説
違いがわかる
統計学とは?初心者向けに「何の役に立つか」を現場目線で解説

名義・順序・間隔・比例の4つの尺度と、それぞれで使える計算

違いを確かめる →
決定係数R²とは?意味・求め方・目安を図解|寄与率との関係も
違いがわかる
決定係数R²とは?意味・求め方・目安を図解|寄与率との関係も

決定係数R²と寄与率の違いがわかります

違いを確かめる →
数量化2類とは?数量化理論1〜4類の違いと使い分けを図解
違いがわかる
数量化2類とは?数量化理論1〜4類の違いと使い分けを図解

数量化Ⅰ類・Ⅱ類など数量化理論の違いがわかります

違いを確かめる →
計算力アップ・資格対策

-回帰分析
-,