ロジスティック回帰

ロジスティック回帰

 

パーセプトロンの収束が保証される条件

・2クラスが線形分離可能であること

線形分離不可の場合

→エポックごとに誤分類されている訓練データがある

→ 重みが絶えず更新されてしまう

 

対応策

ロジスティック回帰

特徴

・分類モデル

・多クラス分類モデル（0, 1ではない、3つ以上の分類）でも可

→多項ロジスティック回帰、ソフトマックス回帰

・いくつかの説明変数から確率を計算して予測を行う

・一般化線形モデルの1つ

・非線形、非恒等の活性化関数を利用　（ADALINEとの違い）

 

一般化線形モデル

 Yが正規分布以外の確率分布に従う場合（離散型など）にも使えるようにした線形モデル

 

・オッズ比：事象の起こりやすさ（1を超えることもある）

\dfrac{p}{\left( 1-p\right) }

オッズ比をロジット変換してから回帰分析

ロジット変換

\log\left(\dfrac{p}{1-p}\right) = \beta _{0}+\beta _{1}x_{1}

\beta _{0}, \beta _{1}・・・を最適化することが目的

最適化→ 尤度関数

scaler（標準化）

→ 訓練データとテストデータの値を相互に比較できるようにするため

→ 最適解を見つけ出すためのステップ数が少なくなる

 

手順

|分析に使うデータ　→　回帰分析　→　モデル生成 |

|分析に使うデータ　→　モデルに投入　→　モデルと実際のデータを比較　→当てはまりを評価

 

活性化関数の種類

→ シグモイド関数（非線形・非恒等）

\phi \left( z\right) =\dfrac{1}{1+e^{-z}}

 

f:id:R_posit:20210210182636p:plain



e^{-z}のはZが♾に近づくと小さくなるため、

\phi \left( z\right)は1に近づく