線形回帰とロジスティック回帰の違い

機械学習システムは、過去の入力のトレーニングに基づいて将来の結果を予測できます。機械学習には、教師あり学習と教師なし学習の2つの主要なタイプがあります。回帰と分類は教師あり学習に分類され、クラスタリングは教師なし学習に分類されます。教師あり学習アルゴリズムは、ラベル付きデータを使用してデータセットをトレーニングします。線形回帰とロジスティック回帰は、2種類の教師あり学習アルゴリズムです。線形回帰は、従属変数が連続であり、モデルが線形である場合に使用されます。ロジスティック回帰は、従属変数が離散的で、モデルが非線形の場合に使用されます。

線形回帰、ロジスティック回帰、機械学習

線形回帰とは何ですか

線形回帰は、独立変数と従属変数の間の関係を見つけます。それらは両方とも隣接しています。独立変数は、他の変数によって変更されない変数です。 xで表されます。 x1、x2、x3などの複数の独立変数が存在する場合もあります。従属変数は独立変数に応じて変化し、yで表されます。

独立変数が1つある場合、回帰式は次のようになります。

y = b0 + b1x

たとえば、xが降雨量を表し、yが収穫量を表すとします。

図1：線形回帰

データセットは上記のようになります。次に、ほとんどのデータポイントをカバーする線が選択されます。この線は予測値を表しています。

図2：実際のデータポイントと予測値の間の距離

次に、上のグラフに示すように、各データポイントから線までの距離を求めます。これは、実際の値と予測値の間の距離です。この距離は、誤差または残差とも呼ばれます。最適な線は、誤差の二乗和が最小である必要があります。新しい降雨値（x）が与えられると、この線を使用して対応する収穫量（y）を見つけることができます。

現実の世界では、複数の独立変数（x1、x2、x3…）が存在する可能性があります。これは、重回帰と呼ばれます。重回帰式は次のとおりです。

ロジスティック回帰とは

ロジスティック回帰を使用して、2つのクラスを分類できます。としても知られています 二項分類。 電子メールがスパムであるかどうかをチェックするか、顧客が製品を購入するかどうかを予測するかどうか、プロモーションを取得できるかどうかを予測することは、ロジスティック回帰の他の例です。

図3：ロジスティック回帰

学生が1日に勉強した時間数が独立変数であると仮定します。それに応じて、試験に合格する確率が計算されます。しきい値と見なされる値0.5。新しい時間数が与えられると、このグラフを使用して試験に合格する対応する確率を見つけることができます。確率が0.5を超える場合、1または合格と見なされます。確率が0.5未満の場合、0または失敗と見なされます。

線形回帰方程式をシグモイド関数に適用すると、ロジスティック回帰方程式が得られます。

シグモイド関数は

注意すべきもう1つの重要な点は、ロジスティック回帰は2つのクラスの分類にのみ適用できるということです。マルチクラス分類には使用されません。

線形回帰とロジスティック回帰の違い

意味

線形回帰は、従属変数と1つ以上の独立変数の間の関係をモデル化する線形アプローチです。対照的に、ロジスティック回帰は、2つの値しか持てない結果の確率を予測する統計モデルです。

使用法

線形回帰は回帰問題の解決に使用されますが、ロジスティック回帰は分類問題（二項分類）の解決に使用されます。

方法論

線形回帰は、独立変数に変化がある場合に従属変数を推定します。ロジスティック回帰は、イベントが発生する可能性を計算します。これは、線形回帰とロジスティック回帰の重要な違いの1つです。

出力値

また、線形回帰では、出力値は連続です。ロジスティック回帰では、出力値は離散的です。

モデル

線形回帰は直線を使用しますが、ロジスティック回帰はS曲線またはシグモイド関数を使用します。これは線形回帰とロジスティック回帰のもう1つの重要な違いです。

例

国のGDPの予測、製品価格の予測、住宅販売価格の予測、スコア予測は、線形回帰のいくつかの例です。電子メールがスパムであるかどうかを予測すること、クレジットカード取引が詐欺であるかどうかを予測すること、顧客がローンを組むかどうかを予測することは、ロジスティック回帰のいくつかの例です。

結論

線形回帰とロジスティック回帰の違いは、線形回帰を使用して連続値を予測するのに対し、ロジスティック回帰を使用して離散値を予測することです。簡単に言うと、線形回帰は回帰に使用され、ロジスティック回帰は分類に使用されます。

リファレンス：

画像提供：

1. Commons Wikimedia2を介したSewaquによる「線形回帰」–自作、パブリックドメイン）。 Thomas.haslwanterによる「線形回帰フィットの残差」– Commons Wikimedia3を介した自作（CC BY-SA 3.0）。 Qefによる「ロジスティック曲線」（トーク）– Commons Wikimediaを介してgnuplot（パブリックドメイン）でゼロから作成