Step1. 基礎編
27. 回帰分析

27-4. 予測値と残差

データから回帰式を推定すると、データの「予測値」が算出できます。これは、ある値xから予測される $\widehat{y}$ の値のことです。27‐1章で示した、 $y$ を人口10万人あたりの薬局の数、 $x$ を人口密度とした場合のデータから求められた回帰式を使って予測値を求めてみます。回帰式は

$\displaystyle \widehat{y}=17.94+0.064x$

と推定されました。この式を使うと、例えば人口密度が100人/ $km^{2}$ のときに予測される人口10万人あたりの薬局の数は次のように求められます。

$\displaystyle \widehat{y}=17.94+0.064 \times 100 = 82$

実際の人口密度のデータ $x$ を回帰式に代入して得られた $\widehat{y}$ の値と、実際の薬局の数のデータ $y$ との差は「回帰残差」、あるいは簡単に「残差」とよばれます。 $i$ 番目のデータの残差を「 $e_{i}$ 」を用いて表すと、

$\displaystyle e_{i}=y_{i}-\left(\widehat{\beta}_{0}+\widehat{\beta}_{1} x_{i} \right)$

となります。

■残差と誤差

27-1章で出てきた「誤差 $u$ 」と、この章で出てきた「残差 $e$ 」は似ているように見えますが、異なる意味を持ちます。「誤差 $u$ 」は求めようとする真の回帰式から算出される値と実際のデータとの差を表します。真の回帰式はあくまでも理論的なものであるため、誤差を計算で求めることはできません。一方の「残差 $e$ 」は実際のデータを用いて推定された回帰式から算出される値と実際のデータとの差を表します。誤差とは異なり残差は計算で求められます。

■残差の性質

残差にはいくつかの性質があります。

残差の総和は0である

$\displaystyle \sum e_{i}=0$

説明変数 $x_{i}$ と残差 $e_{i}$ の積和は0である（この式は、説明変数 $x_{i}$ と残差 $e_{i}$ との間には相関がない（＝無相関である）ということを表します）

$\displaystyle \sum x_{i} e_{i}=0$

■残差の評価

回帰式を評価する方法には、決定係数（27-4章で説明します）を算出する方法の他に、残差のばらつきを見る「残差分析」という方法があります。回帰式がデータに対して妥当であれば、残差は適当にばらつきます（分散均一性といいます）。これをチェックするために、各データの残差を左から順番に並べた「残差プロット」というグラフを作成します。横軸はデータの番号を、縦軸は残差の値を表します。