主成分分析と因子分析の違い
2017/08/15
カテゴリ:コラム「統計備忘録」
タグ:統計備忘録
※コラム「統計備忘録」の記事一覧はこちら※
多くの統計ソフトでは、主成分分析が因子分析の計算オプションの1つとして組み込まれているので、因子分析をしたつもりが主成分分析だったということがよくあるようです。
主成分分析は多数の観測変数から少数の主成分という合成変数を作り出す手法で、観測変数と主成分の因果関係をパス図に描くと次のようになります。主成分分析では観測変数が原因で主成分は結果です。
一方、因子分析は観測変数に影響を与えている共通因子を抽出する方法で、観測変数と因子の因果関係をパス図に描くと次のようになります。因子分析では(共通)因子が原因で観測変数が結果と主成分分析とは因果関係が逆になります。なお、この図にある独自因子とは、個々の観測変数固有の因子です。
主成分分析と因子分析はこのように異なる考え方に基づく分析手法ですが、因子分析の主因子法という因子の抽出法(因子分析には最尤法、最小二乗法など色々な計算方法があります)を用い、共通性の初期値をすべて1にして繰り返しをなしで共通因子を求めると、抽出された共通因子は主成分分析の主成分に一致します。このことから、主因子法のことを主成分分析だと勘違いしている人もいるようです。なお、主因子法を使った因子分析を行うときは、共通性の初期値にSMC(重相関係数の二乗)を設定し、共通性の値が収束するまで計算を繰り返すのが一般的です。