- 数学ノート
- 数学的補足
標本分散の一致性と不偏性
母分散の推定量として標本分散を用いる場合に、標本分散が「一致性」及び「不偏性」を満たしているかどうかを確認してみます。
■不偏性について
標本分散 は次の式から求めることができます。
![Rendered by QuickLaTeX.com \displaystyle S^2=\frac{1}{n} \sum(x_{i}-\overline{x})^{2}](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-7a4274aae30a953e1e308a5d6bb083b9_l3.png)
は次のように展開できます。
ここで、の部分は次のように変形できるので、
![Rendered by QuickLaTeX.com \displaystyle \sum(x_i-\mu) = \sum x_i-\sum \mu= n\overline{x}-n\mu=n(\overline{x}-\mu)](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-c616ae69a17a746c992ea881a04c9991_l3.png)
(A)は次のようになります。
したがって、標本分散の期待値は次のように展開できます。
ここで、期待値の性質からの部分は次のように変形ができます。
![Rendered by QuickLaTeX.com \displaystyle E\left(\frac{1}{n} \sum(x_i-\mu)^2 \right) = \frac{1}{n}\sum(x_i-\mu)^2 = \sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-3472cad9e646b5de445f416e2b64cb14_l3.png)
また、の母分散が
のとき、標本平均の分散は
![Rendered by QuickLaTeX.com \displaystyle E((\overline{x}-\mu)^2) = \frac{1}{n}\sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-3937b50b33c72b20f88ee9cef424a905_l3.png)
となることから、以上のことを用いて(B)は次のように展開できます。
![Rendered by QuickLaTeX.com \displaystyle (B)=E(S^2)=\sigma^2-\frac{1}{n}\sigma^2=\frac{n-1}{n}\sigma^2 \cdots (C)](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-8a709430df11e8f3fccb511e628bfe47_l3.png)
この結果から、標本分散の期待値は母分散のよりもだけ小さくなることが分かります。すなわち次の式が成り立たないため、不偏性を持ちません。
![Rendered by QuickLaTeX.com \displaystyle E(S^2)=\sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-6c4d97052246372c1ce8922e47ab7f2e_l3.png)
これは、標本分散の値を母分散の推定値として利用すると、常に母分散の値より少し小さい値となり、母分散を過小評価していることを意味します。そこで、標本分散の代わりに不偏分散を用いることで、
![Rendered by QuickLaTeX.com \displaystyle E((\overline{x}-\mu)^2) = \frac{1}{n-1}\sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-e70a08d99e788a457de5b239defeb363_l3.png)
(B)の式は次のようになります。
![Rendered by QuickLaTeX.com \displaystyle (B)'=E(S^2)=\frac{n}{n-1}\sigma^2-\frac{1}{n-1}\sigma^2=\frac{n-1}{n-1}\sigma^2=\sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-1a94039104852b6f2e06906eb66095bb_l3.png)
この式は、
![Rendered by QuickLaTeX.com \displaystyle E(S^2)=\sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-6c4d97052246372c1ce8922e47ab7f2e_l3.png)
を満たすため、不偏分散は不偏性を持つことが分かります。
■一致性について
一致性は、nが大きくなった時に推定値が真の値から外れることはほとんどないことを意味します。 直接的な証明ではありませんが、次の条件が成立すれば一致性を持つことが知られています。
![Rendered by QuickLaTeX.com E \left( S^2 \right) \to \sigma^2 ,(n \to \infty) V \left( S^2 \right) \to 0 ,(n \to \infty)](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-cde09ebe3c5b3dab1c31b65dd3bd00ad_l3.png)
(C)の式から、は次のようになります。
![Rendered by QuickLaTeX.com \displaystyle E \left(S^2 \right) = \frac{n-1}{n} \sigma^2 = \sigma^2 - \frac{1}{n} \sigma^2](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-dd3d5c825a6c505c88318794ebb5572e_l3.png)
これはnが大きくなると、は0に近づきます。
次にです。
少し難しいため計算過程は省きますが、実際に計算すると次のようになります。
![Rendered by QuickLaTeX.com \displaystyle V \left(S^2 \right) = \frac{2(n-1) \sigma^4}{n^2}](https://bellcurve.jp/statistics/wp-body/wp-content/ql-cache/quicklatex.com-8ff31c734b2775d528e97ca278bd708d_l3.png)
は定数なので、これはnが大きくなると0に近づくことが分かります。
以上のことから、標本分散は一致性を持ちます。