Step2. 中級編
4. 連続型確率分布

4-1. 正規分布

14-1章で、正規分布に従う確率変数 $X$ の期待値が $\mu$ 、分散が $\sigma^2$ の場合、確率密度関数 $f(x)$ は次の式で表されることを学びました。

$\displaystyle f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}}~~~(-\infty<x<\infty)$

この式から正規分布 $N(\mu, \sigma^2)$ の期待値を求めてみます。

■期待値の算出

$\begin{eqnarray*} \displaystyle E[X] &=& \int_{-\infty}^{\infty} x \times f(x) dx \\ &=& \int_{-\infty}^{\infty} x \times \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} x e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu + \mu) e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu) e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} \mu e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx\\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu) e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + \mu \times \int_{-\infty}^{\infty} f(x) dx\\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu) e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + \mu \\ \end{eqnarray*}$

ここで、 $\displaystyle y = \frac{x - \mu}{\sigma}$ とおくと

$\begin{eqnarray*} \displaystyle &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} \sigma y e^{-\frac{y^{2}}{2}} \sigma dy + \mu \\ &=& \frac{\sigma}{\sqrt{2\pi}} \int_{-\infty}^{\infty} y e^{-\frac{y^{2}}{2}} dy + \mu \\ \end{eqnarray*}$

ガウス積分の公式より $\displaystyle \int_{-\infty}^{\infty} y e^{-\frac{y^{2}}{2}} dy = 0$ となるので、

$\begin{eqnarray*} \displaystyle &=& 0 + \mu \\ &=& \mu \\ \end{eqnarray*}$

となります。

■分散の算出

分散を求めるには、 $V[X]=E[X^2] - \left\{E[X] \right\}^2$ を使います。まず $E[X^2]$ を求めます。

$\begin{eqnarray*} \displaystyle E[X^2] &=& \int_{-\infty}^{\infty} x^2 \times f(x) dx \\ &=& \int_{-\infty}^{\infty} x^2 \times \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x^2 - 2x\mu + \mu^2 + 2x\mu -\mu^2) e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \left\{\int_{-\infty}^{\infty} (x - \mu)^2 e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + 2\mu \int_{-\infty}^{\infty} x e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx - \mu^2 \int_{-\infty}^{\infty} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \right\} \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu)^2 e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + \frac{2\mu}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} x e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx - \frac{\mu^2}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ \end{eqnarray*}$

ここで、 $\displaystyle E(X) = \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} x e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx = \mu$ なので、 $\displaystyle \frac{2\mu}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} x e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx = 2\mu^2$ となります。

また、 $\displaystyle \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx$ は正規分布の確率密度関数の積分であることから $\displaystyle \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx = 1$ となります。すなわち、 $\displaystyle \frac{\mu^2}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} = \mu^2$ となります。

$\begin{eqnarray*} \displaystyle &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu)^2 e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + 2\mu^2 -\mu^2 \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} (x - \mu)^2 e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx + \mu^2 \\ \end{eqnarray*}$

$\displaystyle y = \frac{x - \mu}{\sigma}$ とおくと

$\begin{eqnarray*} \displaystyle &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} \sigma^2 y^2 e^{-\frac{y^2}{2}} \sigma dx + \mu^2 \\ &=& \frac{\sigma^2}{\sqrt{2\pi}} \int_{-\infty}^{\infty} y^2 e^{-\frac{y^2}{2}} dx + \mu^2 \\ \end{eqnarray*}$

ガウス積分の公式より $\displaystyle \int_{-\infty}^{\infty} y^2 e^{-a{y^{2}}} dy = \frac{1}{2} \sqrt{\frac{\pi}{a^3}}$ となるので、

$\begin{eqnarray*} \displaystyle &=& \frac{\sigma^2}{\sqrt{2\pi}} \int_{-\infty}^{\infty} y^2 e^{-\frac{1}{2} y^2} dx + \mu^2 \\ &=& \frac{\sigma^2}{\sqrt{2\pi}} \times \frac{1}{2} \sqrt{\frac{\pi}{\left\{-\frac{1}{2}\right\}^3}} + \mu^2 \\ &=& \sigma^2 + \mu^2 \\ \end{eqnarray*}$

となります。次に $\left\{E[X] \right\}^2$ を求めます。

$\displaystyle \left\{E[X] \right\}^2 = \mu^2$

これらを使って分散 $V[X]$ を求めると、

$\begin{eqnarray*} \displaystyle V[X] &=& E[X^2] - \left\{E[X] \right\}^2 \\ &=& \sigma^2 + \mu^2 - \mu^2 \\ &=& \sigma^2 \\ \end{eqnarray*}$

となります。正規分布の分散の導出については「正規分布の分散を計算する」や「正規分布の分散を計算する　の解説」も参考にしてみてください。

■モーメント母関数を用いた期待値の算出

2-1章で学んだモーメント母関数を使って期待値を算出してみます。まずはじめに正規分布のモーメント母関数を求めます。

$\begin{eqnarray*} \displaystyle M_X(t) &=& E[e^{tX}] \\ &=& \int_{-\infty}^{\infty}{e^{tx}f(x)} dx \\ &=& \int_{-\infty}^{\infty} e^{tx} \times \frac{1}{\sqrt{2\pi}\sigma} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{tx} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{(x-\mu)^{2}}{2\sigma^{2}} + tx} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{x^2-2x\mu+\mu^2-2\sigma^2tx}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{x^2-2(\mu+\sigma^2t)x+\mu^2}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu+\sigma^2t)\}^2+\mu^2-(\mu+\sigma^2t)^2}{2\sigma^{2}}} dx \\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu+\sigma^2t)\}^2+\mu^2-\mu^2-2\sigma^2t\mu-\sigma^4t^2} {2\sigma^{2}}} dx\\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu+\sigma^2t)\}^2-2\sigma^2t\mu-\sigma^4t^2} {2\sigma^{2}}} dx\\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu-\sigma^2t)\}^2}{2\sigma^{2}}} \times e^{\frac{2\sigma^2t\mu}{2\sigma^{2}}} \times e^{\frac{\sigma^4t^2}{2\sigma^{2}}} dx\\ &=& \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu-\sigma^2t)\}^2}{2\sigma^{2}}} \times e^{t\mu} \times e^{\frac{\sigma^2t^2}{2}} dx\\ &=& e^{t\mu+\frac{\sigma^2t^2}{2}} \times \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu-\sigma^2t)\}^2}{2\sigma^{2}}} dx\\ \end{eqnarray*}$

$\displaystyle \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu-\sigma^2t)\}^2}{2\sigma^{2}}} dx$ は正規分布（平均 $\mu-\sigma^2t$ 、分散 $\sigma^{2}$ ）の確率密度関数の積分であることから $\displaystyle \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty} e^{-\frac{\{x-(\mu-\sigma^2t)\}^2}{2\sigma^{2}}} dx = 1$ となります。

$\begin{eqnarray*} \displaystyle &=& e^{t\mu+\frac{\sigma^2t^2}{2}} \times 1\\ &=& e^{t\mu+\frac{\sigma^2t^2}{2}} \\ \end{eqnarray*}$

となります。2-1章で学んだように

$\displaystyle M'_X(0) = E[X]$

であることから、まず $M_X(t)$ をtで1回微分します。

$\begin{eqnarray*} \displaystyle M'_X(t) &=& \left( e^{t\mu+\frac{\sigma^2t^2}{2}} \right)' \\ &=& \left(\mu + \frac{2\sigma^2t}{2} \right) e^{t\mu+\frac{\sigma^2t^2}{2}} \\ &=& (\mu + \sigma^2t) e^{t\mu+\frac{\sigma^2t^2}{2}} \\ \end{eqnarray*}$

0を代入すると

$\displaystyle M'_X(0) = E[X] = (\mu + \sigma^2t) e^{t\mu+\frac{\sigma^2t^2}{2}} = (\mu + 0) \times 1 = \mu$

となります。

■モーメントを用いた分散の算出

2-1章で学んだように

$\displaystyle M''_X(0) = E[X^2]$

であることから、 $M_X(t)$ をtで2回微分します。

$\begin{eqnarray*} \displaystyle M''_X(t) &=& \left\{ (\mu + \sigma^2t) e^{t\mu+\frac{\sigma^2t^2}{2}} \right\}' \\ &=& \sigma^2 e^{t\mu+\frac{\sigma^2t^2}{2}} + (\mu + \sigma^2t)^2 e^{t\mu+\frac{\sigma^2t^2}{2}} \\ &=& \left\{\sigma^2 + (\mu + \sigma^2t)^2 \right\} e^{t\mu+\frac{\sigma^2t^2}{2}} \\ \end{eqnarray*}$

0を代入すると

$\begin{eqnarray*} \displaystyle M''_X(0) &=& E[X^2] \\ &=& \left\{\sigma^2 + (\mu + \sigma^2t)^2 \right\} e^{t\mu+\frac{\sigma^2t^2}{2}} \\ &=& \left\{\sigma^2 + (\mu + 0)^2 \right\} \times 1 \\ &=& \sigma^2 + \mu^2 \\ \end{eqnarray*}$