Step2. 中級編
2. 確率分布

2-3. チェビシェフの不等式

■チェビシェフの不等式とは？

チェビシェフの不等式とは確率変数 $X$ が、平均 $\mu$ 、分散 $\sigma^2$ の確率分布に従うとき、次の式で与えられる不等式のことです。

$\displaystyle P(|X-\mu| \geq k\sigma) \leq \frac{1}{k^2}$

ただし、 $k$ は任意の値を表します。また、チェビシェフの不等式はどのような確率分布の確率変数 $X$ においても成り立ちます。

■チェビシェフの不等式の使い方1

$E(X)=3$ 、 $V(X)=1$ である確率分布について考えます。この確率分布において $1 \geq X$ もしくは $5 \leq X$ となる確率を、チェビシェフの不等式を使って求めてみます。

$\displaystyle \Leftrightarrow P(1 \geq X, 5 \leq X) \\ \Leftrightarrow P(1-\mu \geq X-\mu, 5-\mu \leq X-\mu) \\ \Leftrightarrow P(-2 \geq X-\mu, 2 \leq X-\mu) \\ \Leftrightarrow P(|X-\mu| \geq 2) \\$

となる確率を求めればよいことが分かります。ここで、チェビシェフの不等式を用います。

$\displaystyle P(|X-\mu| \geq k\sigma) \leq \frac{1}{k^2} \\$

$\mu=3$ 、 $\sigma=\sqrt{1}=1$ であることから

$\displaystyle P(|X-3| \geq \sqrt{1}k) \leq \frac{1}{k^2} \\ \Leftrightarrow P(|X-3| \geq k) \leq \frac{1}{k^2} \\$

が成り立ちます。これらの式から $k=2$ であることが分かるので、

$\displaystyle P(|X-3| \geq k) \leq \frac{1}{k^2} \\ \Leftrightarrow P(|X-3| \geq 2) \leq \frac{1}{2^2} \\ \Leftrightarrow P(|X-3| \geq 2) \leq \frac{1}{4} \\$

となります。すなわち、 $1 \geq X$ もしくは $5 \leq X$ となる確率は $\displaystyle \frac{1}{4}$ 以下であると考えられます。

■チェビシェフの不等式の使い方2

$E(X)=10$ 、 $V(X)=2$ である確率分布について考えます。この確率分布において $5 \leq X \leq 15$ となる確率を、チェビシェフの不等式を使って求めてみます。

$\displaystyle \Leftrightarrow P(5 \leq X \leq 15) \\ \Leftrightarrow P(5-\mu \leq X-\mu \leq 15-\mu) \\ \Leftrightarrow P(-5 \leq X-\mu \leq 5) \\ \Leftrightarrow P(|X-\mu| \leq 5) \\$

となる確率を求めればよいことが分かります。ここで、チェビシェフの不等式を用います。不等号の向きに注意して、

$\displaystyle P(|X-\mu| \geq k\sigma) \leq \frac{1}{k^2} \\ \Leftrightarrow P(|X-\mu| \leq k\sigma) \geq 1-\frac{1}{k^2} \\$

の式を使います。 $\mu=10$ 、 $\sigma=\sqrt{2}$ であることから

$\displaystyle P(|X-10| \leq \sqrt{2}k) \geq 1-\frac{1}{k^2}$

が成り立ちます。これらの式から $\sqrt{2}k=5 \Leftrightarrow \displaystyle k=\frac{5}{\sqrt{2}}$ を用いて

$\displaystyle P(|X-10| \leq \sqrt{2}k) \geq 1-\frac{1}{k^2} \\ \Leftrightarrow P(|X-10| \leq 5) \geq 1-\frac{1}{\{\frac{5}{\sqrt{2}}\}^2} = \frac{23}{25} \\$

となります。すなわち、 $5 \leq X \leq 15$ となる確率は $\displaystyle \frac{23}{25}$ 以上であると考えられます。

■チェビシェフの不等式の証明（離散型確率変数の場合）

離散型確率変数の分散は次の式で計算できます。

$\displaystyle \sigma^2 = \sum_{i=1}{(x_i-\mu)^2f(x_i)}$

この式を次のように展開します。

$\begin{eqnarray*} \displaystyle \sigma^2 &=& \sum_{i=1}{(x_i-\mu)^2f(x_i)} \\ &=& \sum_{|x_i-\mu| < k\sigma}{(x_i-\mu)^2f(x_i)} + \sum_{|x_i-\mu| \geq k\sigma}{(x_i-\mu)^2f(x_i)} \\ \Leftrightarrow \sigma^2 &\geq& \sum_{|x_i-\mu| \geq k\sigma}{(x_i-\mu)^2f(x_i)} \end{eqnarray*}$

ここで、 $|x_i-\mu| \geq k\sigma$ より $(x_i-\mu)^2 \geq (k\sigma)^2$ であることから

$\begin{eqnarray*} \displaystyle \sigma^2 &\geq& \sum_{|x_i-\mu| \geq k\sigma}{(x_i-\mu)^2f(x_i)} \\ &\geq& \sum_{|x_i-\mu| \geq k\sigma}{(k\sigma)^2f(x_i)} \\ &=& k^2 \sigma^2 \sum_{|x_i-\mu| \geq k\sigma}{f(x_i)} \\ &=& k^2 \sigma^2 P(|x_i-\mu| \geq k\sigma) \end{eqnarray*}$

となります。両辺を $k^2\sigma^2$ で割ると、

$\begin{eqnarray*} \displaystyle \frac{1}{k^2\sigma^2} \times \sigma^2 &\geq& \frac{1}{k^2\sigma^2} \times k^2 \sigma^2 P(|x_i-\mu| \geq k\sigma) \\ \Leftrightarrow \frac{1}{k^2} &\geq& P(|x_i-\mu| \geq k\sigma) \end{eqnarray*}$

となります。

■チェビシェフの不等式の証明（連続型確率変数の場合）

連続型確率変数の分散は次の式で計算できます。

$\displaystyle \sigma^2 = \int_{-\infty}^{\infty}{(X-\mu)^2f(x_i)}dX$

この式を次のように展開します。

$\begin{eqnarray*} \displaystyle \sigma^2 &=& \int_{-\infty}^{\infty}{(X-\mu)^2f(x_i)}dX \\ &=& \int_{-\infty}^{\mu - k\sigma}{(X-\mu)^2f(X)} + \int_{\mu - k\sigma}^{\mu + k\sigma}{(X-\mu)^2f(X)}dX + \int_{\mu + k\sigma}^{\infty}{(X-\mu)^2f(X)}dX \\ \Leftrightarrow \sigma^2 &\geq& \int_{-\infty}^{\mu - k\sigma}{(X-\mu)^2f(X)}dX + \int_{\mu + k\sigma}^{\infty}{(X-\mu)^2f(X)}dX \end{eqnarray*}$

ここで、 $|X-\mu| \geq k\sigma$ より $(X-\mu)^2 \geq (k\sigma)^2$ であることから

$\begin{eqnarray*} \displaystyle \sigma^2 &\geq& \int_{-\infty}^{\mu - k\sigma}{(X-\mu)^2f(X)}dX + \int_{\mu + k\sigma}^{\infty}{(X-\mu)^2f(X)}dX \\ &\geq& \int_{-\infty}^{\mu - k\sigma}{(k\sigma)^2f(X)}dX + \int_{\mu + k\sigma}^{\infty}{(k\sigma)^2f(X)}dX \\ &=& k^2 \sigma^2 \int_{-\infty}^{\mu - k\sigma}{f(X)}dX + k^2 \sigma^2 \int_{\mu + k\sigma}^{\infty}{f(X)}dX \\ &=& k^2 \sigma^2 \int_{|X-\mu| \geq k\sigma}^{}{f(X)}dX \\ &=& k^2 \sigma^2 P(|X-\mu| \geq k\sigma) \end{eqnarray*}$

となります。離散型確率変数のときと同様に両辺を $k^2\sigma^2$ で割ると、

$\begin{eqnarray*} \displaystyle \frac{1}{k^2\sigma^2} \times \sigma^2 &\geq& \frac{1}{k^2\sigma^2} \times k^2 \sigma^2 P(|X-\mu| \geq k\sigma) \\ \Leftrightarrow \frac{1}{k^2} &\geq& P(|X-\mu| \geq k\sigma) \end{eqnarray*}$