正規分布のモーメント母関数の導出

Aru

モーメント母関数は確率分布の特徴を掴むために重要です。この記事では、正規分布のモーメント母関数を定義から順を追って導出した過程です

この投稿は、過去ブログからの移行記事です

正規分布のモーメント母関数

正規分布のモーメント母関数は以下になります。この式がテキストで突然出てきて引っかかったので、ここではこの式の導出を行ってみます。

$$ \begin{eqnarray} M(\theta)&=&e^{\mu \theta + \frac{\sigma^2 \theta^2}{2}} \end{eqnarray} $$

モーメント母関数の導出

正規分布$N(\mu, \sigma ^2)$のモーメント母関数を$M(\theta)$とすると、以下のような式になります。

$$ \begin{eqnarray} M(\theta)&=&E\left[ e^{\theta X} \right]\\ &=&\int_{-\infty}^{\infty} e^{\theta x} f_X(x) dx\\ \end{eqnarray} $$

正規分布の場合は、$f_X(x)$は、

$$
\frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}
$$

なので、

$$ \begin{eqnarray} M(\theta)&=&\int_{-\infty}^{\infty} e^{\theta x} f_X(x) dx\\ &=&\int_{-\infty}^{\infty} e^{\theta x} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} dx\\ &=&\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2} + \theta x}dx\\ &=&\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{1}{2\sigma^2}\left( x^2 -2\mu x + \mu^2 – 2\sigma^2 \theta x \right)}dx\\ &=&\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{1}{2\sigma^2}\left( x^2 – 2(\mu – \sigma^2 \theta)x + \mu^2 \right)}dx\\ &=&\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{1}{2\sigma^2}\left( \left(x-(u-\sigma^2 \theta)\right)^2 -(\mu-\sigma^2 \theta)^2 + \mu^2 \right)}dx\\ &=&\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{1}{2\sigma^2}\left( \left(x-(u-\sigma^2 \theta)\right)^2 +2\mu \sigma^2 \theta + \sigma^4 \theta^2 \right)}dx\\ &=&\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{1}{2\sigma^2}\left( x-(u-\sigma^2 \theta)\right)^2 + \mu \theta + \frac{\sigma^2 \theta^2}{2} }dx\\ &=&e^{\mu \theta + \frac{\sigma^2 \theta^2}{2}} \int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{\left( x-(u-\sigma^2 \theta)\right)^2}{2\sigma^2}}dx\\ \end{eqnarray} $$

ここで、

$$
\int_{-\infty}^{\infty}
\frac{1}{\sqrt{2 \pi \sigma^2}}
e^{-\frac{\left(
x-(u-\sigma^2 \theta)\right)^2}{2\sigma^2}}dx = 1
$$

ポイント

$\int_{-\infty}^{\infty} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{\left( x-(u-\sigma^2 \theta)\right)^2}{2\sigma^2}}dx$は、$N(\mu-\sigma^2 \theta, \sigma^2)$の全確率と考えることができるので、１になります。

なので、結果

$$ \begin{eqnarray} M(\theta)&=&e^{\mu \theta + \frac{\sigma^2 \theta^2}{2}} \end{eqnarray} $$

となります。