中級統計学：復習テスト18

作者

村澤 康友

公開

2025年11月28日

注意

すべての質問に解答しなければ提出とは認めない．正答に修正した上で，復習テスト14〜20を順に重ねて左上でホチキス止めし，第3回中間試験実施日（12月12日の予定）に提出すること．

  1. \mathrm{Bin}(1,p) から抽出した無作為標本を (X_1,\dots,X_n) とする．

  1. (X_1,\dots,X_n)=\bm x の確率を求めなさい．

  2. (X_1,\dots,X_n)=\bm x を観測したときの p の尤度関数を書きなさい．

  3. (X_1,\dots,X_n)=\bm x を観測したときの p の対数尤度関数を書きなさい．

  4. （対数）尤度最大化の 1 階の条件を導きなさい．

  5. p の ML 推定値と ML 推定量を求めなさい．

  1. X_1,\dots,X_n は独立なので

\begin{align*} \Pr[(X_1,\dots,X_n)=\bm x] & =\Pr[(X_1,\dots,X_n)=(x_1,\dots,x_n)] \\ & =\Pr[X_1=x_1,\dots,X_n=x_n] \\ & =\Pr[X_1=x_1]\dotsm\Pr[X_n=x_n] \\ & =p^{x_1}(1-p)^{1-x_1}\dotsm p^{x_n}(1-p)^{1-x_n} \\ & =p^{x_1+\dots+x_n}(1-p)^{(1-x_1)+\dots+(1-x_n)} \\ & =p^{\sum_{i=1}^nx_i}(1-p)^{n-\sum_{i=1}^nx_i} \end{align*}

L(p;\bm x)=p^{\sum_{i=1}^nx_i}(1-p)^{n-\sum_{i=1}^nx_i}

\ell(p;\bm x)=\sum_{i=1}^nx_i\ln p+\left(n-\sum_{i=1}^nx_i\right)\ln(1-p)

  1. 1 階の条件は

\frac{\sum_{i=1}^nx_i}{p^*}-\frac{n-\sum_{i=1}^nx_i}{1-p^*}=0

すなわち

(1-p^*)\sum_{i=1}^nx_i-p^*\left(n-\sum_{i=1}^nx_i\right)=0

  1. ML 推定値は

p^*=\frac{\sum_{i=1}^nx_i}{n}=\bar{x}

ML 推定量は

\hat{p}=\bar{X}

  1. \mathrm{N}\left(\mu,\sigma^2\right) から抽出した無作為標本を (X_1,\dots,X_n) とする．

  1. (X_1,\dots,X_n)=\bm x の確率密度を書きなさい．

  2. (X_1,\dots,X_n)=\bm x を観測したときの \left(\mu,\sigma^2\right) の尤度関数を書きなさい．

  3. (X_1,\dots,X_n)=\bm x を観測したときの \left(\mu,\sigma^2\right) の対数尤度関数を書きなさい．

  4. （対数）尤度最大化の 1 階の条件を導きなさい．

  5. \left(\mu,\sigma^2\right) の ML 推定値と ML 推定量を求めなさい．

  1. X_1,\dots,X_n は独立なので

\begin{align*} f_{X_1,\dots,X_n}\left(\bm x;\mu,\sigma^2\right) & =f_{X_1,\dots,X_n}\left(x_1,\dots,x_n;\mu,\sigma^2\right) \\ & =f_{X_1}\left(x_1;\mu,\sigma^2\right)\dotsm f_{X_n}\left(x_n;\mu,\sigma^2\right) \\ & =\frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x_1-\mu)^2}{2\sigma^2}\right)\dotsm \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x_n-\mu)^2}{2\sigma^2}\right) \\ & =\left(2\pi\sigma^2\right)^{-n/2}\exp\left( -\frac{(x_1-\mu)^2}{2\sigma^2}-\dots-\frac{(x_n-\mu)^2}{2\sigma^2} \right) \\ & =(2\pi)^{-n/2}\left(\sigma^2\right)^{-n/2} \exp\left(-\frac{\sum_{i=1}^n(x_i-\mu)^2}{2\sigma^2}\right) \end{align*}

L\left(\mu,\sigma^2;\bm x\right) =(2\pi)^{-n/2}\left(\sigma^2\right)^{-n/2} \exp\left(-\frac{\sum_{i=1}^n(x_i-\mu)^2}{2\sigma^2}\right)

\ell\left(\mu,\sigma^2;\bm x\right) =-\frac{n}{2}\ln 2\pi-\frac{n}{2}\ln\sigma^2-\frac{1}{2\sigma^2}\sum_{i=1}^n(x_i-\mu)^2

  1. 1 階の条件は

\begin{align*} \frac{1}{{\sigma^2}^*}\sum_{i=1}^n(x_i-\mu^*) & =0 \\ -\frac{n}{2{\sigma^2}^*}+\frac{1}{2{{\sigma^2}^*}^2}\sum_{i=1}^n(x_i-\mu^*)^2 & =0 \end{align*}

すなわち

\begin{align*} \sum_{i=1}^n(x_i-\mu^*) & =0 \\ -n{\sigma^2}^*+\sum_{i=1}^n(x_i-\mu^*)^2 & =0 \end{align*}

  1. ML 推定値は

\begin{align*} \mu^* & =\bar{x} \\ {\sigma^2}^* & =\frac{1}{n}\sum_{i=1}^n\left(x_i-\bar{x}\right)^2 \end{align*}

ML 推定量は

\begin{align*} \hat{\mu} & =\bar{X} \\ \hat{\sigma}^2 & =\frac{1}{n}\sum_{i=1}^n\left(X_i-\bar{X}\right)^2 \end{align*}