第15回 統計量の標本分布（9.2.2–9.4）
- 無作為標本 (X_1,\dots,X_n) の標本和・標本平均・標本分散の分布を求める．
- 標本和 T:=X_1+\dots+X_n の平均は n\operatorname{E}(X_i)，分散は n\operatorname{var}(X_i)．母集団分布が再生的なら標本和も同じ型の分布．
- 標本平均 \bar{X}:=(X_1+\dots+X_n)/n の平均は \operatorname{E}(X_i)，分散は \operatorname{var}(X_i)/n．母集団分布が再生的なら標本和の分布から標本平均の分布も求まる．
- 標本分散 s^2:=\sum_{i=1}^n\left(X_i-\bar{X}\right)^2/(n-1) の平均は \operatorname{var}(X_i)．
- 有限母集団から非復元抽出した無作為標本の標本平均の分散は修正が必要．
1 標本和（p. 186）
1.1 平均と分散
平均 \mu，分散 \sigma^2 の母集団分布から抽出した無作為標本を (X_1,\dots,X_n) とする．
定義 1 (X_1,\dots,X_n) の標本和は T:=X_1+\dots+X_n
定理 1 \operatorname{E}(T)=n\mu
証明. 期待値の線形性より \begin{align*} \operatorname{E}(T) & =\operatorname{E}(X_1+\dots+X_n) \\ & =\operatorname{E}(X_1)+\dots+\operatorname{E}(X_n) \\ & =n\mu \end{align*}
定理 2 復元抽出または無限母集団なら \operatorname{var}(T)=n\sigma^2
証明. X_1,\dots,X_n は独立なので \begin{align*} \operatorname{var}(T) & =\operatorname{var}(X_1+\dots+X_n) \\ & =\operatorname{var}(X_1)+\dots+\operatorname{var}(X_n) \\ & =n\sigma^2 \end{align*}
1.2 分布
母集団分布が再生的なら標本和の分布は簡単に求まる．
定理 3 (X_1,\dots,X_n) が \mathrm{Bin}(1,p) からの無作為標本なら T \sim \mathrm{Bin}(n,p)
証明. X_1,\dots,X_n \sim \mathrm{Bin}(1,p) かつ iid より，T は成功確率 p の独立かつ同一な n 回のベルヌーイ試行における成功回数．
注釈. n が大きいと累積確率の計算が面倒．
例 1 ある政策（例えば女性・女系天皇）に賛成する有権者の割合を p とする．母集団分布は \mathrm{Bin}(1,p)．n 人に調査したときの賛成の数を T とすると T \sim \mathrm{Bin}(n,p)．
定理 4 (X_1,\dots,X_n) が \mathrm{Poi}(\lambda) からの無作為標本なら T \sim \mathrm{Poi}(n\lambda)
証明. ポアソン分布の再生性より X_1+\dots+X_n もポアソン分布．
注釈. 再生性は mgf を用いて証明できる．
定理 5 (X_1,\dots,X_n) が \mathrm{N}\left(\mu,\sigma^2\right) からの無作為標本なら T \sim \mathrm{N}\left(n\mu,n\sigma^2\right)
証明. 正規分布の再生性より X_1+\dots+X_n も正規分布．
2 標本平均（p. 183）
2.1 平均と分散
定義 2 (X_1,\dots,X_n) の標本平均は \bar{X}:=\frac{X_1+\dots+X_n}{n}
定理 6 \operatorname{E}\left(\bar{X}\right)=\mu
証明. 期待値の線形性より \begin{align*} \operatorname{E}\left(\bar{X}\right) & =\operatorname{E}\left(\frac{X_1+\dots+X_n}{n}\right) \\ & =\frac{\operatorname{E}(X_1+\dots+X_n)}{n} \\ & =\frac{n\mu}{n} \\ & =\mu \end{align*}
定理 7 復元抽出または無限母集団なら \operatorname{var}\left(\bar{X}\right)=\frac{\sigma^2}{n}
証明. X_1,\dots,X_n は独立なので \begin{align*} \operatorname{var}\left(\bar{X}\right) & =\operatorname{var}\left(\frac{X_1+\dots+X_n}{n}\right) \\ & =\frac{\operatorname{var}(X_1+\dots+X_n)}{n^2} \\ & =\frac{n\sigma^2}{n^2} \\ & =\frac{\sigma^2}{n} \end{align*}
2.2 分布
標本平均の分布は標本和の分布から求まる．例えば cdf は \begin{align*} F_{\bar{X}}(x) & := \Pr\left[\bar{X} \le x\right] \\ & =\Pr[T \le nx] \\ & =F_T(nx) \end{align*}
3 標本分散
3.1 母平均が既知の場合
\mu は既知とする．
定義 3 (X_1,\dots,X_n) の標本分散は \hat{\sigma}^2:=\frac{1}{n}\sum_{i=1}^n(X_i-\mu)^2
定義 4 標本分散の正の平方根を標本標準偏差という．
定理 8 \operatorname{E}\left(\hat{\sigma}^2\right)=\sigma^2
証明. 期待値の線形性より \begin{align*} \operatorname{E}\left(\hat{\sigma}^2\right) & =\operatorname{E}\left(\frac{1}{n}\sum_{i=1}^n(X_i-\mu)^2\right) \\ & =\frac{1}{n}\sum_{i=1}^n\operatorname{E}\left((X_i-\mu)^2\right) \\ & =\frac{1}{n}\sum_{i=1}^n\operatorname{var}(X_i) \\ & =\frac{1}{n}\sum_{i=1}^n\sigma^2 \\ & =\sigma^2 \end{align*}
3.2 母平均が未知の場合（p. 184）
\mu は未知とする．
定義 5 (X_1,\dots,X_n) の標本分散は s^2:=\frac{1}{n-1}\sum_{i=1}^n\left(X_i-\bar{X}\right)^2
定理 9 \operatorname{E}\left(s^2\right)=\sigma^2
証明. 次式を示せばよい． \operatorname{E}\left(\sum_{i=1}^n\left(X_i-\bar{X}\right)^2\right)=(n-1)\sigma^2 ここで \begin{align*} \sum_{i=1}^n\left(X_i-\bar{X}\right)^2 & =\sum_{i=1}^n\left[(X_i-\mu)-\left(\bar{X}-\mu\right)\right]^2 \\ & =\sum_{i=1}^n\left[ (X_i-\mu)^2-2(X_i-\mu)\left(\bar{X}-\mu\right)+\left(\bar{X}-\mu\right)^2 \right] \\ & =\sum_{i=1}^n(X_i-\mu)^2-2\sum_{i=1}^n(X_i-\mu)\left(\bar{X}-\mu\right) +n\left(\bar{X}-\mu\right)^2 \\ & =\sum_{i=1}^n(X_i-\mu)^2-n\left(\bar{X}-\mu\right)^2 \end{align*} 期待値をとると \begin{align*} \operatorname{E}\left(\sum_{i=1}^n\left(X_i-\bar{X}\right)^2\right) & =\sum_{i=1}^n\operatorname{E}\left((X_i-\mu)^2\right) -n\operatorname{E}\left(\left(\bar{X}-\mu\right)^2\right) \\ & =\sum_{i=1}^n\operatorname{var}(X_i)-n\operatorname{var}\left(\bar{X}\right) \\ & =n\sigma^2-n\frac{\sigma^2}{n} \\ & =n\sigma^2-\sigma^2 \\ & =(n-1)\sigma^2 \end{align*}
4 有限母集団修正（p. 190）
有限母集団 (x_1,\dots,x_N) から非復元抽出した無作為標本を (X_1,\dots,X_n) とする．
定理 10 \operatorname{var}\left(\bar{X}\right)=\frac{\sigma^2}{n}\frac{N-n}{N-1}
証明. 省略．
定義 6 (N-n)/(N-1) を有限母集団修正という．
証明. N が大きければ 1 に近づく．
まとめ
標本和， 標本平均， 標本分散（母平均が既知）， 標本分散（母平均が未知）， 標本標準偏差， 有限母集団修正