第7回 期待値と積率（5.2–5.3）
今日のポイント
- 確率変数 X の期待値は， 離散なら \operatorname{E}(X):=\sum_xxp_X(x)， 連続なら \operatorname{E}(X):=\int_{-\infty}^{\infty}xf_X(x)\mathrm{d}x．
- 確率変数の特徴は積率で表せる． X の k 次の積率は \operatorname{E}\left(X^k\right)， 中心積率は \operatorname{E}\left((X-\mu_X)^k\right)， 標準化積率は \operatorname{E}\left([(X-\mu_X)/\sigma_X]^k\right)． 1次の積率を平均，2次の中心積率を分散， 3次の標準化積率を歪度，4次の標準化積率を尖度という．
- X の積率母関数（mgf）は M_X(t):=\operatorname{E}\left(\mathrm{e}^{tX}\right)． mgf の k 階導関数を t=0 で評価すると k 次の積率が得られる．
1 1変数関数の積分
1.1 不定積分
定義 1 F'(.)=f(.) となる F(.) を f(.) の原始関数という．
注釈. 任意の定数 C について F^*(.):=F(.)+C も f(.) の原始関数．
定義 2 原始関数を求めることを関数の不定積分という．
注釈. f(.) の不定積分を \int f(x)\mathrm{d}x と書く． すなわち \int f(x)\mathrm{d}x:=F(x)+C ただし C は任意の積分定数．
1.2 定積分
定義 3 区間 [a,b] 上の f(.) の定積分は \int_a^bf(x)\mathrm{d}x:=F(b)-F(a)
注釈. 積分定数が消えるので定積分は一意．
注釈. y=0，y=f(x)，x=a，x=b で囲まれた領域の面積を表す．
1.3 積分の演算
定理 1 (関数の定数倍) \int cf(x)\mathrm{d}x=c\int f(x)\mathrm{d}x+C
注釈. 定積分なら \int_a^bcf(x)\mathrm{d}x=c\int_a^bf(x)\mathrm{d}x
定理 2 (関数の和) \int(f(x)+g(x))\mathrm{d}x=\int f(x)\mathrm{d}x+\int g(x)\mathrm{d}x+C
注釈. 定積分なら \int_a^b(f(x)+g(x))\mathrm{d}x=\int_a^bf(x)\mathrm{d}x+\int_a^bg(x)\mathrm{d}x
1.4 積分の公式
定理 3 (べき関数) n \ne -1なら \int x^n\mathrm{d}x=\frac{x^{n+1}}{n+1}+C
定理 4 \int\frac{1}{x}\mathrm{d}x=\ln x+C
定理 5 (指数関数) \int\mathrm{e}^x\mathrm{d}x=\mathrm{e}^x+C
2 期待値
2.1 期待値（p. 95）
X を確率変数とする．
定義 4 Xの期待値は \operatorname{E}(X):=\begin{cases} \sum_xxp_X(x) & \text{（離散）} \\ \int_{-\infty}^{\infty}xf_X(x)\mathrm{d}x & \text{（連続）} \\ \end{cases}
注釈. pmf・pdf を重みとした加重平均．
例 1 次の確率変数を考える． X:=\begin{cases} 1 & \text{with pr.\ $p$} \\ 0 & \text{with pr.\ $1-p$} \\ \end{cases} X の期待値は \begin{align*} \operatorname{E}(X) & :=1 \cdot p+0 \cdot (1-p) \\ & =p \end{align*}
2.2 確率変数の関数の期待値（p. 95）
定義 5 g(X)の期待値は \operatorname{E}(g(X)):=\begin{cases} \sum_xg(x)p_X(x) & \text{（離散）} \\ \int_{-\infty}^{\infty}g(x)f_X(x)\mathrm{d}x & \text{（連続）} \\ \end{cases}
2.3 期待値の線形性（p. 96）
定理 6 (期待値の線形性) 任意の a,b について \operatorname{E}(aX+b)=a\operatorname{E}(X)+b
証明. X が連続なら \begin{align*} \operatorname{E}(aX+b) & :=\int_{-\infty}^{\infty}(ax+b)f_X(x)\mathrm{d}x \\ & =a\int_{-\infty}^{\infty}xf_X(x)\mathrm{d}x+b\int_{-\infty}^{\infty}f_X(x)\mathrm{d}x \\ & =a\operatorname{E}(X)+b \end{align*} 離散の場合も同様．
注釈. より一般的に (X,Y) の 2 変量分布について \operatorname{E}(aX+bY)=a\operatorname{E}(X)+b\operatorname{E}(Y) 2 変量分布は第 7 章で扱う．
3 積率
3.1 積率（p. 102）
定義 6 X の k 次の積率（モーメント）は \mu_{X,k}:=\operatorname{E}\left(X^k\right)
定義 7 1 次の積率を平均という．
注釈. \mu_X と表す．
注釈. 確率変数の平均は期待値であり，データの（算術）平均とは異なる．
3.2 中心積率（p. 102）
定義 8 X の k 次の中心積率は \mu'_{X,k}:=\operatorname{E}\left((X-\mu_X)^k\right)
定義 9 2 次の中心積率を分散という．
注釈. \operatorname{var}(X) と書く． すなわち \operatorname{var}(X):=\operatorname{E}\left((X-\mu_X)^2\right)
定義 10 分散の平方根を標準偏差という．
注釈. \sigma_X と表す．
例 2 次の確率変数を考える． X:=\begin{cases} 1 & \text{with pr.\ $p$} \\ 0 & \text{with pr.\ $1-p$} \\ \end{cases} \mu_X=p より X の分散は \begin{align*} \operatorname{var}(X) & :=(1-p)^2 \cdot p+(0-p)^2 \cdot (1-p) \\ & =p(1-p)^2+p^2(1-p) \\ & =p(1-p) \end{align*}
定理 7 \operatorname{var}(X)=\operatorname{E}\left(X^2\right)-\mu_X^2
証明. \begin{align*} \operatorname{var}(X) & :=\operatorname{E}\left((X-\mu_X)^2\right) \\ & =\operatorname{E}\left(X^2-2\mu_XX+\mu_X^2\right) \\ & =\operatorname{E}\left(X^2\right)-2\mu_X\operatorname{E}(X)+\mu_X^2 \\ & =\operatorname{E}\left(X^2\right)-\mu_X^2 \end{align*}
補題 1 任意の a について \operatorname{var}(aX)=a^2\operatorname{var}(X)
証明. \begin{align*} \operatorname{var}(aX) & :=\operatorname{E}\left((aX-\operatorname{E}(aX))^2\right) \\ & =\operatorname{E}\left((aX-a\operatorname{E}(X))^2\right) \\ & =\operatorname{E}\left([a(X-\operatorname{E}(X))]^2\right) \\ & =\operatorname{E}\left(a^2(X-\operatorname{E}(X))^2\right) \\ & =a^2\operatorname{E}\left((X-\operatorname{E}(X))^2\right) \\ & =a^2\operatorname{var}(X) \end{align*}
補題 2 任意の b について \operatorname{var}(X+b)=\operatorname{var}(X)
証明. \begin{align*} \operatorname{var}(X+b) & :=\operatorname{E}\left((X+b-\operatorname{E}(X+b))^2\right) \\ & =\operatorname{E}\left([X+b-(\operatorname{E}(X)+b)]^2\right) \\ & =\operatorname{E}\left((X-\operatorname{E}(X))^2\right) \\ & =\operatorname{var}(X) \end{align*}
定理 8 任意の a,b について \operatorname{var}(aX+b)=a^2\operatorname{var}(X)
証明. 前 2 補題より \begin{align*} \operatorname{var}(aX+b) & =\operatorname{var}(aX) \\ & =a^2\operatorname{var}(X) \end{align*}
3.3 標準化積率（p. 102）
定義 11 確率変数から平均を引き標準偏差で割る変換を標準化という．
注釈. 式で表すと Z:=\frac{X-\mu_X}{\sigma_X} \operatorname{E}(Z)=0，\operatorname{var}(Z)=1 となる．
定義 12 X の k 次の標準化積率は \alpha_{X,k}:=\operatorname{E}\left(\left(\frac{X-\mu_X}{\sigma_X}\right)^k\right)
定義 13 3 次の標準化積率を歪度という．
注釈. すなわち \alpha_{X,3}:=\operatorname{E}\left(\left(\frac{X-\mu_X}{\sigma_X}\right)^3\right) pdf が対称なら \alpha_{X,3}=0．
例 3 右に歪んだ分布（図 1）
定義 14 4 次の標準化積率を尖度という．
注釈. すなわち \alpha_{X,4}:=\operatorname{E}\left(\left(\frac{X-\mu_X}{\sigma_X}\right)^4\right) 正規分布なら \alpha_{X,4}=3． これを基準に（過剰）尖度を \alpha_{X,4}-3 と定義することもある．
例 4 正規分布より尖った分布（図 2）．
3.4 積率母関数（p. 103）
定義 15 X の積率母関数（moment generating function, mgf）は M_X(t):=\operatorname{E}\left(\mathrm{e}^{tX}\right)
注釈. 積分でなく微分で積率が求まる．
注釈. cdf・pmf/pdf と1対1対応するので確率分布の3つ目の表現と言える．
定理 9 任意の k について \frac{\mathrm{d}^kM_X}{\mathrm{d}t^k}(0)=\operatorname{E}\left(X^k\right)
証明. 任意の k について \begin{align*} \frac{\mathrm{d}^kM_X}{\mathrm{d}t^k}(t) & =\frac{\mathrm{d}^k}{\mathrm{d}t^k}\operatorname{E}\left(\mathrm{e}^{tX}\right) \\ & =\operatorname{E}\left(\frac{\mathrm{d}^k}{\mathrm{d}t^k}\mathrm{e}^{tX}\right) \\ & =\operatorname{E}\left(X^k\mathrm{e}^{tX}\right) \end{align*} t=0 なら \operatorname{E}\left(X^k\right)．
例 5 次の確率変数を考える． X:=\begin{cases} 1 & \text{with pr.\ $p$} \\ 0 & \text{with pr.\ $1-p$} \\ \end{cases} X の mgf は \begin{align*} M_X(t) & :=\operatorname{E}\left(\mathrm{e}^{tX}\right) \\ & =\mathrm{e}^{t \cdot 1} \cdot p+\mathrm{e}^{t \cdot 0} \cdot (1-p) \\ & =p\mathrm{e}^t+1-p \end{align*} 微分すると \begin{align*} M_X'(t) & =p\mathrm{e}^t \\ M_X''(t) & =p\mathrm{e}^t \end{align*} 1・2次の積率は \begin{align*} \operatorname{E}(X) & =M_X'(0) \\ & =p \\ \operatorname{E}\left(X^2\right) & =M_X''(0) \\ & =p \end{align*} 分散は \begin{align*} \operatorname{var}(X) & =\operatorname{E}\left(X^2\right)-\operatorname{E}(X)^2 \\ & =p-p^2 \\ & =p(1-p) \end{align*}
まとめ
今日のキーワード
期待値， 平均， 積率（モーメント）， 中心積率， 分散， 標準偏差， 標準化， 標準化積率， 歪度， 尖度， 積率母関数（mgf）
次回までの準備