第6回 確率変数と確率分布（5.1）
今日のポイント
- 試行の結果によって値が決まる変数を確率変数という．確率変数の分布を確率分布という．
- 任意の x に対して \Pr[X \le x] を与える関数を X の累積分布関数（cdf）， \Pr[X=x] を与える関数を X の確率質量関数（pmf）という．
- 積分すると累積分布関数が得られる関数（累積分布関数の導関数）を確率密度関数（pdf）という．
1 1変数関数の微分
1.1 微分
滑らかな関数 y=f(x) の接線の傾きを考える．
定義 1 f(.) の x における微分係数は f'(x):=\lim_{h \to 0}\frac{f(x+h)-f(x)}{h}
定義 2 f'(.) を f(.) の導関数という．
注釈. \mathrm{D}f(.), \mathrm{d}f/\mathrm{d}x(.), \mathrm{d}y/\mathrm{d}x などとも表記する．
定義 3 導関数を求めることを関数の微分という．
1.2 微分の演算
定理 1 (関数の定数倍) \phi(.):=af(.) \Longrightarrow \phi'(.)=af'(.)
定理 2 (関数の和) \phi(.):=f(.)+g(.) \Longrightarrow \phi'(.)=f'(.)+g'(.)
定理 3 (関数の積) \phi(.):=f(.)g(.) \Longrightarrow \phi'(.)=f'(.)g(.)+f(.)g'(.)
定理 4 (関数の商) \phi(.):=\frac{f(.)}{g(.)} \Longrightarrow \phi'(.)=\frac{f'(.)g(.)-f(.)g'(.)}{g(.)^2}
定理 5 (合成関数) \phi(.):=f(g(.)) \Longrightarrow \phi'(.)=g'(.)f'(g(.))
注釈. すなわち z=g(x)，y=f(z)=f(g(x)) とすると \frac{\mathrm{d}y}{\mathrm{d}x}=\frac{\mathrm{d}z}{\mathrm{d}x}\frac{\mathrm{d}y}{\mathrm{d}z}
定理 6 (逆関数) \phi(.):=f^{-1}(.) \Longrightarrow \phi'(.)=\frac{1}{f'(f^{-1}(.))}
注釈. すなわち \frac{\mathrm{d}x}{\mathrm{d}y}=\frac{1}{\mathrm{d}y/\mathrm{d}x}
1.3 微分の公式
定義 4 次式を満たす \mathrm{e} をネイピア数という． \lim_{h \to 0}\frac{\mathrm{e}^h-1}{h}=1
定理 7 (指数関数) f(x):=\mathrm{e}^x \Longrightarrow f'(x)=\mathrm{e}^x
定理 8 (対数関数) f(x):=\ln x \Longrightarrow f'(x)=\frac{1}{x}
定理 9 (べき関数) 任意の整数 n について f(x):=x^n \Longrightarrow f'(x)=nx^{n-1}
系 1 x>0 なら任意の実数 n について f(x):=x^n \Longrightarrow f'(x)=nx^{n-1}
注釈. x \le 0 だと x^n は実数とは限らない． 例えば 0^{-1}=\infty，(-1)^{1/2}=\mathrm{i}．
2 確率変数（p. 87）
定義 5 試行の結果によって値が決まる変数を確率変数という．
例 1 コイントスに対して X:=\begin{cases} 1 & \text{（表）} \\ 0 & \text{（裏）} \\ \end{cases} とすれば X は確率変数．
定義 6 確率変数の分布を確率分布という．
注釈. 度数分布と似た概念．
3 確率分布
3.1 累積分布関数（p. 92）
確率変数 X の確率分布を表現する．
定義 7 任意の x に対して \Pr[X \le x] を与える関数を X の累積分布関数（cumulative distribution function, cdf）という．
注釈. F_X(.) で表す． すなわち F_X(x):=\Pr[X \le x]
注釈. 弱い不等号 \le で定義する．
注釈. 度数分布の累積相対度数に相当．
例 2 X をサイコロの目の数とすると X:=\begin{cases} 1 & \text{with pr.\ 1/6} \\ \vdots & \\ 6 & \text{with pr.\ 1/6} \\ \end{cases} X の cdf は F_X(x)=\begin{cases} 0 & \text{for $x<1$} \\ 1/6 & \text{for $1 \le x<2$} \\ \vdots & \\ 5/6 & \text{for $5 \le x<6$} \\ 1 & \text{for $x \ge 6$} \\ \end{cases} F_X(.) のグラフは 図 1 の通り．
F_X(.) は以下の性質をもつ．
定理 10 (増加関数) x_1<x_2 \Longrightarrow F_X(x_1) \le F_X(x_2)
証明. x_1<x_2 なら \begin{align*} F_X(x_2) & :=\Pr[X \le x_2] \\ & =\Pr[X \le x_1]+\Pr[x_1<X \le x_2] \\ & \ge \Pr[X \le x_1] \\ & =F_X(x_1) \end{align*}
定理 11 \lim_{x \to -\infty}F_X(x)=0, \quad \lim_{x \to \infty}F_X(x)=1
証明. 省略．
定理 12 (右連続) 任意の x_0 において \lim_{x \downarrow x_0}F_X(x)=F_X(x_0)
証明. 省略．
注釈. 左連続とは限らない．
注釈. 逆に以上の性質をもつ F(.) は cdf． 例えば \begin{align*} F(x) & :=\begin{cases} 0 & \text{for $x<0$} \\ x & \text{for $0 \le x \le 1$} \\ 1 & \text{for $x>1$} \\ \end{cases} \quad \text{（一様分布）} \\ F(x) & :=\begin{cases} 0 & \text{for $x<1$} \\ 1-1/x & \text{for $x \ge 1$} \\ \end{cases} \quad \text{（パレート分布）} \\ F(x) & :=\begin{cases} 0 & \text{for $x<0$} \\ 1-1/\mathrm{e}^x & \text{for $x \ge 0$} \\ \end{cases} \quad \text{（指数分布）} \\ F(x) & :=\frac{\mathrm{e}^x}{1+\mathrm{e}^x} \quad \text{（ロジスティック分布）} \end{align*} それぞれのグラフは 図 2 の通り．
3.2 離散分布の確率質量関数（p. 90）
定義 8 取りうる値の集合が可算である確率変数を離散確率変数という．
定義 9 離散確率変数の確率分布を離散分布という．
定義 10 任意の x に対して \Pr[X=x] を与える関数を X の確率質量関数（probability mass function, pmf）という．
注釈. p_X(.) で表す． すなわち p_X(x):=\Pr[X=x]
注釈. 度数分布の相対度数に相当．
注釈. cdf の定義より \begin{align*} F_X(x) & :=\Pr[X \le x] \\ & =\sum_{x' \le x}\Pr[X=x'] \\ & =\sum_{x' \le x}p_X(x') \end{align*} また \sum_xp_X(x)=1 逆にこれを満たす非負の p(.) は pmf．
例 3 X をサイコロの目の数とすると，X の pmf は p_X(x)=\begin{cases} 1/6 & \text{for $x=1,\dots,6$} \\ 0 & \text{for $x \ne 1,\dots,6$} \\ \end{cases} p_X(.) のグラフは 図 3 の通り．
3.3 連続分布の確率密度関数（p. 90）
ルーレットの円周は非可算無限個の点から成る． この場合，個々の点で止まる確率は0（無限小）なので，pmf は役に立たない．
定義 11 連続な cdf をもつ確率変数を連続確率変数という．
定義 12 連続確率変数の確率分布を連続分布という．
定義 13 任意の x について F_X(x)=\int_{-\infty}^xf_X(t)\mathrm{d}t となる f_X(.) を X の確率密度関数（probability density function, pdf）という．
注釈. 任意の a,b について \Pr[a<X \le b]=\int_a^bf_X(x)\mathrm{d}x 図 4 を参照． また \int_{-\infty}^{\infty}f_X(x)\mathrm{d}x=1 逆にこれを満たす非負の f(.) は pdf．
注釈. F_X(.) が微分可能なら，微分積分学の基本定理より f_X(x):=F_X'(x)
例 4 例えば cdf が \begin{align*} F(x) & :=\begin{cases} 0 & \text{for $x<0$} \\ x & \text{for $0 \le x \le 1$} \\ 1 & \text{for $x>1$} \\ \end{cases} \\ F(x) & :=\begin{cases} 0 & \text{for $x<1$} \\ 1-1/x & \text{for $x \ge 1$} \\ \end{cases} \\ F(x) & :=\begin{cases} 0 & \text{for $x<0$} \\ 1-1/\mathrm{e}^x & \text{for $x \ge 0$} \\ \end{cases} \\ F(x) & :=\frac{\mathrm{e}^x}{1+\mathrm{e}^x} \end{align*} なら対応する pdf は \begin{align*} f(x) & =\begin{cases} 0 & \text{for $x<0$} \\ 1 & \text{for $0 \le x \le 1$} \\ 0 & \text{for $x>1$} \\ \end{cases} \\ f(x) & =\begin{cases} 0 & \text{for $x<1$} \\ 1/x^2 & \text{for $x \ge 1$} \\ \end{cases} \\ f(x) & =\begin{cases} 0 & \text{for $x<0$} \\ 1/\mathrm{e}^x & \text{for $x \ge 0$} \\ \end{cases} \\ f(x) & =\frac{\mathrm{e}^x}{(1+\mathrm{e}^x)^2} \end{align*} それぞれのグラフは 図 5 の通り．
まとめ
今日のキーワード
確率変数， 確率分布， 累積分布関数（cdf）， 離散確率変数， 離散分布， 確率質量関数（pmf）， 連続確率変数， 連続分布， 確率密度関数（pdf）
次回までの準備