第5回 条件付き確率と事象の独立性（4.5）
- B が起こったという条件の下での A の条件付き確率は P(A|B):=P(A \cap B)/P(B)．
- P(A|B)=P(A) なら A と B は独立という．P(A \cap B)=P(A)P(B) で定義してもよい．
- 条件付き確率の定義からベイズの定理が導ける．
1 条件付き確率（p. 81）
ある試行の事象を A,B とする．
定義 1 B が起こったという条件の下での A の条件付き確率は P(A|B):=\frac{P(A \cap B)}{P(B)} ただし P(B)>0．
注釈. B を標本空間としたときの A \cap B の確率．
例 1 つぼの中に A または B と書かれた2色の玉が以下のように入っている．
| 種類 | 個数 |
|---|---|
| Aの白玉 | 2 |
| Aの黒玉 | 1 |
| Bの白玉 | 1 |
| Bの黒玉 | 2 |
| 計 | 6 |
A を取り出す確率は \begin{align*} P(A) & =\frac{3}{6} \\ & =\frac{1}{2} \end{align*} 白を取り出したという条件の下で，それが A である条件付き確率は \begin{align*} P(A|白) & :=\frac{P(A \cap 白)}{P(白)} \\ & =\frac{2/6}{3/6} \\ & =\frac{2}{3} \end{align*}
定理 1 (乗法定理) \begin{align*} P(A \cap B) & =P(A|B)P(B) \\ & =P(B|A)P(A) \end{align*}
証明. 条件付き確率の定義より明らか．
2 事象の独立性（p. 83）
2.1 2つの事象
定義 2 P(A|B)=P(A) なら A と B は独立という．
注釈. B において A \cap B が起こる確率と，\Omega において A が起こる確率が等しい． そのため B が起こったという情報が，A が起こる確率に影響しない．
注釈. 乗法定理より，以下の3つは同値． \begin{align*} P(A|B) & =P(A) \\ P(B|A) & =P(B) \\ P(A \cap B) & =P(A)P(B) \end{align*}
例 2 つぼの中に A または B と書かれた2色の玉が以下のように入っている．
| 種類 | 個数 |
|---|---|
| Aの白玉 | 2 |
| Aの黒玉 | 2 |
| Bの白玉 | 2 |
| Bの黒玉 | 2 |
| 計 | 8 |
A を取り出す確率は \begin{align*} P(A) & =\frac{4}{8} \\ & =\frac{1}{2} \end{align*} 白を取り出したという条件の下で，それが A である条件付き確率は \begin{align*} P(A|白) & :=\frac{P(A \cap 白)}{P(白)} \\ & =\frac{2/8}{4/8} \\ & =\frac{1}{2} \end{align*}
2.2 3つ以上の事象
ある試行の事象を A,B,C とする．
定義 3 以下が成り立つとき A,B,C は（相互に）独立という． \begin{align*} P(A \cap B) & =P(A)P(B) \\ P(B \cap C) & =P(B)P(C) \\ P(A \cap C) & =P(A)P(C) \\ P(A \cap B \cap C) & =P(A)P(B)P(C) \end{align*}
注釈. 4つ以上の事象についても同様に定義する．
2.3 ベイズの定理（p. 84）
\Omega の分割を B_1,\dots,B_n とする． すなわち B_1,\dots,B_n は排反で B_1 \cup \dots \cup B_n=\Omega． B_1,\dots,B_n（原因）は異なる確率で事象 A（結果）をもたらす． A が起こったという条件の下で，B_1,\dots,B_n の条件付き確率を求める． 以下の確率は分かっている．
- P(B_i)：各原因の確率
- P(A|B_i)：各原因の下での A の条件付き確率
定義 4 P(B_i) を B_i の事前確率という．
定義 5 P(B_i|A) を B_i の事後確率という．
定理 2 (全確率の定理) P(A)=\sum_{i=1}^nP(A|B_i)P(B_i)
証明. B_1,\dots,B_n が排反なら A \cap B_1,\dots,A \cap B_n も排反． したがって \begin{align*} P(A) & =P(A \cap \Omega) \\ & =P(A \cap (B_1 \cup \dots \cup B_n)) \\ & =P((A \cap B_1) \cup \dots \cup (A \cap B_n)) \\ & =P(A \cap B_1)+\dots+P(A \cap B_n) \\ & =P(A|B_1)P(B_1)+\dots+P(A|B_n)P(B_n) \end{align*}
定理 3 (ベイズの定理) P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{i=1}^nP(A|B_i)P(B_i)}
証明. 乗法定理と全確率の定理より \begin{align*} P(B_i|A) & :=\frac{P(A \cap B_i)}{P(A)} \\ & =\frac{P(A|B_i)P(B_i)}{\sum_{i=1}^nP(A|B_i)P(B_i)} \end{align*}
例 3 診断がガンである事象を A，実際にガンである事象を B とする． 以下の確率が分かっている． \begin{align*} P(B) & =.005 \\ P(A|B) & =.95 \\ P(A^c|B^c) & =.95 \end{align*} このとき \begin{align*} P(B|A) & =\frac{P(A|B)P(B)}{P(A|B)P(B)+P(A|B^c)P(B^c)} \\ & =\frac{.95 \cdot .005}{.95 \cdot .005+.05 \cdot .995} \\ & =\frac{.00475}{.0545} \\ & \approx .0872 \end{align*} 1000人当たりの頻度で考えると分かりやすい．
例 4 (モンティ・ホール問題) 3つのドアの1つは「当たり」，2つは「はずれ」． 挑戦者が1つを選択した後， 司会者は残り2つから「はずれ」の方を開けて見せる （どちらも「はずれ」ならどちらかをランダムに選ぶ）． ここで挑戦者はドアを変更してもよい． 挑戦者はドアを変更すべきか？
正解は「変更すべき」． 挑戦者がドアAを選び，司会者がドアBを開けたとする． 以下の通り事象を定義する．
- 事象 A：ドアAが当たり
- 事象 B：ドアBが当たり
- 事象 C：ドアCが当たり
- 事象 b：司会者がドアBを開ける
このとき \begin{align*} P(A|b) & :=\frac{P(A \cap b)}{P(b)} \\ & =\frac{P(b|A)P(A)}{P(b|A)P(A)+P(b|B)P(B)+P(b|C)P(C)} \\ & =\frac{(1/2)(1/3)}{(1/2)(1/3)+0+1/3} \\ & =\frac{1}{3} \\ P(C|b) & :=\frac{P(C \cap b)}{P(b)} \\ & =\frac{P(b|C)P(C)}{P(b|A)P(A)+P(b|B)P(B)+P(b|C)P(C)} \\ & =\frac{1/3}{(1/2)(1/3)+0+1/3} \\ & =\frac{2}{3} \end{align*} したがって A と b は独立だが，C と b は独立でない．
例 5 (3囚人問題) 3人の囚人A, B, Cがいる． 全員処刑の予定が1人だけ恩赦となった． 誰が恩赦か囚人たちはまだ知らない． 結果を知っている看守に対し， 囚人Aが「BとCのどちらかは必ず処刑なのだから， 処刑される1人の名前を教えても，私に情報を与えることにはならないだろう． 1人を教えてくれないか」と頼んだ． 看守は納得して「囚人Bは処刑される」と教えてやった． 囚人Aは自分が恩赦の確率が1/2になったと喜んだ． 囚人Aの認識は正しいか？
正解は「基本的に間違い」． 以下の通り事象を定義する．
- 事象 A：囚人Aが恩赦
- 事象 B：囚人Bが恩赦
- 事象 C：囚人Cが恩赦
- 事象 b：看守が「囚人Bは処刑」と言う
このとき \begin{align*} P(A|b) & :=\frac{P(A \cap b)}{P(b)} \\ & =\frac{P(b|A)P(A)}{P(b|A)P(A)+P(b|B)P(B)+P(b|C)P(C)} \end{align*} P(A)=P(B)=P(C)=1/3 なら（違うかもしれない） \begin{align*} P(A|b) & =\frac{P(b|A)(1/3)}{P(b|A)(1/3)+0+1/3} \\ & =\frac{P(b|A)}{P(b|A)+1} \end{align*} P(b|A)=1/2 なら（違うかもしれない） \begin{align*} P(A|b) & =\frac{1/2}{1/2+1} \\ & =\frac{1}{3} \end{align*} したがって（追加的な仮定の下で）A と b は独立．
まとめ
条件付き確率， 乗法定理， 独立性（2つの事象，3つの事象）， 事前確率， 事後確率， 全確率の定理， ベイズの定理