02

機率測度(probability measure)

一般的測度 \(\mu\) 定義在 \(\sigma-algebra\) \(\mathcal{A}\)，映射到\([0,\infty]\)
\(\mu:\mathcal{A} \rightarrow [0,\infty]\) 為\(A \mapsto \mu(A)\) 滿足

1. 空集合的測度為零 \(\mu(\phi)=0\)
   
2. 測度一定是非負 \(\mu(A) \geq 0\), \(\forall A \in \mathcal{A}\)
   
3. 對於兩兩互斥的\(A_n,n=1,2,...\)，則有\(\mu(\cup^\infty_{n=1}A_n) = \sum^\infty_{n=1}\mu(A_n)\) ，此性質稱為“可數可加性”，是對於建立“測度的連續性”的重要角色。

*註： (iii)其實是一個很合理的條件， 我們會期望在計算“抽象長度”的時候他是可以分開計算再加起來的。

我們從小就聽過“機率的總和要是一” ，這件事是在說明機率空間 \((\Omega,\mathcal{A},P)\) 是一個有限的測度空間，而且他的總測度為一 ，也就是 \(P(\Omega)=1\)，所以機率作為一個測度也滿足上述的性質（i)~(iii)並且多了一條 \(P(\Omega)=1\)，那這個條件很自然的隱含了\(0 \leq P(A) \leq 1\)。

關於\(P\) 的定義域 \(\mathcal{A}\) ，可以想像，在做試驗以前，需要先界定每個事件發生的可能性，也就是對於每個\(A \in \mathcal{A}\) 都要定出機率值，所以 \(P\) 的定義域是事件空間 \(\mathcal{A}\) 。換句話說，事件空間決定了整個模型的尺度。

那實際上要如何在 \(\mathcal{A}\) 上定義機率(或一般測度)呢 ?
以樣本空間 \(\Omega\) 大小作為分類，有不同的做法

1. 如果 \(\Omega\)是至多可數無窮(包括有限的情況)的話，\(\mathcal{A}\) 選作 \(2^\Omega\)，我們只需要定義每一個單點集的機率，剩下的都可以用(iii)可數可加性去做計算:
   對於所有 \(\omega_n \in \Omega\) ，定義 \(P(\{\omega_n\})=a_n, n=1,2,...\) ，則對於任意 \(A \in \mathcal{A}\) 都有 \(P(A)=P(\cup_{\omega_n \in A}\{\omega_n\})=\sum_{\omega_n \in A}P(\omega_n)\)

eg.丟公平銅板一次 \(\Omega=\{H,T\}\)，\(\mathcal{A}=2^\Omega=\{A_1=\phi,A_2=\{H\},A_3=\{T\},A_4=\{H,T\}\}\)
\(\omega_1=H\)，\(\omega_2=T\)，\(P(\{\omega_1\})=P(\{\omega_2\})=\frac{1}{2}\)
- \(P(A_1)=P(\phi)=0\) #丟出沒有結果的機率是零
- \(P(A_2)=P(\{H\})=\frac{1}{2}\) #丟出H的機率是二分之一
- \(P(A_3)=P(\{T\})=\frac{1}{2}\) #丟出T的機率是二分之一
- \(P(A_4)=P(\{H,T\})=P(\{H\}\cup\{T\})=P(\{H\})+P(\{T\})=1\) #丟出H或T的機率是一

2. 如果 \(\Omega\)是不可數的無窮，情況變得很複雜，即使已經選擇 \(\mathcal{A}\) 為較小的collection of set，\(\mathcal{A}\) 裡還是有太多的元素，需要用到之前提過的“生成”這個概念。 考慮\(\mathcal{A}=\sigma(\mathcal{C}),where\ \mathcal{C}\ is\ a\ semi-algebra\)，根據Caratheodory extension theorem，可以先在 \(\mathcal{C}\) 上定義測度，再拓展到 \(\sigma(\mathcal{C})\) 上。

• Recall.
• \(\mathcal{C}=\{(-\infty,x],x\in \mathbb{R}\}\) 是一個semi-algebra
• \(\sigma(\mathcal{C})=\mathcal{B}\)
• \(F(x)\) 是“累積分配函數” ，滿足
  (1)非遞減
  (2)右連續
  (3)\(\lim_{x \rightarrow -\infty}F(x)=0\) 及 \(\lim_{x \rightarrow \infty}F(x)=1\)

如果想要定義在\((\mathbb{R},\mathcal{B})\)上的機率 \(P_X\)，只需要先訂好\((-\infty,x],\ for\ all\ x \in \mathbb{R}\)的機率，也就是先訂出“累積分配函數(c.d.f.)” \(F: \mathbb{R} \rightarrow [0,1] \ s.t. \quad F(x):=P_X((-\infty,x])\)，這遠比訂出所有\(B \in \mathcal{B}\)的機率還要容易許多。