第13回　因果推論とマッチング法（10）

目次

• 1 平均独立性
  • 1.1 平均独立性（p. 104）
  • 1.2 条件付き平均独立性（p. 242）
• 2 因果推論
  • 2.1 ルービン因果モデル（p. 239）
  • 2.2 平均処置効果（ATE）（p. 239）
  • 2.3 単回帰モデル
• 3 マッチング法
  • 3.1 条件付き ATE
  • 3.2 重回帰モデル
  • 3.3 マッチング法（p. 241）
  • 3.4 傾向スコア・マッチング（p. 243）
• まとめ

今日のポイント

1. \operatorname{E}(Y|X)=\operatorname{E}(Y) なら Y は X と平均独立という．\operatorname{E}(Y|X,Z)=\operatorname{E}(Y|Z) なら Z を所与として Y は X と条件付き平均独立という．
2. 処置あり／なしの潜在的な結果を Y^*_1,Y^*_0 として，ルービン因果モデルは処置効果を Y^*_1-Y^*_0 と定義する．観測されない方の潜在的な結果を反実仮想という．
3. 結果 Y に対する処置 D の平均処置効果（ATE）は \mathrm{ATE}:=\operatorname{E}(Y^*_1-Y^*_0)，処置群に対する ATE（ATT）は \mathrm{ATT}:=\operatorname{E}(Y^*_1-Y^*_0|D=1)．(Y^*_1,Y^*_0) が D と平均独立なら \mathrm{ATE}=\mathrm{ATT}=\operatorname{E}(Y|D=1)-\operatorname{E}(Y|D=0)，Y^*_0 のみ D と平均独立なら \mathrm{ATE} \ne \mathrm{ATT}=\operatorname{E}(Y|D=1)-\operatorname{E}(Y|D=0)．
4. 処置効果の個体差を説明する共変量を X とすると，X=x のときの条件付き ATE は \mathrm{ATE}(x):=\operatorname{E}(Y^*_1-Y^*_0|X=x)．X を所与として (Y^*_1,Y^*_0) が D と条件付き平均独立なら \mathrm{ATE}(x)=\operatorname{E}(Y|D=1,X=x)-\operatorname{E}(Y|D=0,X=x)．
5. 処置群の各観測値に対し，共変量の値で対照群の観測値を対応させ，2 つの結果の差で ATE(.) を推定する手法をマッチング法という．共変量から予測される処置確率（傾向スコア）を共変量としたマッチング法を傾向スコア・マッチングという．

1 平均独立性

1.1 平均独立性（p. 104）

(Y,X,Z) を確率ベクトルとする．

定義 1 \operatorname{E}(Y|X)=\operatorname{E}(Y) なら Y は X と 平均独立 という．

定理 1 X と Y が独立なら \operatorname{E}(Y|X)=\operatorname{E}(Y) かつ \operatorname{E}(X|Y)=\operatorname{E}(X)．

証明. 独立性の定義より \begin{align*} \operatorname{E}(Y|X) & :=\int_{-\infty}^{\infty}yf_{Y|X}(y|X)\mathrm{d}y \\ & =\int_{-\infty}^{\infty}yf_Y(y)\mathrm{d}y \\ & =\operatorname{E}(Y) \end{align*} \operatorname{E}(X|Y)=\operatorname{E}(X) も同様．

定理 2 \operatorname{E}(Y|X)=\operatorname{E}(Y) \Longrightarrow \operatorname{cov}(X,Y)=0．

証明. 共分散の計算公式と繰り返し期待値の法則より \begin{align*} \operatorname{cov}(X,Y) & =\operatorname{E}(XY)-\operatorname{E}(X)\operatorname{E}(Y) \\ & =\operatorname{E}(\operatorname{E}(XY|X))-\operatorname{E}(X)\operatorname{E}(Y) \\ & =\operatorname{E}(X\operatorname{E}(Y|X))-\operatorname{E}(X)\operatorname{E}(Y) \\ & =\operatorname{E}(X\operatorname{E}(Y))-\operatorname{E}(X)\operatorname{E}(Y) \\ & =\operatorname{E}(X)\operatorname{E}(Y)-\operatorname{E}(X)\operatorname{E}(Y) \\ & =0 \end{align*}

1.2 条件付き平均独立性（p. 242）

定義 2 f_{X|Y,Z}(.|.,.)=f_{X|Z}(.|.) なら Z を所与として X と Y は 条件付き独立 という．

注釈. f_{X,Y|Z}(.,.|.)=f_{X|Z}(.|.)f_{Y|Z}(.|.) で定義してもよい．

定義 3 \operatorname{E}(Y|X,Z)=\operatorname{E}(Y|Z) なら Z を所与として Y は X と 条件付き平均独立 という．

定理 3 Z を所与として X と Y が条件付き独立なら \operatorname{E}(Y|X,Z)=\operatorname{E}(Y|Z) かつ \operatorname{E}(X|Y,Z)=\operatorname{E}(X|Z)．

証明. 条件付き独立性の定義より \begin{align*} \operatorname{E}(Y|X,Z) & :=\int_{-\infty}^{\infty}yf_{Y|X,Z}(y|X,Z)\mathrm{d}y \\ & =\int_{-\infty}^{\infty}yf_{Y|Z}(y|Z)\mathrm{d}y \\ & =\operatorname{E}(Y|Z) \end{align*} \operatorname{E}(X|Y,Z)=\operatorname{E}(X|Z) も同様．

2 因果推論

2.1 ルービン因果モデル（p. 239）

処置ダミーを D，処置あり／なしの潜在的な結果を Y^*_1,Y^*_0 とする．実際に観測するのは Y^*_1,Y^*_0 のどちらか 1 つ．すなわち観測される結果は \begin{align*} Y & :=DY^*_1+(1-D)Y^*_0 \\ & =Y^*_0+(Y^*_1-Y^*_0)D \end{align*}

定義 4 ルービン因果モデル（潜在結果モデル） は Y に対する D の 処置効果 を Y^*_1-Y^*_0 と定義する．

注釈. D が Y を変化させるのでなく，Y^*_1,Y^*_0 は決まっており，どちらを観測するかが D で決まると考える．

定義 5 観測されない方の潜在的な結果を 反実仮想 という．

2.2 平均処置効果（ATE）（p. 239）

処置効果には個体差がある．平均処置効果を推定したい．処置群の母平均を \mu_1:=\operatorname{E}(Y|D=1)，対照群の母平均を \mu_0:=\operatorname{E}(Y|D=0) とする．

定義 6 Y に対する D の 平均処置効果（Average Treatment Effect, ATE） は \mathrm{ATE}:=\operatorname{E}(Y^*_1-Y^*_0)

定理 4 (Y^*_1,Y^*_0) が D と平均独立なら \mathrm{ATE}=\mu_1-\mu_0

証明. d=0,1 について \operatorname{E}(Y^*_d|D)=\operatorname{E}(Y^*_d) より \begin{align*} \mu_1-\mu_0 & =\operatorname{E}(Y|D=1)-\operatorname{E}(Y|D=0) \\ & =\operatorname{E}(DY^*_1+(1-D)Y^*_0|D=1)-\operatorname{E}(DY^*_1+(1-D)Y^*_0|D=0) \\ & =\operatorname{E}(Y^*_1|D=1)-\operatorname{E}(Y^*_0|D=0) \\ & =\operatorname{E}(Y^*_1)-\operatorname{E}(Y^*_0) \\ & =\operatorname{E}(Y^*_1-Y^*_0) \\ & =\mathrm{ATE} \end{align*}

注釈. 処置が無作為で，(Y^*_1,Y^*_0) の平均が処置群と対照群で同じなら，処置群と対照群の標本平均の差で ATE を推定できる（図 1）．

図 1: 処置群と対照群の母平均の差の解釈

定義 7 処置群に対する ATE（ATE on the Treated, ATT） は \mathrm{ATT}:=\operatorname{E}(Y^*_1-Y^*_0|D=1)

注釈. (Y^*_1,Y^*_0) が D と平均独立なら ATT=ATE．

注釈. 対照群に対する ATE も定義できるが関心度は低い．

定理 5 Y^*_0 が D と平均独立なら \mathrm{ATT}=\mu_1-\mu_0

証明. \operatorname{E}(Y^*_0|D)=\operatorname{E}(Y^*_0) より \begin{align*} \mu_1-\mu_0 & =\operatorname{E}(Y|D=1)-\operatorname{E}(Y|D=0) \\ & =\operatorname{E}(DY^*_1+(1-D)Y^*_0|D=1)-\operatorname{E}(DY^*_1+(1-D)Y^*_0|D=0) \\ & =\operatorname{E}(Y^*_1|D=1)-\operatorname{E}(Y^*_0|D=0) \\ & =\operatorname{E}(Y^*_1|D=1)-\operatorname{E}(Y^*_0) \\ & =\operatorname{E}(Y^*_1|D=1)-\operatorname{E}(Y^*_0|D=1) \\ & =\operatorname{E}(Y^*_1-Y^*_0|D=1) \\ & =\mathrm{ATT} \end{align*}

注釈. 処置の選択が処置効果 Y^*_1-Y^*_0 に依存しても，Y^*_0 の平均が処置群と対照群で同じなら，処置群と対照群の標本平均の差で ATT を推定できる（図 1）．

2.3 単回帰モデル

\mu_1-\mu_0 は単回帰モデルで推定できる．\mu^*_0:=\operatorname{E}(Y^*_0) とする．

定理 6 (Y^*_1,Y^*_0) が D と平均独立なら \operatorname{E}(Y|D)=\mu^*_0+\mathrm{ATE} \cdot D

証明. d=0,1 について \operatorname{E}(Y^*_d|D)=\operatorname{E}(Y^*_d) より \begin{align*} \operatorname{E}(Y|D) & =\operatorname{E}(Y^*_0+(Y^*_1-Y^*_0)D|D) \\ & =\operatorname{E}(Y^*_0|D)+\operatorname{E}(Y^*_1-Y^*_0|D)D \\ & =\operatorname{E}(Y^*_0)+\operatorname{E}(Y^*_1-Y^*_0)D \\ & =\mu^*_0+\mathrm{ATE} \cdot D \end{align*}

定理 7 Y^*_0 が D と平均独立なら \operatorname{E}(Y|D)=\mu^*_0+\mathrm{ATT} \cdot D

証明. D はダミー変数なので \begin{align*} \operatorname{E}(Y^*_1-Y^*_0|D)D & =\begin{cases} \operatorname{E}(Y^*_1-Y^*_0|D=1) & \text{if $D=1$} \\ 0 & \text{if $D=0$} \\ \end{cases} \\ & =\operatorname{E}(Y^*_1-Y^*_0|D=1)D \end{align*} \operatorname{E}(Y^*_0|D)=\operatorname{E}(Y^*_0) より \begin{align*} \operatorname{E}(Y|D) & =\operatorname{E}(Y^*_0+(Y^*_1-Y^*_0)D|D) \\ & =\operatorname{E}(Y^*_0|D)+\operatorname{E}(Y^*_1-Y^*_0|D)D \\ & =\operatorname{E}(Y^*_0)+\operatorname{E}(Y^*_1-Y^*_0|D=1)D \\ & =\mu^*_0+\mathrm{ATT} \cdot D \end{align*}

3 マッチング法

3.1 条件付き ATE

処置効果の個体差を説明する共変量を X とする．

定義 8 X=x のときの 条件付き ATE は \mathrm{ATE}(x):=\operatorname{E}(Y^*_1-Y^*_0|X=x)

注釈. 繰り返し期待値の法則より \begin{align*} \mathrm{ATE} & :=\operatorname{E}(Y^*_1-Y^*_0) \\ & =\operatorname{E}(\operatorname{E}(Y^*_1-Y^*_0|X)) \\ & =\operatorname{E}(\mathrm{ATE}(X)) \end{align*} したがって ATE(.) から ATE も求まる．

定理 8 X を所与として (Y^*_1,Y^*_0) が D と条件付き平均独立なら \mathrm{ATE}(X)=\operatorname{E}(Y|D=1,X)-\operatorname{E}(Y|D=0,X)

証明. d=0,1 について \operatorname{E}(Y^*_d|D,X)=\operatorname{E}(Y^*_d|X) より \begin{align*} \operatorname{E}(Y|D=1,X)-\operatorname{E}(Y|D=0,X) & =\operatorname{E}(Y^*_1|D=1,X)-\operatorname{E}(Y^*_0|D=0,X) \\ & =\operatorname{E}(Y^*_1|X)-\operatorname{E}(Y^*_0|X) \\ & =\operatorname{E}(Y^*_1-Y^*_0|X) \\ & =\mathrm{ATE}(X) \end{align*}

注釈. 処置の選択が処置効果 Y^*_1-Y^*_0 に依存しても，X を所与として (Y^*_1,Y^*_0) の平均が処置群と対照群で同じなら，処置群と対照群の回帰予測の差で ATE(.) を推定できる．

定義 9 X=x のときの 条件付き ATT は \mathrm{ATT}(x):=\operatorname{E}(Y^*_1-Y^*_0|D=1,X=x)

定理 9 X を所与として Y^*_0 が D と条件付き平均独立なら \mathrm{ATT}(X)=\operatorname{E}(Y|D=1,X)-\operatorname{E}(Y|D=0,X)

証明. \operatorname{E}(Y^*_0|D,X)=\operatorname{E}(Y^*_0|X) より \begin{align*} \operatorname{E}(Y|D=1,X)-\operatorname{E}(Y|D=0,X) & =\operatorname{E}(Y^*_1|D=1,X)-\operatorname{E}(Y^*_0|D=0,X) \\ & =\operatorname{E}(Y^*_1|D=1,X)-\operatorname{E}(Y^*_0|D=1,X) \\ & =\operatorname{E}(Y^*_1-Y^*_0|D=1,X) \\ & =\mathrm{ATT}(X) \end{align*}

注釈. 処置の選択が処置効果 Y^*_1-Y^*_0 に依存しても，X を所与として Y^*_0 の平均が処置群と対照群で同じなら，処置群と対照群の回帰予測の差で ATT(.) を推定できる．

3.2 重回帰モデル

前 2 定理より ATE(.)・ATT(.) は \operatorname{E}(Y|D,X) から求まる．次の重回帰モデルを仮定する． \operatorname{E}(Y|D,X)=\alpha+\beta D+\gamma X+\delta DX このとき \begin{align*} \mathrm{ATE}(X) & =\operatorname{E}(Y|D=1,X)-\operatorname{E}(Y|D=0,X) \\ & =\alpha+\beta+\gamma X+\delta X-(\alpha+\gamma X) \\ & =\beta+\delta X \end{align*}

3.3 マッチング法（p. 241）

回帰モデルの定式化は誤りかもしれない．

定義 10 処置群の各観測値に対し，共変量の値で対照群の観測値を対応させ，2 つの結果の差で条件付き ATE・ATT を推定する手法を マッチング法 という．

定義 11 0<\Pr[D=1|X]<1 を 共有サポートの仮定 sという．

注釈. 0<\Pr[D=1|X]<1 なら処置群と対照群の母集団に共変量の値が等しい個体が存在する．ただし標本には必ずしも存在しない．

定義 12 処置群の各観測値に対し，共変量の値が 等しい 対照群の観測値を対応させるマッチング法を 完全マッチング という．

定義 13 処置群の各観測値に対し，共変量の値が 最も近い 対照群の観測値を対応させるマッチング法を 最近傍マッチング という．

定義 14 処置群の各観測値に対し，共変量の値が 一定の距離内の 対照群の観測値を対応させるマッチング法を 半径マッチング という．

注釈. 共変量ベクトル間の距離は（ユークリッド距離でなく）共分散を考慮したマハラノビス距離で測るのが普通．

定義 15 処置群の各観測値に対し，共変量の値の差に応じて 重み付けした 対照群の観測値を対応させるマッチング法を カーネル・マッチング という．

注釈. どの手法も共変量の数が増えるとマッチングが難しくなる．

3.4 傾向スコア・マッチング（p. 243）

共変量が多い場合は 1 つの変数に集約してマッチングする．

定義 16 共変量から予測される処置確率を 傾向スコア という．

注釈. すなわち p(X):=\Pr[D=1|X]．p(.) は線形・非線形確率モデルで推定する．

定理 10 X を所与として (Y^*_1,Y^*_0) と D が条件付き独立なら，p(X) を所与としても両者は条件付き独立．すなわち \Pr[D=1|Y^*_1,Y^*_0,X]=\Pr[D=1|X] \Longrightarrow \Pr[D=1|Y^*_1,Y^*_0,p(X)]=\Pr[D=1|p(X)]

証明. 繰り返し期待値の法則より，左辺は \begin{align*} \Pr[D=1|Y^*_1,Y^*_0,p(X)] & =\operatorname{E}(D|Y^*_1,Y^*_0,p(X)) \\ & =\operatorname{E}(\operatorname{E}(D|Y^*_1,Y^*_0,X)|Y^*_1,Y^*_0,p(X)) \\ & =\operatorname{E}(\Pr[D=1|Y^*_1,Y^*_0,X]|Y^*_1,Y^*_0,p(X)) \\ & =\operatorname{E}(\Pr[D=1|X]|Y^*_1,Y^*_0,p(X)) \\ & =\operatorname{E}(p(X)|Y^*_1,Y^*_0,p(X)) \\ & =p(X) \end{align*} 右辺は \begin{align*} \Pr[D=1|p(X)] & =\operatorname{E}(D|p(X)) \\ & =\operatorname{E}(\operatorname{E}(D|X)|p(X)) \\ & =\operatorname{E}(\Pr[D=1|X]|p(X)) \\ & =\operatorname{E}(p(X)|p(X)) \\ & =p(X) \end{align*} したがって \Pr[D=1|Y^*_1,Y^*_0,p(X)]=\Pr[D=1|p(X)]

系 1 X を所与として (Y^*_1,Y^*_0) と D が条件付き独立なら，p(X) を所与として (Y^*_1,Y^*_0) は D と条件付き平均独立．

注釈. したがって前々定理より \mathrm{ATE}(p(X))=\operatorname{E}(Y|D=1,p(X))-\operatorname{E}(Y|D=0,p(X)) すなわち傾向スコアを共変量とした重回帰分析やマッチング法で ATE(.) を推定できる．ATT(.) も同様．

定義 17 傾向スコアを共変量としたマッチング法を 傾向スコア・マッチング という．

例 1 傾向スコア・マッチングによる条件付き ATE・ATT の推定（図 2）．

図 2: 傾向スコア・マッチングによる条件付きATE・ATTの推定

まとめ

今日のキーワード

平均独立， 条件付き独立， 条件付き平均独立， ルービン因果モデル（潜在結果モデル）， 処置効果， 反実仮想， 平均処置効果（ATE）， 処置群に対するATE（ATT）， 条件付きATE， 条件付きATT， マッチング法， 共有サポートの仮定， 完全マッチング， 最近傍マッチング， 半径マッチング， カーネル・マッチング， 傾向スコア， 傾向スコア・マッチング

次回までの準備

• 提出：宿題 10
• 復習：教科書第 10 章，復習テスト 13
• 予習：教科書第 11 章