3-1 Please derive the LS estimates of \(\gamma_0\) and \(\gamma_1\) in terms of \(\hat{\beta}_0\), \(\hat{\beta}_1\), \(a\), and \(b\).

本題需使用 \(\hat{\beta}_0\), \(\hat{\beta}_1\), \(a\),及 \(b\) 來表示 \(\gamma_0\) 與 \(\gamma_1\)，並寫出 LS estimates，從題目中得知回歸函式

\(y=\beta_0+\beta_1x+\epsilon\)，及 \(y=\gamma_0+\gamma_1\omega+\epsilon\) 又 \(\omega=a+bx\)

經過整理後得

\(\beta_0+\beta_1x=\gamma_0+\gamma_1(a+bx)\)

\(\beta_0+\beta_1x=\gamma_0+\gamma_1 a+\gamma_1 bx\), 由 \(x\) 項得知 \(\gamma_1b=\beta_1\), \(\gamma_1=\frac{\beta_1}{b}\), 剩下 \(\gamma_0+\gamma_1a=\beta_0\)

將 \(\gamma_1\) 代回上式則可以得到 \(\gamma_0=\beta_0-\frac{\beta_1a}{b}\)

接下來列 LS estimates，已知 \(y=\gamma_0+\gamma_1\omega+\epsilon\) 的 LS Criterion 為

\(D_{LS}(\hat{\gamma})=\frac{1}{N}\sum_{n=1}^{N}\vert y_n-\hat{\gamma_0}-\hat{\gamma_1}(a+bx_n)\vert^2\)

要以 \(\hat{\beta}_0\), \(\hat{\beta}_1\), \(a\),及 \(b\) 來表示上式，因此代入先前得到的關係式 \(\gamma_0=\beta_0-\frac{\beta1_a}{b}\)，\(\gamma_1=\frac{\beta_1}{b}\) 得

\(D_{LS}(\hat{\beta})=\frac{1}{N}\sum_{n=1}^{N}\vert y_n-\hat{\beta_0}-\hat{\beta_1}x_n\vert^2\)

等同於 \(y=\beta_0+\beta_1x+\epsilon\) 的 LS Criterion

3-2 Will the trasformation change the value of \(R^2\)? Why?

回顧 \(R^2\) 的定義

\(R^2 = 1-\frac{RSS}{TSS}\)，其中 RSS 為原始資料與估計值的差異平方和，TSS 為原始資料平均與估計值的差異平方和，而單純對回歸函式做變數轉換並不會影響這兩個值，估計值與原始資料皆不變，\(R^2\) 亦不改變。