20/3/2021
A través de la técnica de Mínimos Cuadrados Ordinarios (MCO), usando Álgebra Lineal demostrar que para el modelo de la forma \(Y=\beta_0+\beta_1 \cdot X_1 + \epsilon\), las expresiones para \(\beta_0\) y \(\beta_1\) son respectivamente:
\[\hat\beta_0=\overline Y-\hat\beta_1 \cdot \overline X_1\]\[\hat\beta_1={\sum X_1Y-n\overline X_1 \overline Y \over \sum X_1^2-n\overline X_1^2}\]
Si se sabe que debemos minimizar el error cuadrado entonces:
\[\epsilon^2=\sum(Y-\hat Y)^2\]
\[\hat Y=\hat \beta_0+\hat \beta_1 X_1\] Sustituimos y quedaria:
\[\epsilon^2=\sum(Y-\hat \beta_0-\hat \beta_1 X_1)^2\] Nota: al aplicar la ley de los signos el \(+\) se transforma en \(-\)
Aplicamos la Condición de Primer Orden
Para \(\hat \beta_0\)
\[{\partial \epsilon^2 \over \partial \hat\beta_0}=2\sum(Y-\hat \beta_0-\hat \beta_1 X_1) \cdot (-1)=0\] Para \(\hat \beta_1\)
\[{\partial \epsilon^2 \over \partial \hat\beta_1}=2\sum(Y-\hat \beta_0-\hat \beta_1 X_1) \cdot (-X_1)=0\]
Como tenemos un sistema de ecuaciones simplificamos cada una de las ecuaciones de forma que nos quede mas facil de utilizar
Para ecuación “1”
\[-2\sum(Y-\hat \beta_0-\hat \beta_1 X_1)=0\]
Pasamos el -2 que esta multiplicando a dividir al otro lado. En este caso se eliminaria con el 0.
\[\sum(Y-\hat \beta_0-\hat \beta_1 X_1)=0\]
Ahora aplicamos propiedad distributiva en la sumatioria…
\[\sum Y-n\hat \beta_0-\hat \beta_1 \sum X_1=0\]
\[\sum Y=n\hat \beta_0+\hat \beta_1 \sum X_1\]
A este resultado le llamaremos Sistema número 1.
Para ecuación “2”
\[-2X_1\sum(Y-\hat \beta_0-\hat \beta_1 X_1)=0\]
Usamos el mismo procedimiento…
\[\sum X_1(Y-\hat \beta_0-\hat \beta_1 X_1)=0\]
Distrubuimos la sumatoria y \(X_1\)
\[\sum X_1Y-\hat \beta_0 \sum X_1-\hat \beta_1 \sum X_1^2=0\]
\[\sum X_1Y=\hat \beta_0 \sum X_1+\hat \beta_1 \sum X_1^2\]
A este resultado le llamaremos Sistema número 2.
Ahora aplicaremos el metodo de cramer para resolver nuestro sistema de ecuaciones.
\[\begin{bmatrix} n & \sum X_1 \\ \sum X_1 & \sum X_1^2 \end{bmatrix} = \begin{bmatrix} \sum Y \\ \sum X_1 Y \end{bmatrix}\]
Calculamos el determinante Jacobiano…
\[|J|=\begin{vmatrix} n & \sum X_1 \\ \sum X_1 & \sum X_1^2 \end{vmatrix}\]
\[|J|=n \sum X_1^2-(\sum X_1)^2\]
Para sistema número 2 \(\hat \beta_1\)
\[|\Delta_2|=\begin{vmatrix} n & \sum Y \\ \sum X_1 & \sum X_1 Y \end{vmatrix}=n\sum X_1 Y-\sum X_1 \sum Y\]
Encontrando \(\beta_1\)…
\[\hat \beta_1={n\sum X_1 Y-\sum X_1 \sum Y \over n \sum X_1^2-(\sum X_1)^2}\]
Sacamos factor común \(n\)…
\[\hat \beta_1={n(\sum X_1 Y-\overline X_1 \overline Y) \over n( \sum X_1^2-n \overline X_1^2)}\]
Se simplifican las \(n\)…
\[\hat \beta_1={\sum X_1 Y-\overline X_1 \overline Y \over \sum X_1^2-n \overline X_1^2}\]
Ya hemos obtenido \(\hat \beta_1\) ahora encontraremos \(\hat \beta_0\) desde el sistema número 1.
\[\sum Y=n\hat \beta_0+\hat \beta_1 \sum X_1\]
Despejamos \(\hat \beta_0\)
\[\sum Y-\hat \beta_1 \sum X_1=n\hat \beta_0\]
Dividimos todo entre \(n\)…
\[{\sum Y \over n}-{\hat \beta_1 \sum X_1 \over n}=\hat \beta_0\]
Simplificamos…
\[\hat \beta_0=\overline Y-\hat \beta_1 \overline X_1\]
Hemos obtenido \(\hat \beta_0\) y \(\hat \beta_1\) como nos pide el ejercicio y vemos que ha cumplido con las condiciones dadas.