Regresión

Al trabajar con un conjunto de variables es común encontrar relaciones entre ellas, de manera que el valor de una de ellas (variable dependiente) pueden predecirse a patir de las cifras de otras variables (independientes).

El objetivo pricipal de la regresión es encontrar la función que mejor capte la relación entre la variable dependiente y las independientes, por lo general se supone que la relación que guardan la variable dependiente y las independientes es lineal por lo que se utilizan los modelos de regresión lineal

La correlación se encuentra ligada con el concepto de regresión ya que mide el gardo de asociación que existe entre las variables, de manera que una variable independiente que presente un alto grado de correlación con la variable dependiente será "muy útil"para predecir los valores de ésta última.

En este estudio se mostrará como ajustar un modelo de regresión, prestando especial atención a los modelos de regresión lineal.

El modelo de regresión lineal simple estudia la relación lineal entre la variable respuesta (Y) y la variable regresora (X), según el siguiente modelo:

Estudiaremos la regresión lineal simple mediante un ejemplo, para ello vamos a trabajar con la base de datos denominada empleados que contiene información de la edad, altura, peso y sexo de 100 empleados de una empresa.

El diagrama de dispersión nos permite visualizar como se comportan las variables entre sí, para nuentro ejemplo mostraremos la realción existente entre la variable "Peso" y "Altura" de los 100 empleados.

En el gráfico anterior se puede observar que existe una relación intensa entre las dos variables, tambien se puede asumir un cierto grado de relación lineal entre ambas variables, por lo que procedemos al ajuste del modelo lineal.

El modelo de regresión lineal simple para predecir el peso en función de la altura es:

Para llevar a cabo esta regreseión creamos un ojbeto denominado Modelo1 al cual se le va asignar la función lm(Peso~Altura, data = base_empleados), obteniendo los siguientes resultados:

En la tabla anterior encontramos los valores de los parámetros junto a sus errores estándar, cada parámetro aparece acompañado del valor de un estadístico t de Student y un p-valor que se utiliza para contrastar la significacia del parámetro en cuestión, es decir para resolver los siguientes contrastes de hipótesis.

En nuestro ejemplo, los p-valores que nos ayudan a resolver estos contrastes son 0.00153 y 5.29e-09, ambos menores que 0.05. Así, considerando un nivel del significación del 5%, rechazamos la hipótesis nula en ambos contrastes, de manera que podemos suponer que ambos parámetros son significativamente distintos de 0.

Por tanto, el modelo lineal puede escribirse del siguiente modo:

\(Peso = -78.0629 + 0.8637*Altura\)

Estos dos parametros pueden interpretarse de la siguiente menera: -78.0629 es el valor del peso para una persona de altura 0, lo cual no tiene sentido; por esta razón la interpretación del parámetro \(\widehat{\beta_0}\) no es relevante y todo el interés recae sobre la interpretación del resto de parámetro.

El \(\widehat{\beta_1}\) que es igual a 0.8637 nos indica que, por termino medio, cada centímetro de incremento en la altura de una persona supone un incremento de 0.8637 kg. en su peso.

Analizaremos, a continuación, la información sobre los residuos

Los Residuos se definen como la diferencia entre el verdadero valor de la variable dependiente y el valor que pronostica el modelo de regresiónes. En general, cuanto mejor es el ajuste, más pequeño es este error típico, para nuestro caso el error estándar de los residuos tiene un valor de 11.02

En la tabla anterior, encontramos los indicadores de bondad de ajuste del modelo denotado por el valor de \(R^2\) (Multiple R-squared) y de \(R^2ajustado\) (Ajusted R-squared), en nuestro ejemplo el \(R^2\) tiene un valor de 0.2942; indica que en el modelo la altura de los empleados explica un 29.42% de su peso

La última línea de la salida incluye un estadístico F de Snedecor y el p-valor que se utilizan para el contraste de hipótesis el cual comprueba si, de forma global, el modelo lineal es apropiado para modelizar los datos.

En el ejemplo, se muestra un valor del estadístico de contraste F de 40.84 con un p_valor = 5.594e-9. Deduciendo que a un nivel de significación del 5%, (p_valor < 0.05), rechazamos la hipótesis nula, y podemos concluir que el modelo lineal es adecuado para nuestro conjunto de datos.

Diagrama de dispersión con recta ajustada

Introduciendo el siguiente orden, podemos ver el ajuste por sexos

Resulta interesante calcular intervalos de confianza para dichos parámetros. En particular, para la pendiente de la recta, puesto que es el parámetro más decisivo para la interpretación del modelo.

En este sentido, el intervalo de confianza para la pendiente de la recta es:

\(\hat{b}\pm t_{\infty/2n-2}*\sqrt{\frac{S^2}{\sum(X_I-\bar{X})^2}}\)

donde S es el error típico y 1\(-\infty\) %, el nivel de confianza.

¿Cómo interpretamos el intervalo?

El cuadro anterior nos muestra una probabilidad prefijada del verdadero valor del parámetro que estimamos, es decir es la probabilidad de que el intervalo de confianza contenga el verdadero valor del parámetro poblacional.

A través de los datos podemos decir que el hecho de aumentar un centimetro de altura para el caso de los empleados su peso podria aumentar entre 0.595 y 1.131 kilos

Una vez que tenemos ajustado el modelo podemos realizar predicciones, en este caso vamos a calcular una predicción para el caso de un individuo que mide 173cm.

Esto lo podemos hacer de 2 formas diferentes:

• Directamente en la ventana de instrucciones de R introduciendo manualmente los valores de la ecuación; es decir, tecleando.

Altura1 = 173
Peso_nuevo = -78.0629+0.8637*Altura1
Peso_nuevo 

## [1] 71.3572

• Usando el comando predict

predict(Modelo1, data.frame(Altura=173), interval = "confidence")