Regresión binomial: Ejemplo: Ingreso a la escuela graduada

Especialización en Estadística Aplicada

Roberto Trespalacios

Ejemplo 1. Supongamos que estamos interesados en los factores que influyen en si un candidato político gana una elección. La variable de resultado (respuesta) es binaria (0/1); ganar o perder. Las variables de predicción de interés son la cantidad de dinero gastado en la campaña, la cantidad de tiempo dedicado a la campaña negativa y si el candidato es o no un titular.

Ejemplo 2. Un investigador está interesado en cómo las variables, como el GRE (puntaje del examen de Graduados), el GPA (promedio de calificaciones) y el prestigio de la institución de pregrado, tienen efecto en la admisión a la escuela de postgrado. La variable de respuesta, admitir / no admitir, es una variable binaria.

Para nuestro análisis de datos a continuación, vamos a ampliar el ejemplo 2 sobre cómo ingresar a la escuela de postgrado.

La base de datos contiene 400 filas y 4 columnas(variables):

• admisión (admit) variable que no dice 1 = si es admitido, 0 = no es admitido.
• gre (gre) puntage en el examen general para ingreso a la escuela graduada (continua).
• gpa (gpa) puntage promedio general el pregrado (continua).
  
• rango (rank) de la escuela de pregrado de la cual proveiene el estudiante (categorica del 1 a 4).

# Lee base de datos del sitio web
library(readr)
ingreso <- read_csv("~/Desktop/libro_glm/datos/ingreso.csv")
head(ingreso)

# A tibble: 6 x 5
     X1 admit   gre   gpa  rank
  <int> <int> <int> <dbl> <int>
1     1     0   380  3.61     3
2     2     1   660  3.67     3
3     3     1   800  4        1
4     4     1   640  3.19     4
5     5     0   520  2.93     4
6     6     1   760  3        2

ingreso$rank <- factor(ingreso$rank)
mod.logit <- glm(admit ~ gre + gpa + rank, data = ingreso, family = "binomial")
summary(mod.logit)

Call:
glm(formula = admit ~ gre + gpa + rank, family = "binomial", 
    data = ingreso)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-1.6268  -0.8662  -0.6388   1.1490   2.0790  

Coefficients:
             Estimate Std. Error z value Pr(>|z|)    
(Intercept) -3.989979   1.139951  -3.500 0.000465 ***
gre          0.002264   0.001094   2.070 0.038465 *  
gpa          0.804038   0.331819   2.423 0.015388 *  
rank2       -0.675443   0.316490  -2.134 0.032829 *  
rank3       -1.340204   0.345306  -3.881 0.000104 ***
rank4       -1.551464   0.417832  -3.713 0.000205 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

(Dispersion parameter for binomial family taken to be 1)

    Null deviance: 499.98  on 399  degrees of freedom
Residual deviance: 458.52  on 394  degrees of freedom
AIC: 470.52

Number of Fisher Scoring iterations: 4

• En el resultado anterior, lo primero que vemos es la llamada, esto es R recordándonos cuál fue el modelo que ejecutamos, qué opciones especificamos, etc.
• Luego vemos los residuales de desviación, que son una medida del ajuste del modelo. Esta parte del resultado muestra la distribución de los residuos de desviación para casos individuales utilizados en el modelo. A continuación discutimos cómo usar resúmenes de la estadística de la desviación para evaluar el ajuste del modelo.
• La siguiente parte del resultado muestra los coeficientes, sus errores estándar, la estadística z (a veces llamada estadística z de Wald) y los p-valores asociados.
• Tanto gre como gpa son estadísticamente significativos, al igual que los tres términos para rank. Los coeficientes de regresión logística dan el cambio en las probabilidades del logaritmo (log odds) del resultado para un aumento de una unidad en la variable predictora.
  • Por cada cambio de unidades en gre, las probabilidades log de admisión (versus no admisión) aumentan en 0.002.
  • Para un aumento de una unidad en gpa, las probabilidades de registro (log odds) de admisión a la escuela de posgrado aumenta en 0.804.
  • Las variables indicadoras de rango tienen una interpretación ligeramente diferente. Por ejemplo, haber asistido a una institución de pregrado con un rank de 2, frente a una institución con un rank de 1, cambia las probabilidades de registro (log odds) de admisión en -0.675.

• Podemos hacer exp de los coeficientes e interpretarlos como odds-ratios.
• Podemos usar la misma lógica para obtener odds ratios y sus intervalos de confianza, exponiendo los intervalos de confianza desde antes.
• Para ponerlo todo en una tabla, usamos cbind para enlazar los coeficientes y los intervalos de confianza en sentido de columna.

## odds ratios and 95% CI
exp(cbind(OR = coef(mod.logit), confint(mod.logit)))

                   OR       2.5 %    97.5 %
(Intercept) 0.0185001 0.001889165 0.1665354
gre         1.0022670 1.000137602 1.0044457
gpa         2.2345448 1.173858216 4.3238349
rank2       0.5089310 0.272289674 0.9448343
rank3       0.2617923 0.131641717 0.5115181
rank4       0.2119375 0.090715546 0.4706961

Ahora podemos decir que para un aumento de una unidad en gpa, las probabilidades (odds) de ser admitido en la escuela de postgrado (versus no ser admitido) aumentan en un factor de 2.23.

• En el resultado anterior, vemos que la probabilidad prevista de ser aceptado en un programa de postgrado es de 0.52 para estudiantes de las instituciones de pregrado de mayor prestigio (rango = 1) y 0.18 para estudiantes de las instituciones de menor rango (rango = 4), con gre y gpa por sus medios.
• Podemos hacer algo muy similar para crear una tabla de probabilidades predichas que varíe el valor de gre y rank. Vamos a trazarlos, por lo que crearemos 100 valores de gre entre 200 y 800, en cada valor de rango (es decir, 1, 2, 3 y 4).

newdata2 <- with(ingreso, data.frame(gre = rep(seq(from = 200, to = 800, length.out = 100),
    4), gpa = mean(gpa), rank = factor(rep(1:4, each = 100))))