Regresión Logística

La regresión logística es una técnica de estimación estadística que se emplea cuando la variable dependiente es una variable categórica o cualitativa.

Existen dos tipos de modelos de regresión logística:

Regresión logística binomial: cuando nuestra variable dependiente categórica es dicotómica (Si / No; Ocurre / No ocurre; Verdadero / Falso; etc.)
Regresión logística multinomial: cuando la variable dependiente categórica tiene tres o más categorías (Bueno / Regular / Malo; Soltero / Casado / Conviviente / Separado; etc.)

En esta lección nos concentraremos en las características de la regresión logística binomial.

Ejemplo y Base de Datos

Como ejemplo para esta lección, utilizaremos un subconjunto de variables de la Encuesta Nacional de Demografía y Salud 2017, realizada por el Instituto Nacional de Estadística e Informática. La base de datos y el libro de códigos pueden descargarse del siguiente enlace: endes17s

load("endes17s.rda")
names(endes17s)

##  [1] "CASEID"       "edad"         "urbano"       "tamano"       "lengua_indig"
##  [6] "year_educ"    "nivedu"       "relac_jefeh"  "jefe_hogar"   "exp_medios"  
## [11] "nse"          "nse_ptje"     "seguro"       "FACTOREXP"    "auto_etnic"  
## [16] "auto_etnic2"  "region"       "hijos_tot"    "hijos_vivos"  "past_anticon"
## [21] "hoy_anticon"  "hoy_anticon2" "condon"       "ecivil"       "activ_sex"   
## [26] "problem_emb"

Ejemplo: Uso de anticonceptivos modernos

A partir de los datos correspondientes a las mujeres que han sido activas sexualmente en el mes anterior de la encuesta, se ha calculado la siguiente tabla cruzada:

Tabla 1: Uso de métodos anticonceptivos modernos según área urbana o rural (No. de casos)

##             urbano
## hoy_anticon2 Urbana Rural TOTALf
##       No       5012  2675   7687
##       Sí       9499  3361  12860
##       TOTALc  14511  6036  20547

Probabilidades

Una probabilidad es una medida que nos indica qué tan posible es que ocurra un evento y se calcula mediante dividiendo las veces de que en que ocurre un evento específico sobre el total de eventos que se observan:

\[\pi = \frac{N_{(x=1)}}{N}\] Las probabilades oscilan entre 0 y 1. De acuerdo con los datos de la tabla 1, la probabilidad de encontrar a una mujer sexualmente activa que use métodos anticonceptivos modernos es de:

\[\pi = \frac{12860}{20547} = 0.623\]

Odds o posibilidades

Un odds es otra manera de representar la misma idea que una probabilidad, mide la posibilidad de que ocurra un evento en relación a la posibilidad de que ese evento no ocurra:

\[Odds = \frac{\pi}{1-\pi}\]

En nuestro ejemplo, los Odds para el mismo evento serían:

\[Odds = \frac{12860/20547}{7687/20547} = 1.67\] Ello nos indica que por cada mujer que no usa métodos modernos hay 1.67 mujeres que sí lo hacen. Otra forma de decirlo: es 1.67 veces más probable encontrar a una mujer que use métodos modernos que a una que no lo haga. A diferencia de las probabilidades, los Odds varían entre 0 y \(+\infty\).

Odds Ratio o Ventaja Relativa

Los Odds Ratio (OR) pueden interpretarse como una medida de asociación entre dos variables. Mide la posibilidad de que un evento ocurra dependiendo de la presencia o ausencia de otra condición, por ejemplo: la posibilidad de que se usen métodos anticonceptivos modernos en función del área de residencia urbana:

\[OR = \frac{9499/5012}{3361/2675} = 1.51\] En este ejemplo la posibilidad de usar métodos anticonceptivos modernos respecto de no usarlos son 1.51 veces mayores en zonas urbanas que en zonas rurales.

OR como medida de asociación

Como medida de asociación:

OR = 1 indica una ausencia de asociación (las posibilidades de ocurrencia son las mismas independientemente de la condición de control)
OR > 1 indica una asociación positiva (las posibilidades se incrementan ante la presencia de la 2da condición)
OR < 1 indican una asociación inversa.

Odds ratio y probabilidades

Es posible convertir un Odd Ratio en una probabilidad de la siguiente manera:

\[\pi = \frac{OR}{OR + 1}\] Por ejemplo:

\[\pi = \frac{1.51}{1.51 + 1}=0.602\] Un OR = 1.51 equivale a una probabilidad de 0.601 o de 60.2%

Logaritmo natural o Neperiano

Un logaritmo es el exponente o potencia a la cual debe elevarse una base para obtener un número determinado:

\[b^x = n \Leftrightarrow log_b(n) = x\]

El logaritmo Neperiano o natural tiene como base el número e o constante de Neper, cuyo valor aproximado es \(e=2.7182818284590452354...\)

Transformaciones logarítmicas y regresión

Las transformaciones logarítmicas con útiles si tomamos en cuenta que:

Una probabilidad varía entre 0 y 1
Un Odds varía entre 0 y \(+\infty\).
Un \(log_e(x)\) varía entre \(-\infty\) y \(+\infty\).

Modelo de Regresión Logística Binomial

El modelo de regresión logística binomial se representa mediante la siguiente ecuación:

\[log_e(\frac{\pi}{1-{\pi}}) = b_0 + b_1X_1\] En este caso, el coeficiente \(b_1\) mide el efecto de \(X_1\) en el logaritmo natural del Odds de la variable dependiente del evento que estamos analizando.

En nuestro ejemplo, sería el efecto del área de residencia, urbana o rural, en los odds de usar métodos anticonceptivos modernos.

Cálculo de los coeficientes del modelo logístico binomial

modelo1 <- glm(hoy_anticon2~urbano, binomial,  
               data = endes17s[endes17s$activ_sex=="Ultimo mes", ])
summary(modelo1)

## 
## Call:
## glm(formula = hoy_anticon2 ~ urbano, family = binomial, data = endes17s[endes17s$activ_sex == 
##     "Ultimo mes", ])
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -1.4581  -1.2758   0.9206   0.9206   1.0821  
## 
## Coefficients:
##             Estimate Std. Error z value Pr(>|z|)    
## (Intercept)  0.63935    0.01746   36.62   <2e-16 ***
## urbanoRural -0.41106    0.03124  -13.16   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 27168  on 20546  degrees of freedom
## Residual deviance: 26996  on 20545  degrees of freedom
##   (1 observation deleted due to missingness)
## AIC: 27000
## 
## Number of Fisher Scoring iterations: 4

Interpretación de los resultados

El modelo resultante para el uso de métodos anticonceptivos modernos entre mujeres en edad fértil que son activas sexualmente se puede representar de la siguiente manera:

\[log_e(\frac{\pi}{1-\pi}) = 0.64 - (0.41*Urbana)\] Como se aprecia en los resultados, en el caso de la variable “Urbana”, la categoría de control es “Zona urbana”, por lo que el coficiente \(b_1\) mide el efecto de vivir en una zona rural en el uso de métodos anticonceptivos modernos. En este caso, el coeficiente \(b_0\) sería el logaritmo natural de las posibilidades de uso de anticonceptivos modernos en zonas urbanas.

Interpretación de coeficientes

Dado que: \(\pi = \frac{OR}{OR + 1}\)

Podemos decir que: \(\pi = \frac{e^{b_0+b_1X_1}}{{e^{b_0+b_1X_1}}+1}\)

Por lo tanto en zonas urbanas: \(\pi = \frac{e^{0.64}}{{e^{0.64}}+1}= 0.655\)

Y en zonas rurales: \(\pi = \frac{e^{0.64-0.41}}{{e^{0.64-0.41}}+1}= 0.557\)

como se aprecia, la ecuación de regresión logística en nuestro ejemplo modela los resultados de la tabla de contingencia que vimos al inicio de la presentación.

Modelo de Regresión Logística

##         Urbana  Rural   TOTAL
## No        34.5   44.3    37.4
## Sí        65.5   55.7    62.6
## TOTAL    100.0  100.0   100.0
## Nvalid 14511.0 6036.0 20547.0

\[log_e(\frac{\pi}{1-\pi}) = 0.64 - (0.41*Urbana)\]

Desvianza y ajuste del modelo (1)

La desvianza puede interpretarse de manera análoga a la Suma Total de Cuadrados de una regresión lineal. En el caso de la regresión logística, se reportan dos desvianzas, una para un modelo “nulo”, que incluye únicamente la intercepción y ninguna variable independiente; otra que es la desvianza residual, es decir la que queda luego de haber incluido las variables independientes del modelo. Cuanto mayor sea la diferencia entre ambas desvianzas, mejor será el ajuste del modelo.

Cálculo de los coeficientes del modelo logístico binomial

modelo1 <- glm(hoy_anticon2~urbano, binomial,  
               data = endes17s[endes17s$activ_sex=="Ultimo mes", ])
summary(modelo1)

## 
## Call:
## glm(formula = hoy_anticon2 ~ urbano, family = binomial, data = endes17s[endes17s$activ_sex == 
##     "Ultimo mes", ])
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -1.4581  -1.2758   0.9206   0.9206   1.0821  
## 
## Coefficients:
##             Estimate Std. Error z value Pr(>|z|)    
## (Intercept)  0.63935    0.01746   36.62   <2e-16 ***
## urbanoRural -0.41106    0.03124  -13.16   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 27168  on 20546  degrees of freedom
## Residual deviance: 26996  on 20545  degrees of freedom
##   (1 observation deleted due to missingness)
## AIC: 27000
## 
## Number of Fisher Scoring iterations: 4

Desvianza y ajuste del modelo (2)

Es posible usar una prueba de Chi Cuadrado para evaluar si la diferencia entre las desvianzas es estadísticamente significativa:

anova(modelo1, test = "Chisq")

## Analysis of Deviance Table
## 
## Model: binomial, link: logit
## 
## Response: hoy_anticon2
## 
## Terms added sequentially (first to last)
## 
## 
##        Df Deviance Resid. Df Resid. Dev  Pr(>Chi)    
## NULL                   20546      27168              
## urbano  1   172.08     20545      26996 < 2.2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Pseudo \(R^2\)

Otra medida que indica el “ajuste” de un modelo de regresión logística binomial es el “Pseudo \(R^2\)”. Existen diversos tipos de Pseudo \(R^2\), entre los más conocidos está el Cox-Snell \(R^2\) y el Nagelkerke \(R^2\). El R tiene diversas funciones que permiten calcularlos:

library(DescTools)

PseudoR2(modelo1, c("CoxSnell", "Nagel"))

##    CoxSnell  Nagelkerke 
## 0.008339999 0.011370799

En principio, cuanto mayor es el Pseudo \(R^2\) mejor explica el modelo a la variable dependiente.