1 Objetivo

Implementar el modelo de regresión logística binaria con datos relacionados a una condición de salud de las personas para predecir anomalías de corazón y evaluar la exactitud del modelo mediante la matriz de confusión.

2 Descripción

Se cargan librerías y se descargan los datos: https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/heart_2020_cleaned.csv

Los datos están relacionados con aspectos médicos y son valores numéricos de varias variables que caracterizan el estado de salud de 319,795 personas.

Se pretende construir un modelo utilizando algoritmos supervisados para resolver la tarea de clasificación binaria e identificar si una persona padece del corazón o no.

Se construyen datos de entrenamiento y validación al 80% y 20% cada uno.

Se desarrollan los modelos de:

Regresión Logística binaria
Árbol de Clasificación tipo class
K Means
SVM Lineal
SVM Polinomial
SVM Radial

Los modelo se aceptan si tienen un valor de exactitud (“Accuracy”) por encima del 70%..

3 Fundamento teórico

La regresión logística ofrece solución para clasificar y para predecir valores lógicos, es decir con un valor etiquetado tal vez 0 o 1; bueno o malo, alto o bajo, entre otras etiquetas que distingan una polaridad o significado dicotómico, o un valor u otro.

Para predicciones el modelo de regresión logística binaria encuentra la probabilidad de ocurrencia de un evento determinado y dicha probabilidad se hallará siempre dentro del rango.

Cuando la variable respuesta posee dos categorías, entonces se estará delante de una regresión logística binaria.

En cambio, si la variable respuesta posee más de dos categorías, se usará la regresión logística multinomial [@zang2020].

En este caso que se presenta y describe a continuación, se utiliza la regresión logística binomial como parte de los algoritmos supervisados de machine learning.

El modelo requiere una cantidad de variables independientes del modelo \(x_1, x_2 ... x_n\) ó \(\beta_1, \beta_2...\beta_n\).

Se debe identificar la variable dependiente \(Y\) o la variable respuesta de tipo binaria, donde cada componente de 𝑌 se distribuye mediante una distribución de Bernoulli \([ 0 | 1]\).

Se necesitan \(𝑛\) el número de observaciones.

Entonces \(𝑋 = (𝑥_1, … , 𝑥_𝑛)^T\) el conjunto de variable independientes.

Se identifica como \(\theta\) el vector de parámetros asociado al modelo, de forma que \(\theta\in R^{k+1}\) que significa que los valores del vector resultante pertenecen a cada una de las variables.

Sea \(\pi(\theta^T𝑥_𝑖)\) la probabilidad de que \(Y_i\) tome un valor igual a \(1\), entonces su modelo se puede escribir como:\[ \pi(\theta^Tx_i) = P(Y =1|X=x) = \frac{1}{1+e} \]

Si \(\theta^Tx_i\) los valores ajustados toma valores elevados y positivos, entonces … … se aproximará a 0 y, en consecuencia, el valor de la función anterior será igual a 1. En caso de que \(\theta^Tx_i\) tome valores elevados pero negativos, entonces el valor de la función será \(0\) dado que \(e ^ {\theta^Tx_i}\) tenderá a infinito. [@zang2020].

El valor \(e\) como número irracional y basado en la teoría de logaritmos naturales es el valor constante que se puede obtener en lenguaje R con la función exp(1) igual a 2.7182818.

Efectuando la transformación logit a la expresión inicial, se obtiene:

\[ logit(\pi(\theta^Tx_i)) = ln(\frac{\pi(\theta^Tx_i)}{1 - \pi(\theta^Tx_i)}) \]

que significa calcular el logaritmo natural de cada valor de de \(x_i\) para determinar su probabilidad.

4 Desarrollo

4.1 Cargar librerías

library(readr)
library(dplyr)
library(caret)
# library(rpart)
# library(rpart.plot)
library(knitr)
# library(e1071)        # Vectores de Soporte SVM
# library(rpart)        # Arboles de clasificación

4.2 Cargar datos

Cargar datos de manera local por la tardanza de hacerlo desde la ruta de github. Lo recomendable es descargar los datos en ruta local.

# datos <- read.csv("https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/heart_2020_cleaned.csv")
datos <- read.csv("https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/heart_2020_cleaned.csv", encoding = "UTF-8", stringsAsFactors = TRUE)

4.3 Explorar datos

Son 319795 observaciones y 17 variables

str(datos)

## 'data.frame':    319795 obs. of  18 variables:
##  $ HeartDisease    : Factor w/ 2 levels "No","Yes": 1 1 1 1 1 2 1 1 1 1 ...
##  $ BMI             : num  16.6 20.3 26.6 24.2 23.7 ...
##  $ Smoking         : Factor w/ 2 levels "No","Yes": 2 1 2 1 1 2 1 2 1 1 ...
##  $ AlcoholDrinking : Factor w/ 2 levels "No","Yes": 1 1 1 1 1 1 1 1 1 1 ...
##  $ Stroke          : Factor w/ 2 levels "No","Yes": 1 2 1 1 1 1 1 1 1 1 ...
##  $ PhysicalHealth  : num  3 0 20 0 28 6 15 5 0 0 ...
##  $ MentalHealth    : num  30 0 30 0 0 0 0 0 0 0 ...
##  $ DiffWalking     : Factor w/ 2 levels "No","Yes": 1 1 1 1 2 2 1 2 1 2 ...
##  $ Sex             : Factor w/ 2 levels "Female","Male": 1 1 2 1 1 1 1 1 1 2 ...
##  $ AgeCategory     : Factor w/ 13 levels "18-24","25-29",..: 8 13 10 12 5 12 11 13 13 10 ...
##  $ Race            : Factor w/ 6 levels "American Indian/Alaskan Native",..: 6 6 6 6 6 3 6 6 6 6 ...
##  $ Diabetic        : Factor w/ 4 levels "No","No, borderline diabetes",..: 3 1 3 1 1 1 1 3 2 1 ...
##  $ PhysicalActivity: Factor w/ 2 levels "No","Yes": 2 2 2 1 2 1 2 1 1 2 ...
##  $ GenHealth       : Factor w/ 5 levels "Excellent","Fair",..: 5 5 2 3 5 2 2 3 2 3 ...
##  $ SleepTime       : num  5 7 8 6 8 12 4 9 5 10 ...
##  $ Asthma          : Factor w/ 2 levels "No","Yes": 2 1 2 1 1 1 2 2 1 1 ...
##  $ KidneyDisease   : Factor w/ 2 levels "No","Yes": 1 1 1 1 1 1 1 1 2 1 ...
##  $ SkinCancer      : Factor w/ 2 levels "No","Yes": 2 1 1 2 1 1 2 1 1 1 ...

summary(datos)

##  HeartDisease      BMI        Smoking      AlcoholDrinking Stroke      
##  No :292422   Min.   :12.02   No :187887   No :298018      No :307726  
##  Yes: 27373   1st Qu.:24.03   Yes:131908   Yes: 21777      Yes: 12069  
##               Median :27.34                                            
##               Mean   :28.33                                            
##               3rd Qu.:31.42                                            
##               Max.   :94.85                                            
##                                                                        
##  PhysicalHealth    MentalHealth    DiffWalking      Sex        
##  Min.   : 0.000   Min.   : 0.000   No :275385   Female:167805  
##  1st Qu.: 0.000   1st Qu.: 0.000   Yes: 44410   Male  :151990  
##  Median : 0.000   Median : 0.000                               
##  Mean   : 3.372   Mean   : 3.898                               
##  3rd Qu.: 2.000   3rd Qu.: 3.000                               
##  Max.   :30.000   Max.   :30.000                               
##                                                                
##       AgeCategory                                 Race       
##  65-69      : 34151   American Indian/Alaskan Native:  5202  
##  60-64      : 33686   Asian                         :  8068  
##  70-74      : 31065   Black                         : 22939  
##  55-59      : 29757   Hispanic                      : 27446  
##  50-54      : 25382   Other                         : 10928  
##  80 or older: 24153   White                         :245212  
##  (Other)    :141601                                          
##                     Diabetic      PhysicalActivity     GenHealth     
##  No                     :269653   No : 71838       Excellent: 66842  
##  No, borderline diabetes:  6781   Yes:247957       Fair     : 34677  
##  Yes                    : 40802                    Good     : 93129  
##  Yes (during pregnancy) :  2559                    Poor     : 11289  
##                                                    Very good:113858  
##                                                                      
##                                                                      
##    SleepTime      Asthma       KidneyDisease SkinCancer  
##  Min.   : 1.000   No :276923   No :308016    No :289976  
##  1st Qu.: 6.000   Yes: 42872   Yes: 11779    Yes: 29819  
##  Median : 7.000                                          
##  Mean   : 7.097                                          
##  3rd Qu.: 8.000                                          
##  Max.   :24.000                                          
##

4.4 Transformar datos

Crear variable llamada HeartDisease01 que se utilizará en el modelo de Regresión Logística tendrá valores 0 de para no daño y 1 para daño del corazón.

datos = mutate (datos,HeartDisease_01=if_else(HeartDisease=='Yes',1,0))

4.5 Las variables de interés

Todas las variables de entrada o variables independientes:

“BMI”: Indice de masa corporal con valores entre 12.02 y 94.85.
“Smoking”: Si la persona es fumadora o no con valores categóritos de ‘Yes’ o ‘No’.
“AlcoholDrinking” : Si consume alcohol o no, con valores categóricos de ‘Yes’ o ‘No’.
“Stroke”: Si padece alguna anomalía cerebrovascular, apoplejia o algo similar, con valores categóricos de ‘Yes’ o ‘No’.
“PhysicalHealth” Estado físico en lo general con valores entre 0 y 30.
“MentalHealth”. Estado mental en lo general con valores entre 0 y 30.
“DiffWalking” . Que si se le dificulta caminar o tiene algún padecimiento al caminar, con valores categóritoc de ‘Yes’ o ‘No’.
“Sex”: Género de la persona, con valores de ‘Female’ y ‘Male’ para distinguir al género femenino y masculino respectivamente.
“AgeCategory”: Una clasificación de la edad de la persona de entre 18 y 80 años. La primera categoría con un rango de edad entre 18-24, a partir de 25 con rangos de 5 en 5 hasta la clase de 75-80 y una última categoría mayores de 80 años.
“Race”. Raza u origen de la persona con valores categóricos de ‘American Indian/Alaskan Native’, ’Asian’,’Black’, ’Hispanic’, ’Other’ y’White’.
“Diabetic”. Si padece o ha padecido de diabetes en cuatro condiciones siendo Yes y No para si o no: ‘No’, ‘borderline diabetes’ condición antes de detectarse diabetes tipo 2, ‘Yes’, y ‘Yes (during pregnancy)’ durante embarazo.
“PhysicalActivity” que si realiza actividad física, con valores categóricos de ‘Yes’ o ‘No’.
“GenHealth”: EStado general de salud de la persona con valores categóricos de ‘Excellent’, ‘Very good’, ‘Good’, ‘Fair’ y ‘Poor’ con significado en español de excelente, muy buena, buena, regular y pobre o deficiente.
“SleepTime”: valor numérico de las horas de sueño u horas que duerme la persona con valores en un rango entre 1 y 24.
“Asthma”: si padece de asma o no, con valores categóricos de ‘Yes’ o ‘No’.
“KidneyDisease”: si tiene algún padecimiento en los riñones, con valores categóricos de ‘Yes’ o ‘No’.
“SkinCancer”: si padece algún tipo de cáncer de piel, con valores categóricos de ‘Yes’ o ‘No’.

La variable de interés como dependiente o variable de salida es la de daño al corazón (HeartDisease), con valores categóricos de ‘Yes’ o ‘No’.

4.6 Datos de entrenamiento y validación

Se parten los datos en en datos de entrenamiento con el 80% y datos de validación con el 20%.

set.seed(1307)
entrena <- createDataPartition(y = datos$HeartDisease, 
                               p = 0.8, 
                               list = FALSE, 
                               times = 1)
# Datos entrenamiento
datos.entrenamiento <- datos[entrena, ]  # [renglones, columna]
# Datos validación
datos.validacion <- datos[-entrena, ]

4.6.1 Datos de entrenamiento

Se muestran los primeros 20 registros datos de entrenamiento

kable(head(datos.entrenamiento, 20), caption = "Primeros 20 registros de datos de entrenamiento")

Primeros 20 registros de datos de entrenamiento
	HeartDisease	BMI	Smoking	AlcoholDrinking	Stroke	PhysicalHealth	MentalHealth	DiffWalking	Sex	AgeCategory	Race	Diabetic	PhysicalActivity	GenHealth	SleepTime	Asthma	KidneyDisease	SkinCancer	HeartDisease_01
1	No	16.60	Yes	No	No	3	30	No	Female	55-59	White	Yes	Yes	Very good	5	Yes	No	Yes	0
2	No	20.34	No	No	Yes	0	0	No	Female	80 or older	White	No	Yes	Very good	7	No	No	No	0
4	No	24.21	No	No	No	0	0	No	Female	75-79	White	No	No	Good	6	No	No	Yes	0
5	No	23.71	No	No	No	28	0	Yes	Female	40-44	White	No	Yes	Very good	8	No	No	No	0
6	Yes	28.87	Yes	No	No	6	0	Yes	Female	75-79	Black	No	No	Fair	12	No	No	No	1
7	No	21.63	No	No	No	15	0	No	Female	70-74	White	No	Yes	Fair	4	Yes	No	Yes	0
8	No	31.64	Yes	No	No	5	0	Yes	Female	80 or older	White	Yes	No	Good	9	Yes	No	No	0
10	No	40.69	No	No	No	0	0	Yes	Male	65-69	White	No	Yes	Good	10	No	No	No	0
11	Yes	34.30	Yes	No	No	30	0	Yes	Male	60-64	White	Yes	No	Poor	15	Yes	No	No	1
12	No	28.71	Yes	No	No	0	0	No	Female	55-59	White	No	Yes	Very good	5	No	No	No	0
13	No	28.37	Yes	No	No	0	0	Yes	Male	75-79	White	Yes	Yes	Very good	8	No	No	No	0
14	No	28.15	No	No	No	7	0	Yes	Female	80 or older	White	No	No	Good	7	No	No	No	0
15	No	29.29	Yes	No	No	0	30	Yes	Female	60-64	White	No	No	Good	5	No	No	No	0
16	No	29.18	No	No	No	1	0	No	Female	50-54	White	No	Yes	Very good	6	No	No	No	0
17	No	26.26	No	No	No	5	2	No	Female	70-74	White	No	No	Very good	10	No	No	No	0
18	No	22.59	Yes	No	No	0	30	Yes	Male	70-74	White	No, borderline diabetes	Yes	Good	8	No	No	No	0
19	No	29.86	Yes	No	No	0	0	Yes	Female	75-79	Black	Yes	No	Fair	5	No	Yes	No	0
20	No	18.13	No	No	No	0	0	No	Male	80 or older	White	No	Yes	Excellent	8	No	No	Yes	0
21	No	21.16	No	No	No	0	0	No	Female	80 or older	Black	No, borderline diabetes	No	Good	8	No	No	No	0
23	No	26.17	Yes	No	No	0	15	No	Female	45-49	White	No	Yes	Very good	6	No	No	No	0

4.6.2 Datos de validación

Se muestran los primeros 20 registros de datos de validación .

kable(head(datos.validacion, 20), caption = "Primeros 20 registros de datos de validación")

Primeros 20 registros de datos de validación
	HeartDisease	BMI	Smoking	AlcoholDrinking	Stroke	PhysicalHealth	MentalHealth	DiffWalking	Sex	AgeCategory	Race	Diabetic	PhysicalActivity	GenHealth	SleepTime	Asthma	KidneyDisease	SkinCancer	HeartDisease_01
3	No	26.58	Yes	No	No	20	30	No	Male	65-69	White	Yes	Yes	Fair	8	Yes	No	No	0
9	No	26.45	No	No	No	0	0	No	Female	80 or older	White	No, borderline diabetes	No	Fair	5	No	Yes	No	0
22	No	28.90	No	No	No	2	5	No	Female	70-74	White	Yes	No	Very good	7	No	No	No	0
24	No	25.82	Yes	No	No	0	30	No	Male	80 or older	White	Yes	Yes	Fair	8	No	No	No	0
29	No	24.89	No	No	No	1	0	No	Female	55-59	White	No	Yes	Very good	7	No	No	No	0
32	No	30.67	No	No	No	4	4	Yes	Female	80 or older	White	No	Yes	Fair	8	Yes	No	No	0
37	No	24.62	No	No	No	5	0	No	Female	80 or older	White	No	Yes	Good	6	No	No	No	0
38	No	20.43	Yes	No	No	3	3	No	Female	65-69	White	No	Yes	Fair	5	Yes	No	Yes	0
39	No	27.37	Yes	No	No	0	0	No	Female	80 or older	White	No	No	Very good	8	No	No	No	0
45	No	30.34	Yes	No	No	30	10	Yes	Male	55-59	White	No, borderline diabetes	No	Fair	6	No	No	No	0
54	No	32.61	Yes	No	No	0	0	No	Female	65-69	White	No	Yes	Very good	7	No	No	No	0
57	No	32.55	Yes	No	No	0	0	No	Male	75-79	White	No	No	Very good	8	No	No	No	0
59	No	29.55	No	No	No	0	0	No	Male	70-74	White	Yes	Yes	Good	7	No	No	No	0
62	No	21.03	No	No	No	1	0	No	Female	80 or older	White	No	Yes	Excellent	8	No	No	No	0
68	No	22.04	No	No	No	0	0	No	Male	65-69	White	No	Yes	Very good	8	No	No	No	0
73	No	33.75	No	No	No	0	5	No	Male	50-54	White	Yes	Yes	Good	10	Yes	No	No	0
78	Yes	34.33	No	No	No	0	0	No	Female	55-59	White	No	Yes	Good	8	No	No	No	1
84	No	28.25	No	No	No	0	3	Yes	Male	75-79	White	No	Yes	Good	8	No	No	No	0
86	No	23.78	No	No	No	0	5	No	Female	70-74	White	No	Yes	Excellent	8	No	No	No	0
89	No	32.81	Yes	No	No	0	0	Yes	Female	70-74	White	Yes	Yes	Good	5	No	No	No	0

4.7 Regresión Logística binomial

Se construye el modelo con los datos de entrenamiento mediante la función glm() indicando que es regresión logística binomial es decir solo dos valores.

modelo.rl = glm(data = datos.entrenamiento,formula =    HeartDisease_01 ~ BMI+Smoking+AlcoholDrinking+Stroke+PhysicalHealth+MentalHealth+DiffWalking+Sex
+AgeCategory+Race+Diabetic+PhysicalActivity+GenHealth+SleepTime+Asthma+KidneyDisease+SkinCancer, family = binomial())

4.7.1 Resumen y/o estadísticos del modelo

El resumen del modelo muestra algunos estadísticos importantes: se interpreta que la gran mayoría de las variables independiente tienen significación estadística ‘***’, presenta los coeficientes numéricos en la ecuación de regresión logística entre otras cosas.

summary(modelo.rl)

## 
## Call:
## glm(formula = HeartDisease_01 ~ BMI + Smoking + AlcoholDrinking + 
##     Stroke + PhysicalHealth + MentalHealth + DiffWalking + Sex + 
##     AgeCategory + Race + Diabetic + PhysicalActivity + GenHealth + 
##     SleepTime + Asthma + KidneyDisease + SkinCancer, family = binomial(), 
##     data = datos.entrenamiento)
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -2.1224  -0.4105  -0.2447  -0.1295   3.5973  
## 
## Coefficients:
##                                   Estimate Std. Error z value Pr(>|z|)    
## (Intercept)                     -6.3133507  0.1276129 -49.473  < 2e-16 ***
## BMI                              0.0092030  0.0012769   7.207 5.71e-13 ***
## SmokingYes                       0.3633545  0.0160797  22.597  < 2e-16 ***
## AlcoholDrinkingYes              -0.2192816  0.0371253  -5.907 3.49e-09 ***
## StrokeYes                        1.0417848  0.0254384  40.953  < 2e-16 ***
## PhysicalHealth                   0.0036048  0.0009639   3.740 0.000184 ***
## MentalHealth                     0.0050041  0.0009887   5.061 4.17e-07 ***
## DiffWalkingYes                   0.2178033  0.0202992  10.730  < 2e-16 ***
## SexMale                          0.7064697  0.0162831  43.387  < 2e-16 ***
## AgeCategory25-29                 0.1076794  0.1386220   0.777 0.437286    
## AgeCategory30-34                 0.4730544  0.1239173   3.818 0.000135 ***
## AgeCategory35-39                 0.6039320  0.1181333   5.112 3.18e-07 ***
## AgeCategory40-44                 0.9593079  0.1117131   8.587  < 2e-16 ***
## AgeCategory45-49                 1.3597420  0.1071212  12.693  < 2e-16 ***
## AgeCategory50-54                 1.7159561  0.1036903  16.549  < 2e-16 ***
## AgeCategory55-59                 1.9622727  0.1020318  19.232  < 2e-16 ***
## AgeCategory60-64                 2.2201027  0.1011108  21.957  < 2e-16 ***
## AgeCategory65-69                 2.4628474  0.1007949  24.434  < 2e-16 ***
## AgeCategory70-74                 2.7553872  0.1007186  27.357  < 2e-16 ***
## AgeCategory75-79                 2.9448819  0.1013347  29.061  < 2e-16 ***
## AgeCategory80 or older           3.2069933  0.1010554  31.735  < 2e-16 ***
## RaceAsian                       -0.5370013  0.0933530  -5.752 8.80e-09 ***
## RaceBlack                       -0.3889712  0.0642304  -6.056 1.40e-09 ***
## RaceHispanic                    -0.2775834  0.0652224  -4.256 2.08e-05 ***
## RaceOther                       -0.0760266  0.0710871  -1.069 0.284851    
## RaceWhite                       -0.1005449  0.0571313  -1.760 0.078426 .  
## DiabeticNo, borderline diabetes  0.0998953  0.0470696   2.122 0.033813 *  
## DiabeticYes                      0.4706155  0.0187183  25.142  < 2e-16 ***
## DiabeticYes (during pregnancy)   0.1438748  0.1170684   1.229 0.219079    
## PhysicalActivityYes              0.0352841  0.0179988   1.960 0.049954 *  
## GenHealthFair                    1.5034388  0.0364225  41.278  < 2e-16 ***
## GenHealthGood                    1.0192605  0.0327619  31.111  < 2e-16 ***
## GenHealthPoor                    1.8617069  0.0456391  40.792  < 2e-16 ***
## GenHealthVery good               0.4474191  0.0336400  13.300  < 2e-16 ***
## SleepTime                       -0.0205483  0.0048393  -4.246 2.18e-05 ***
## AsthmaYes                        0.2780620  0.0215024  12.932  < 2e-16 ***
## KidneyDiseaseYes                 0.5748481  0.0272071  21.129  < 2e-16 ***
## SkinCancerYes                    0.1212289  0.0217763   5.567 2.59e-08 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 149527  on 255836  degrees of freedom
## Residual deviance: 116152  on 255799  degrees of freedom
## AIC: 116228
## 
## Number of Fisher Scoring iterations: 7

Entonces una posible predicción sería de la siguiente manera:

\[ Y=β_0+β_1⋅(coeficiente)+β_2⋅(coeficiente)+β_3⋅(coeficiente)+...+β_n⋅(coeficiente \]

entonces …

\[ HeartDisease\text{01} = -6.3411940 +BMI⋅(coeficiente) +SmokingYes\cdot(coeficiente) + ... + SkinCancerYes\cdot(coeficiente) \]

4.7.2 Generar predicciones del modelo regresión logística

Se generan predicciones con datos de validación generando un valor numérico que deberá convertirse a valor probabilístico, condicionando que si el valor de la probabilidad de predicción está por debajo del 50% es 0 y si está por encima entonces será 1.

prediciones_rl = predict(object = modelo.rl,newdata = datos.validacion, se.fit = TRUE)

4.7.3 Probabilidad con la función logit

Se transforman los valores de las predicciones generadas a valores probabilísticos usando para ello el concepto de la función logit. \[ prob = \frac{exp(prediccion)}{(1 + exp(prediccion))} \]

prediciones_rl_prob <- exp(prediciones_rl$fit) / (1 + exp(prediciones_rl$fit))

4.7.4 Generar tabla comparativa

Se construye una tabla comparativa con los valores de interés

t_comparativa = data.frame(datos.validacion[,c('HeartDisease', 'HeartDisease_01')],prediciones_rl_prob)
t_comparativa <- t_comparativa %>%
  mutate(heartDiseasePred = if_else(prediciones_rl_prob < 0.50, 0, 1))
top20 = head(t_comparativa,20)
kable(top20,caption = 'Primeros 20 registros')

Primeros 20 registros
	HeartDisease	HeartDisease_01	prediciones_rl_prob	heartDiseasePred
3	No	0	0.4276672	0
9	No	0	0.2915140	0
22	No	0	0.0700374	0
24	No	0	0.5238864	1
29	No	0	0.0202312	0
32	No	0	0.2650257	0
37	No	0	0.1159817	0
38	No	0	0.1767422	0
39	No	0	0.0904108	0
45	No	0	0.2232984	0
54	No	0	0.0497971	0
57	No	0	0.1398425	0
59	No	0	0.2143724	0
62	No	0	0.0415325	0
68	No	0	0.0616050	0
73	No	0	0.1132356	0
78	Yes	1	0.0374880	0
84	No	0	0.2010756	0
86	No	0	0.0280929	0
89	No	0	0.2053834	0

4.7.5 Evaluando el modelo

Una matriz de confusión es una herramienta que permite evaluación de un modelo de clasificación

Cada columna de la matriz representa el número de predicciones de cada clase, mientras que cada fila representa a las instancias en la clase real.

Uno de los beneficios de las matrices de confusión es que facilitan ver si el sistema está confundiendo las diferentes clases o resultados.

Hay que encontrar a cuantos casos se le atinaron utilizando los datos de validación y con ello encontrar el porcentaje de aciertos.

Se puede evaluar el modelo con la matriz de confusión interpretando algunos estadísticos:

Se evalúa el modelo de acuerdo a estas condiciones:

Accuracy o exactitud \[ accuracy = \frac{VP + VN}{VP+FP+FN+VN} \\ n = VP+FP+FN+VN \]
Precision o precisión

\[ precision = \frac{VP}{VP + FP} \]

Recall o recuperación \[ recall = \frac{VP}{VP + FN} \]
Especificity o especificidad (tasa de verdaderos negativos)

\[ especificity = \frac{VN}{VN + FP} \]

4.7.5.1 Construyendo la matriz de confusión del modelo de regresión logística

Factorizar las columnas “HeartDisease_01” & “heartDiseasePred” de la tabla comparativa

Factorizar en R significa categorizar con la función “as.factor()” o “factor”

Se muestra a tabla con las columnas de interés para interpretar las predicciones.

t_comparativa$HeartDisease_01 = as.factor(t_comparativa$HeartDisease_01)
t_comparativa$heartDiseasePred = as.factor(t_comparativa$heartDiseasePred)
kable(head(t_comparativa, 20), caption = "Tabla comparativa, primeros 20 registros")

Tabla comparativa, primeros 20 registros
	HeartDisease	HeartDisease_01	prediciones_rl_prob	heartDiseasePred
3	No	0	0.4276672	0
9	No	0	0.2915140	0
22	No	0	0.0700374	0
24	No	0	0.5238864	1
29	No	0	0.0202312	0
32	No	0	0.2650257	0
37	No	0	0.1159817	0
38	No	0	0.1767422	0
39	No	0	0.0904108	0
45	No	0	0.2232984	0
54	No	0	0.0497971	0
57	No	0	0.1398425	0
59	No	0	0.2143724	0
62	No	0	0.0415325	0
68	No	0	0.0616050	0
73	No	0	0.1132356	0
78	Yes	1	0.0374880	0
84	No	0	0.2010756	0
86	No	0	0.0280929	0
89	No	0	0.2053834	0

Creando de la matriz de confusión con la función confusionMatrix() de la librería caret con las variables de interés: “HeartDisease_01” y “heartDiseasePred”, que representan los valores reales y las predicciones respectivamente.

matrixConfusion <- confusionMatrix(t_comparativa$HeartDisease_01,t_comparativa$heartDiseasePred)
matrixConfusion

## Confusion Matrix and Statistics
## 
##           Reference
## Prediction     0     1
##          0 58007   477
##          1  4882   592
##                                          
##                Accuracy : 0.9162         
##                  95% CI : (0.914, 0.9183)
##     No Information Rate : 0.9833         
##     P-Value [Acc > NIR] : 1              
##                                          
##                   Kappa : 0.1574         
##                                          
##  Mcnemar's Test P-Value : <2e-16         
##                                          
##             Sensitivity : 0.9224         
##             Specificity : 0.5538         
##          Pos Pred Value : 0.9918         
##          Neg Pred Value : 0.1081         
##              Prevalence : 0.9833         
##          Detection Rate : 0.9070         
##    Detection Prevalence : 0.9144         
##       Balanced Accuracy : 0.7381         
##                                          
##        'Positive' Class : 0              
##

El valor estadístico de Accuracy = Exactitud igual a 0.9153 significa un valor del 91.53%; se interpreta que de cada 100 el modelo acierta en la predicción el 91.53% de las ocasiones.

Si la métrica era que debiera tener un valor por encima del 70% el modelo se acepta pero debe compararse contra otro modelo de clasificación para ver cual es más eficiente en relación tan solo en el estadístico de Exactitud.

Este valor de Accuracy = Exactitud deberá compararse contra otros modelos.

4.8 Predicciones con datos nuevos

Se crea un registro de una persona con ciertas condiciones de salud.

BMI <- 38
Smoking <- 'Yes'
AlcoholDrinking = 'Yes'
Stroke <- 'Yes'
PhysicalHealth <- 2
MentalHealth = 5
DiffWalking = 'Yes'
Sex = 'Male'
AgeCategory = '70-74'
Race = 'Black'
Diabetic <- 'Yes'
PhysicalActivity = "No"
GenHealth = "Fair"
SleepTime = 12
Asthma = "Yes"
KidneyDisease = "Yes"
SkinCancer = 'No'
persona <- data.frame(BMI,Smoking, AlcoholDrinking, Stroke, PhysicalHealth, MentalHealth, DiffWalking, Sex, AgeCategory, Race, Diabetic, PhysicalActivity, GenHealth, SleepTime, Asthma, KidneyDisease, SkinCancer)
persona

##   BMI Smoking AlcoholDrinking Stroke PhysicalHealth MentalHealth DiffWalking
## 1  38     Yes             Yes    Yes              2            5         Yes
##    Sex AgeCategory  Race Diabetic PhysicalActivity GenHealth SleepTime Asthma
## 1 Male       70-74 Black      Yes               No      Fair        12    Yes
##   KidneyDisease SkinCancer
## 1           Yes         No

Se hace la predicción con estos valores para estimar si tiene daño o no de corazón:

prediccion <- predict(object = modelo.rl, newdata = persona, se.fit = TRUE)
prediccion

## $fit
##        1 
## 1.125525 
## 
## $se.fit
## [1] 0.06989407
## 
## $residual.scale
## [1] 1

# prediccion <- prediccion$fit
# prediccion

Este valor 0.06995949 a valor probabilístico:

prob <- exp(prediccion$fit) / (1 + exp(prediccion$fit))
prob

##         1 
## 0.7550121

Tiene un valor de 0.7480466 es decir un 74.80%

Entonces en predicción es:

pred <- if_else (prob > 0.5, 1, 0)
pred

## [1] 1

Si la predicción es es 0 no tienen afección del corazón en caso se contrario si el resultado es 1 entonces la predicción implica que si tiene daño del corazón.

5 Interpretación

En la matriz de confusion con la semilla 1307 existen mas numeros de falsos Negativos, 4882, que de falsos positivos, 592. La presicion resultante es de 91~%, lo cual es mayor al requerido de 70, esto si bien puede parecer poco al ser algo de salud en realidad es bastante bueno por que si esto se usara como un paso adicional para buscar afecciones al corazon ademas de las formas comunes resultaria en un una mejor prediccion, relamente creo que 91 es bastante impresionante si fuera real y si recibiera la noticia de que tengo un 90% de tener una afeccion y se me recomienda ser analizado mas a profundidad estaria feliz de que fuera detectado.

Caso 8. Regresión Logística Binaria. Predicciones de daño corazón. Lenguaje R

Kevin Govanni Rodriguez Parra

2022-11-30