1 Objetivo

Construir y evaluar un modelo de regresión lineal múltiple para realizar predicciones.

2 Descripción

  • Se cargan las librerías necesarias

  • Se cargan los datos Se exploran los datos

  • Se crear los datos de entrenamiento y validación 70% y 30% respectivamente

Las métricas a valorar serán:

  • Que los coeficientes sean estadísticamente significativos por encima del 95%.

  • R Squared Ajustado el modelo se acepta si sobrepasa en el 80%

  • rmse comparado con otro modelo mismos datos se acepta o se establece que un modelo es mejor que otro.

3 Marco teórico

En la mayoría de los problemas de investigación en los que se aplica el análisis de regresión se necesita más de una variable independiente para el modelo de regresión. La complejidad de la mayoría de mecanismos científicos es tal que, con el fin de predecir una respuesta importante, se requiere un modelo de regresión múltiple. Cuando un modelo es lineal en los coeficientes se denomina modelo de regresión lineal múltiple. Para el caso de k variables independientes, el modelo que da \(x_1, x_2,…, x_k,\) y \(y\) como la variable dependiente. \(x_1, x_,..., x_k\) son las variable s que afectan a la variable dependiente en el modelo de regresión lineal múltiple. (Walpole, Myers, and Myers 2012a)

Muchos problemas de de investigación y de la industria, requieren la estimación de las relaciones existentes entre el patrón de variabilidad de una variable aleatoria y los valores de una o más variables aleatorias. (Urrutia Mosquera 2011)

Al generar un modelo de regresión lineal múltiple es importante identificar los estadísticos de R2, que se denomina coeficiente de determinación y es una medida de la proporción de la variabilidad explicada por el modelo ajustado.

De igual forma, el valor de R2 ajustado o coeficiente de determinación ajustado, es una variación de R2 que proporciona un ajuste para los grados de libertad (Walpole, Myers, and Myers 2012b). R Ajustado está diseñado para proporcionar un estadístico que castigue un modelo sobreajustado, de manera que se puede esperar que favorezca al modelo.(Walpole, Myers, and Myers 2012c).

Una variable YY puede predecirse conforme y de cuerdo con

\[ y = b_0 + b_1{x_1} + b_2{x_2} + b_3{x_3}+ .....b_k{x_k} \]

4 Desarrollo

4.1 Cargar librerías

library(readr) # Para importar datos
library(dplyr) # Para filtrar   
library(knitr) # Para datos tabulares
library(ggplot2) # Para visualizar
library(plotly)
library(caret)  # Para particionar
library(Metrics) # Para determinar rmse

4.2 Cargar datos

datos <- read.csv("https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/Advertising.csv")

4.3 Explorando los datos

summary(datos)
##        X                TV             Radio          Newspaper     
##  Min.   :  1.00   Min.   :  0.70   Min.   : 0.000   Min.   :  0.30  
##  1st Qu.: 50.75   1st Qu.: 74.38   1st Qu.: 9.975   1st Qu.: 12.75  
##  Median :100.50   Median :149.75   Median :22.900   Median : 25.75  
##  Mean   :100.50   Mean   :147.04   Mean   :23.264   Mean   : 30.55  
##  3rd Qu.:150.25   3rd Qu.:218.82   3rd Qu.:36.525   3rd Qu.: 45.10  
##  Max.   :200.00   Max.   :296.40   Max.   :49.600   Max.   :114.00  
##      Sales      
##  Min.   : 1.60  
##  1st Qu.:10.38  
##  Median :12.90  
##  Mean   :14.02  
##  3rd Qu.:17.40  
##  Max.   :27.00
str(datos)
## 'data.frame':    200 obs. of  5 variables:
##  $ X        : int  1 2 3 4 5 6 7 8 9 10 ...
##  $ TV       : num  230.1 44.5 17.2 151.5 180.8 ...
##  $ Radio    : num  37.8 39.3 45.9 41.3 10.8 48.9 32.8 19.6 2.1 2.6 ...
##  $ Newspaper: num  69.2 45.1 69.3 58.5 58.4 75 23.5 11.6 1 21.2 ...
##  $ Sales    : num  22.1 10.4 9.3 18.5 12.9 7.2 11.8 13.2 4.8 10.6 ...

Son 200 registros tres variables independientes y una variable dependiente.

La variable dependiente o variable objetivo es Sales que deberá estar en función de la inversión que se hace en TV, Radio o Newspaper.

4.4 Limpiar datos

Quitar la variable x que no es de interés

datos <- datos %>%
  select (TV, Radio, Newspaper, Sales)

4.4.1 head(datos)

kable(head(datos, 20), caption = "Primeros 20 registros")
Primeros 20 registros
TV Radio Newspaper Sales
230.1 37.8 69.2 22.1
44.5 39.3 45.1 10.4
17.2 45.9 69.3 9.3
151.5 41.3 58.5 18.5
180.8 10.8 58.4 12.9
8.7 48.9 75.0 7.2
57.5 32.8 23.5 11.8
120.2 19.6 11.6 13.2
8.6 2.1 1.0 4.8
199.8 2.6 21.2 10.6
66.1 5.8 24.2 8.6
214.7 24.0 4.0 17.4
23.8 35.1 65.9 9.2
97.5 7.6 7.2 9.7
204.1 32.9 46.0 19.0
195.4 47.7 52.9 22.4
67.8 36.6 114.0 12.5
281.4 39.6 55.8 24.4
69.2 20.5 18.3 11.3
147.3 23.9 19.1 14.6

4.4.2 tail(datos)

kable(tail(datos, 20), caption = "Últimos 20 registros")
Últimos 20 registros
TV Radio Newspaper Sales
181 156.6 2.6 8.3 10.5
182 218.5 5.4 27.4 12.2
183 56.2 5.7 29.7 8.7
184 287.6 43.0 71.8 26.2
185 253.8 21.3 30.0 17.6
186 205.0 45.1 19.6 22.6
187 139.5 2.1 26.6 10.3
188 191.1 28.7 18.2 17.3
189 286.0 13.9 3.7 15.9
190 18.7 12.1 23.4 6.7
191 39.5 41.1 5.8 10.8
192 75.5 10.8 6.0 9.9
193 17.2 4.1 31.6 5.9
194 166.8 42.0 3.6 19.6
195 149.7 35.6 6.0 17.3
196 38.2 3.7 13.8 7.6
197 94.2 4.9 8.1 9.7
198 177.0 9.3 6.4 12.8
199 283.6 42.0 66.2 25.5
200 232.1 8.6 8.7 13.4

4.5 Datos de entrenamiento y validación

4.5.1 Datos de entrenamiento

n <- nrow(datos)

# Modificar la semilla estableciendo como parámetro los útimos cuatro dígitos de su no de control. 
# Ej. set.seed(0732), o set.seed(1023)
# set.seed(2022) 
set.seed(0421)

De manera aleatoria se construyen los datos de entrenamiento y los datos de validación.

En la variable entrena se generan los registros que van a ser los datos de entrenamiento, de tal forma que los datos de validación serán los que no sena de entrenamiento [-entrena].

entrena <- createDataPartition(y = datos$Sales, p = 0.70, list = FALSE, times = 1)

# Datos entrenamiento
datos.entrenamiento <- datos[entrena, ]  # [renglones, columna]

# Datos validación
datos.validacion <- datos[-entrena, ]

4.5.1.2 tail()

kable(tail(datos.entrenamiento, 20), caption = "Datos de entrenamiento ültimos 20 registros")
Datos de entrenamiento ültimos 20 registros
TV Radio Newspaper Sales
172 164.5 20.9 47.4 14.5
174 168.4 7.1 12.8 11.7
175 222.4 3.4 13.1 11.5
176 276.9 48.9 41.8 27.0
177 248.4 30.2 20.3 20.2
179 276.7 2.3 23.7 11.8
180 165.6 10.0 17.6 12.6
181 156.6 2.6 8.3 10.5
182 218.5 5.4 27.4 12.2
183 56.2 5.7 29.7 8.7
186 205.0 45.1 19.6 22.6
190 18.7 12.1 23.4 6.7
191 39.5 41.1 5.8 10.8
193 17.2 4.1 31.6 5.9
194 166.8 42.0 3.6 19.6
196 38.2 3.7 13.8 7.6
197 94.2 4.9 8.1 9.7
198 177.0 9.3 6.4 12.8
199 283.6 42.0 66.2 25.5
200 232.1 8.6 8.7 13.4

4.5.2 Datos de validación

Los datos de validación deben ser diferentes a los datos den entrenamiento.

4.5.2.1 head()

kable(head(datos.validacion, 20), caption = "Datos de Validación Primeros 20 registros")
Datos de Validación Primeros 20 registros
TV Radio Newspaper Sales
4 151.5 41.3 58.5 18.5
8 120.2 19.6 11.6 13.2
9 8.6 2.1 1.0 4.8
10 199.8 2.6 21.2 10.6
11 66.1 5.8 24.2 8.6
30 70.6 16.0 40.8 10.5
31 292.9 28.3 43.2 21.4
32 112.9 17.4 38.6 11.9
36 290.7 4.1 8.5 12.8
39 43.1 26.7 35.1 10.1
40 228.0 37.7 32.0 21.5
41 202.5 22.3 31.6 16.6
42 177.0 33.4 38.7 17.1
45 25.1 25.7 43.3 8.5
53 216.4 41.7 39.6 22.6
54 182.6 46.2 58.7 21.2
56 198.9 49.4 60.0 23.7
57 7.3 28.1 41.4 5.5
58 136.2 19.2 16.6 13.2
61 53.5 2.0 21.4 8.1

4.5.2.2 tail()

kable(tail(datos.validacion, 20), caption = "Datos de validació últimos 20 registros")
Datos de validació últimos 20 registros
TV Radio Newspaper Sales
120 19.4 16.0 22.3 6.6
134 219.8 33.5 45.1 19.6
137 25.6 39.0 9.3 9.5
143 220.5 33.2 37.9 20.1
144 104.6 5.7 34.4 10.4
158 149.8 1.3 24.3 10.1
161 172.5 18.1 30.7 14.4
165 117.2 14.7 5.4 11.9
166 234.5 3.4 84.8 11.9
170 284.3 10.6 6.4 15.0
171 50.0 11.6 18.4 8.4
173 19.6 20.1 17.0 7.6
178 170.2 7.8 35.2 11.7
184 287.6 43.0 71.8 26.2
185 253.8 21.3 30.0 17.6
187 139.5 2.1 26.6 10.3
188 191.1 28.7 18.2 17.3
189 286.0 13.9 3.7 15.9
192 75.5 10.8 6.0 9.9
195 149.7 35.6 6.0 17.3

4.6 Construir el modelo

El modelo se construye con la función lm() en donde participa en la fórmula que la variable Sales (Sales ~ TV + Radio + Newspaper) está en función de las variables independientes del conjunto de datos de entrenamiento.

modelo.rm <- lm(data = datos.entrenamiento, formula = Sales ~ TV + Radio + Newspaper)
modelo.rm
## 
## Call:
## lm(formula = Sales ~ TV + Radio + Newspaper, data = datos.entrenamiento)
## 
## Coefficients:
## (Intercept)           TV        Radio    Newspaper  
##    2.996333     0.047102     0.179522    -0.002706

4.6.1 Summary modelo

summary(modelo.rm)
## 
## Call:
## lm(formula = Sales ~ TV + Radio + Newspaper, data = datos.entrenamiento)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -8.5148 -0.7253  0.2084  1.2983  2.7766 
## 
## Coefficients:
##              Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  2.996333   0.387412   7.734 1.96e-12 ***
## TV           0.047102   0.001711  27.536  < 2e-16 ***
## Radio        0.179522   0.010371  17.309  < 2e-16 ***
## Newspaper   -0.002706   0.007039  -0.385    0.701    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 1.762 on 138 degrees of freedom
## Multiple R-squared:  0.8932, Adjusted R-squared:  0.8909 
## F-statistic: 384.7 on 3 and 138 DF,  p-value: < 2.2e-16

Con respecto a los coeficientes se observa que todos tienen un nivel de confianza por encima del 99% excepto la variable Newspaper.

Con respecto a la métrica R Square y R Square ajustada, se tiene: Multiple R-squared: 0.8932, Adjusted R-squared: 0.8909 que está por encima del 80% por lo que se acepta el modelo.

4.7 Predicciones

Las predicciones de las ventas ‘Sales’ matemáticamente serían:

\(Sales = 2.620e00 + 4.809e-02\cdot{TV} + 1.873e-01\cdot{Radio} + 4.830e-06\cdot{Newspaper}\) Se hará predicciones con la función predict() utilizando para ello los datos de validación, luego se observará la diferencia que existe entre los datos reales con los datos de predichos determinando el Root Mean Standar Error (rmse), la raiz del error estándar medio es decir, la deferencia entre los valores predichos y los reales estadísticamente.

Se hace un data.frame de comparaciones con lo cual se presentan los valores reales y los valores de las predicciones. Se presenta solo las primeras 20 y últimas 20 predicciones.

predicciones <- predict(object = modelo.rm, newdata = datos.validacion)

comparaciones <- data.frame(datos.validacion, predicciones)

4.7.1 head()

kable(x = head(comparaciones, 20), caption = "Predicciones")
Predicciones
TV Radio Newspaper Sales predicciones
4 151.5 41.3 58.5 18.5 17.388264
8 120.2 19.6 11.6 13.2 12.145262
9 8.6 2.1 1.0 4.8 3.775702
10 199.8 2.6 21.2 10.6 12.816744
11 66.1 5.8 24.2 8.6 7.085526
30 70.6 16.0 40.8 10.5 9.083685
31 292.9 28.3 43.2 21.4 21.756141
32 112.9 17.4 38.6 11.9 11.333395
36 290.7 4.1 8.5 12.8 17.401992
39 43.1 26.7 35.1 10.1 9.724687
40 228.0 37.7 32.0 21.5 20.417025
41 202.5 22.3 31.6 16.6 16.452360
42 177.0 33.4 38.7 17.1 17.224732
45 25.1 25.7 43.3 8.5 8.675132
53 216.4 41.7 39.6 22.6 20.568159
54 182.6 46.2 58.7 21.2 19.732261
56 198.9 49.4 60.0 23.7 21.070980
57 7.3 28.1 41.4 5.5 8.272707
58 136.2 19.2 16.6 13.2 12.813558
61 53.5 2.0 21.4 8.1 5.817431

4.7.2 tail()

kable(x = head(comparaciones, 20), caption = "Predicciones")
Predicciones
TV Radio Newspaper Sales predicciones
4 151.5 41.3 58.5 18.5 17.388264
8 120.2 19.6 11.6 13.2 12.145262
9 8.6 2.1 1.0 4.8 3.775702
10 199.8 2.6 21.2 10.6 12.816744
11 66.1 5.8 24.2 8.6 7.085526
30 70.6 16.0 40.8 10.5 9.083685
31 292.9 28.3 43.2 21.4 21.756141
32 112.9 17.4 38.6 11.9 11.333395
36 290.7 4.1 8.5 12.8 17.401992
39 43.1 26.7 35.1 10.1 9.724687
40 228.0 37.7 32.0 21.5 20.417025
41 202.5 22.3 31.6 16.6 16.452360
42 177.0 33.4 38.7 17.1 17.224732
45 25.1 25.7 43.3 8.5 8.675132
53 216.4 41.7 39.6 22.6 20.568159
54 182.6 46.2 58.7 21.2 19.732261
56 198.9 49.4 60.0 23.7 21.070980
57 7.3 28.1 41.4 5.5 8.272707
58 136.2 19.2 16.6 13.2 12.813558
61 53.5 2.0 21.4 8.1 5.817431

4.7.3 Valores Reales Sales Vs Prediciones

ggplot(data = comparaciones) +
  geom_line(aes(x = 1:nrow(comparaciones), y = Sales), col='red') +
  geom_line(aes(x = 1:nrow(comparaciones), y = predicciones), col='blue')

5 Evaluando con métrica rmse

rmse <- rmse(actual = comparaciones$Sales, predicted = comparaciones$predicciones)
rmse
## [1] 1.525021

El valor de Root Mean Square Error de 1.525021, habrá que evaluarlo y compararlo con otro modelo para ver eficiencia de los modelos.

6 Interpretación

Como interpretación podemos observar que al realizar el análisis de los datos por el modeo de regresión lineal multiple. El análisis de datos que hicimos fue con el conjunto de datos de “Advertising”. Los datos se encuentran en la dirección https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/Advertising.csv y contiene en el data.frame(datos) 200 observaciones y 4 variables. La variable dependiente o variable objetivo es “Sales” que deberá estar en función de la inversión que se hace en TV, Radio o Newspaper. Hicimos una limpieza de datos que incluye quitar la variable x que no sea para nosotros de interes. En este analisis el valor de R-square es de 0.8932 lo cual esta por encima 80% y de Adjusted R-square con un valor de 0.8909 tambien por encima del 80% por lo que se acepta el modelo. Entonces los coeficientes son estadísticamente significativos para el modelo de este analisis de datos. Los valores del modelo de regresion multiple escogiendo las variables mas significativas en la seccion de”Summary modelo” son TV 0.047102 Radio 0.179522 Newspaper -0.002706. En el valor de Root Mean Square Error nos arroja un resultado de “1.525021”.

7 Bibliografía

Urrutia Mosquera, Jorge Andrés. 2011. “Evaluación de La Robustez de Un Modelo de Regresión múltiple Para Predecir Las Ventas Diarias de Un Hipermercado En Pereira, Risaralda.” https://www.researchgate.net/publication/237041228_EVALUACION_DE_LA_ROBUSTEZ_DE_UN_MODELO_DE_REGRESION_MULTIPLE_PARA_PREDECIR_LAS_VENTAS_DIARIAS_DE_UN_HIPERMERCADO_EN_PEREIRA_RISARALDA.

Walpole, Ronald E., Raymond H. Myers, and Sharon L. Myers. 2012b. Probabilidad y Estadística Para Ingeniería y Ciencias. Novena Edición. México: Pearson.

———. 2012c. Probabilidad y Estadística Para Ingeniería y Ciencias. Novena Edición. México: Pearson.

———. 2012a. Probabilidad y Estadística Para Ingeniería y Ciencias. Novena Edición. México: Pearson.