Caso Especial 2. Comparación Regresión Lineal Simple Vs Regresión Polinómica
Kevin Govanni Rodriguez Parra
2022-09-25
1 Objetivo
Evaluar y comparar los modelos de regresión lineal simple y polinomial de segunda y quinta pontecia con datos de Adverstising_WEB.csv
2 Descripción
Se cargan los datos de la dirección:https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/Advertising_Web.csv
Los datos contienen variables que en el contexto se interpreta que son inversiones hechas de una empresa y las ventas de la misma, a tanta inversión de marketing en medios tales como TV, Radio, NewsPapers (medios impresos) y Web (digital) existe en relacuón a las ventas (Sales) generadas.
Se trata de comparar modelos predictivos para evaluar cuál es mejor con respecto a los estadísticos R Square y RMSE.
Las variables de interés serán:
TV como variable independiente o la variable explicativa hacia la variables Sales
Sales como variable dependiente que es la variable a predecir.
Se construyen datos de entrenamiento y datos de validacion al 70 y 30% respectivamente
Se construyen el modelo de regresión lineal simple con los datos de entrenamiento y se evaluán los siguiente aspectos:
Se identifican los coeficientes a y b
Se analizan los niveles de confianza de los coeficientes.
Se identifica el valor de R Square par evaluar el grado de explicación de la variable dependiente con respecto a la variable independiente. El modelo se acepta si está por encima del 60%.
Se hacen prediciones con la funcion predict() con los datos de validación.
Se mide el valor de RMSE Root Mean Stándar Error.
Se construye el modelo polinomial a la segunda potencia y quinta potencia con los datos de entrenamiento y se evalúan los siguientes aspectos.
Se identifican los coeficientes
Se analizan los niveles de confianza de los coeficientes.
Se identifica el valor de R Square para evaluar el grado de explicación de la variable independiente con respecto a la variable dependiente. Se acepta si está por encima del 60%
Se hacen prediciones con la funcion predict() con los datos de validación.
Se mide el valor de rmse Root Mean Stándar Error.
3 Desarrollo
3.1 Cargar librerías
library(readr) # Sirve para importar datos
library(Metrics) # Sirve para construir métricas y valorar modelos
library (ggplot2) # Sirve para gráficos
library(caret) # Para partir los datos Entrenamiento y Validación.
library(knitr)3.2 Cargar datos
datos <- read.csv("https://raw.githubusercontent.com/rpizarrog/Analisis-Inteligente-de-datos/main/datos/Advertising_Web.csv")3.3 Describir datos
summary(datos)## X.1 X TV Radio
## Min. : 1.00 Min. : 1.00 Min. : 0.70 Min. : 0.000
## 1st Qu.: 50.75 1st Qu.: 50.75 1st Qu.: 74.38 1st Qu.: 9.975
## Median :100.50 Median :100.50 Median :149.75 Median :22.900
## Mean :100.50 Mean :100.50 Mean :147.04 Mean :23.264
## 3rd Qu.:150.25 3rd Qu.:150.25 3rd Qu.:218.82 3rd Qu.:36.525
## Max. :200.00 Max. :200.00 Max. :296.40 Max. :49.600
## Newspaper Web Sales
## Min. : 0.30 Min. : 4.308 Min. : 1.60
## 1st Qu.: 12.75 1st Qu.: 99.049 1st Qu.:10.38
## Median : 25.75 Median :156.862 Median :12.90
## Mean : 30.55 Mean :159.587 Mean :14.02
## 3rd Qu.: 45.10 3rd Qu.:212.312 3rd Qu.:17.40
## Max. :114.00 Max. :358.247 Max. :27.00str(datos)## 'data.frame': 200 obs. of 7 variables:
## $ X.1 : int 1 2 3 4 5 6 7 8 9 10 ...
## $ X : int 1 2 3 4 5 6 7 8 9 10 ...
## $ TV : num 230.1 44.5 17.2 151.5 180.8 ...
## $ Radio : num 37.8 39.3 45.9 41.3 10.8 48.9 32.8 19.6 2.1 2.6 ...
## $ Newspaper: num 69.2 45.1 69.3 58.5 58.4 75 23.5 11.6 1 21.2 ...
## $ Web : num 306.6 302.7 49.5 257.8 195.7 ...
## $ Sales : num 22.1 10.4 9.3 18.5 12.9 7.2 11.8 13.2 4.8 10.6 ...3.3.1 Visualizar la dispersión de los datos
ggplot(datos, aes(x = TV, y = Sales)) +
geom_point(colour = "blue") +
geom_smooth(colour = 'orange', method = lm) +
geom_smooth(colour = 'red') 
Se observa que la relación entre las dos variables no es del todo lineal.
3.4 Construir Datos de entrenamiento y validación
Los datos de entrenamiento son el 70% de los datos originales y los de validación el 30%.
Se siembra una semilla del año en curso 2022 para generar los mismos valores cada vez que se cnstruya el documento markdown.
set.seed(1307)Los datos se particionan usando la función createDataPartition() al 70 % el resultado es vector con los registros que pertenecen a datos de entrenamiento de los datos originales.
datos[entrena, ], son los datos de entrenamiento y
datos[- entrena, ] son los datos de validación.
entrena <- createDataPartition(y = datos$Sales, p = 0.70, list = FALSE, times = 1)
# Datos entrenamiento
datos.entrenamiento <- datos[entrena, ] # [renglones, columna]
# Datos validación
datos.validacion <- datos[-entrena, ]3.4.1 Datos de entrenamiento 70%
Se despliegan los primeros diez registros de los datos de entrenamiento y no deben aparecer en los datos de validación deben ser diferentes unos con otros.
head(datos.entrenamiento, 10)## X.1 X TV Radio Newspaper Web Sales
## 1 1 1 230.1 37.8 69.2 306.6348 22.1
## 2 2 2 44.5 39.3 45.1 302.6531 10.4
## 4 4 4 151.5 41.3 58.5 257.8169 18.5
## 5 5 5 180.8 10.8 58.4 195.6601 12.9
## 6 6 6 8.7 48.9 75.0 22.0724 7.2
## 7 7 7 57.5 32.8 23.5 246.8116 11.8
## 9 9 9 8.6 2.1 1.0 144.6174 4.8
## 12 12 12 214.7 24.0 4.0 164.9718 17.4
## 14 14 14 97.5 7.6 7.2 173.6580 9.7
## 15 15 15 204.1 32.9 46.0 245.7750 19.0paste("Número de observaciones en datos de entrenamiento ", nrow(datos.entrenamiento))## [1] "Número de observaciones en datos de entrenamiento 142"3.4.2 Datos de validación 30%
Se despliegan los primeros diez registros y no deben estar en los datos de entrenamiento
head(datos.validacion, 10)## X.1 X TV Radio Newspaper Web Sales
## 3 3 3 17.2 45.9 69.3 49.49891 9.3
## 8 8 8 120.2 19.6 11.6 229.97146 13.2
## 10 10 10 199.8 2.6 21.2 111.27226 10.6
## 11 11 11 66.1 5.8 24.2 45.35903 8.6
## 13 13 13 23.8 35.1 65.9 87.92109 9.2
## 23 23 23 13.2 15.9 49.6 219.88278 5.6
## 24 24 24 228.3 16.9 26.2 51.17007 15.5
## 26 26 26 262.9 3.5 19.5 160.56286 12.0
## 30 30 30 70.6 16.0 40.8 61.32436 10.5
## 36 36 36 290.7 4.1 8.5 181.98342 12.8paste("Número de observaciones en datos de entrenamiento ", nrow(datos.validacion))## [1] "Número de observaciones en datos de entrenamiento 58"3.5 Modelo de regresión lineal simple
La variable dependiente Sales está en función de la variable independiente TV y se designa con el argumento Formula = Sales ~ TV de los datos (data) de entrenamiento.
modelo.simple <- lm(data = datos.entrenamiento, formula = Sales ~ TV)3.5.1 Resumen del modelo
Generando el resumen del modelo
resumen <- summary(modelo.simple)
resumen##
## Call:
## lm(formula = Sales ~ TV, data = datos.entrenamiento)
##
## Residuals:
## Min 1Q Median 3Q Max
## -8.7665 -1.7495 -0.1978 2.0137 6.9380
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 7.03555 0.52689 13.35 <2e-16 ***
## TV 0.04890 0.00315 15.52 <2e-16 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 3.09 on 140 degrees of freedom
## Multiple R-squared: 0.6325, Adjusted R-squared: 0.6299
## F-statistic: 241 on 1 and 140 DF, p-value: < 2.2e-163.5.2 El valor de los coeficientes a y b
a <- modelo.simple$coefficients[1]
b <- modelo.simple$coefficients[2]
a; b## (Intercept)
## 7.035546## TV
## 0.04890099Los coeficientes tienen un nivel de confianza a 99% (‘***’) por lo que el modelo tiene buenos predictores o al 99% de confianza.
3.5.3 Valor de R Square
El valor de Multiple R-squared es de 0.6466 o del 64.66% por lo que SI SE ACEPTA EL MODELO por encima del 60% como inicialmente se estableció como meta.
resumen$r.squared## [1] 0.63253383.5.4 Predicciones del modelo
Con la función predict() se generan predicciones de los datos de validación.
Las predicciones estarán en función de la fórmula y de los valores de los coeficentes a y b:
\[ Y = a + b \cdot x_i \\ \therefore\\ Y = 6.801923 + 0.05013817 \cdot TV_i \]
predicciones <- predict(object = modelo.simple, newdata = datos.validacion)3.5.4.1 Estimación lineal
ggplot(data = datos.entrenamiento, aes(x = TV, y = Sales)) +
geom_point(colour = "blue") +
geom_line(aes(x = TV, y = modelo.simple$fitted.values, colour = 'red'))
3.5.4.2 Generar tabla comparativa
Se construye una tabla comparativa con los datos de validación y las predicciones generadas para comparar y generar el estadístico rmse.
tabla <- data.frame(TV = datos.validacion$TV, Sales.real = datos.validacion$Sales, Sales.predicciones = predicciones)
tabla## TV Sales.real Sales.predicciones
## 3 17.2 9.3 7.876643
## 8 120.2 13.2 12.913445
## 10 199.8 10.6 16.805964
## 11 66.1 8.6 10.267902
## 13 23.8 9.2 8.199390
## 23 13.2 5.6 7.681039
## 24 228.3 15.5 18.199643
## 26 262.9 12.0 19.891617
## 30 70.6 10.5 10.487956
## 36 290.7 12.8 21.251065
## 38 74.7 14.7 10.688450
## 40 228.0 21.5 18.184972
## 43 293.6 20.7 21.392877
## 49 227.2 14.8 18.145852
## 52 100.4 10.7 11.945206
## 54 182.6 21.2 15.964867
## 57 7.3 5.5 7.392523
## 59 210.8 23.8 17.343875
## 69 237.4 18.9 18.644642
## 70 216.8 22.3 17.637281
## 71 199.1 18.3 16.771734
## 75 213.4 17.0 17.471018
## 77 27.5 6.9 8.380323
## 78 120.5 14.2 12.928116
## 81 76.4 11.8 10.771582
## 83 75.3 11.3 10.717791
## 89 88.3 12.9 11.353504
## 109 13.1 5.3 7.676149
## 110 255.4 19.8 19.524860
## 111 225.8 13.4 18.077390
## 112 241.7 21.8 18.854916
## 113 175.7 14.1 15.627450
## 115 78.2 14.6 10.859604
## 126 87.2 10.6 11.299712
## 127 7.8 6.6 7.416974
## 128 80.2 8.8 10.957406
## 129 220.3 24.7 17.808435
## 130 59.6 9.7 9.950045
## 131 0.7 1.6 7.069777
## 132 265.2 12.7 20.004089
## 146 140.3 10.3 13.896355
## 147 240.1 13.2 18.776674
## 148 243.2 25.4 18.928267
## 153 197.6 16.6 16.698382
## 159 11.7 7.3 7.607688
## 160 131.7 12.9 13.475807
## 161 172.5 14.4 15.470967
## 166 234.5 11.9 18.502829
## 169 215.4 17.1 17.568820
## 171 50.0 8.4 9.480596
## 175 222.4 11.5 17.911127
## 177 248.4 20.2 19.182553
## 181 156.6 10.5 14.693441
## 184 287.6 26.2 21.099472
## 185 253.8 17.6 19.446618
## 189 286.0 15.9 21.021230
## 190 18.7 6.7 7.949994
## 191 39.5 10.8 8.9671353.5.4.3 Evaluar predicciones con rmse
Se determina la variación de los valores reales contra las predicciones por medio del estadístico rmse (Root Mean Stándar Error) que servirá para compararse con otro modelo concluyendo que en el que tenga menor error es mas eficiente el modelo.
rmse Root Mean Stándar Error, este valor normalmente se compara contra otro modelo y el que esté mas cerca de cero es mejor.
RMSE es una forma útil de ver qué tan bien un modelo de regresión puede ajustarse a un conjunto de datos.
Cuanto mayor sea el rmse, mayor será la diferencia entre los valores predichos y reales, lo que significa que peor se ajusta un modelo de regresión a los datos. Por el contrario, cuanto más pequeño sea el rmse, mejor podrá un modelo ajustar los datos.
\[ rmse = \sqrt{\frac{\sum(predicho_i - real_i)^{2}}{n}} \]
Se obtiene la métrica con la función rmse() de la librería Metrics previamente argada.
rmse.lineal <- rmse(actual = tabla$Sales.real, predicted = tabla$Sales.predicciones)
rmse.lineal## [1] 3.659362El valor de rmse es de: 3.6593622 y habrá que compararse con otro modelo que se haya construído con los mismos datos y las mismas variables, ejemplo modelos de regresión polinomial.
3.6 Modelo de regresión polinomial de segundo nivel
La variable dependiente Sales está en función de la variable independiente TV y se designa con el argumento Formula = Sales ~ TV de los datos (data) de entrenamiento pero en función de elevar al cuadrado el valor del coeficiente TV.
\[ Y = \beta0 + \beta_1\cdot x_i+\beta_2\cdot x_i^2 + ... \beta_n \cdot x_i^n \]
3.6.1 Usando argumento Poly
modelo.poly2 <- lm(data = datos.entrenamiento, formula = Sales ~ poly(x = TV, degree = 2, raw = TRUE))3.6.2 Usando argumento I
modelo.poly2.I <- lm(Sales ~ TV + I(x = TV ^ 2), data = datos.entrenamiento)3.6.3 Resumen del modelo
Generando el resumen del modelo
resumen <- summary(modelo.poly2)
resumen##
## Call:
## lm(formula = Sales ~ poly(x = TV, degree = 2, raw = TRUE), data = datos.entrenamiento)
##
## Residuals:
## Min 1Q Median 3Q Max
## -8.3817 -1.8406 -0.1139 2.0609 6.8105
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 6.522e+00 7.827e-01 8.333 6.82e-14
## poly(x = TV, degree = 2, raw = TRUE)1 5.938e-02 1.222e-02 4.858 3.15e-06
## poly(x = TV, degree = 2, raw = TRUE)2 -3.621e-05 4.079e-05 -0.888 0.376
##
## (Intercept) ***
## poly(x = TV, degree = 2, raw = TRUE)1 ***
## poly(x = TV, degree = 2, raw = TRUE)2
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 3.093 on 139 degrees of freedom
## Multiple R-squared: 0.6346, Adjusted R-squared: 0.6293
## F-statistic: 120.7 on 2 and 139 DF, p-value: < 2.2e-16Los coeficientes tienen un nivel de confianza a 99% (‘***’) excepto el predictor b2 que tienen un nivel de confianza por debajo del 90%. Sin embargo se aceptan los predictores.
3.6.4 El valor de los coeficientes con modelo Poly
b0 <- modelo.poly2$coefficients[1]
b1 <- modelo.poly2$coefficients[2]
b2 <- modelo.poly2$coefficients[3]
b0; b1; b2## (Intercept)
## 6.522094## poly(x = TV, degree = 2, raw = TRUE)1
## 0.05938431## poly(x = TV, degree = 2, raw = TRUE)2
## -3.620632e-053.6.5 Coeficientes con el modelo I
bI0 <- modelo.poly2$coefficients[1]
bI1 <- modelo.poly2$coefficients[2]
bI2 <- modelo.poly2$coefficients[3]
bI0; bI1; bI2## (Intercept)
## 6.522094## poly(x = TV, degree = 2, raw = TRUE)1
## 0.05938431## poly(x = TV, degree = 2, raw = TRUE)2
## -3.620632e-05Deben ser los mismos valores.
3.6.6 Valor de R Square
El valor de Multiple R-squared es de 0.6299282 o del 62.99% por lo que SI SE ACEPTA EL MODELO por encima del 60% como inicialmente se estableció como meta.
resumen$r.squared## [1] 0.63460493.6.7 Predicciones del modelo
Con la función predict() se generan predicciones de los datos de validación.
Las predicciones estarán en función de la fórmula y de los valores de los coeficentes a y b:
\[ Y = \beta0 + \beta_1\cdot x+\beta_2\cdot x^2 + ... \beta_n \cdot x^n \\ \therefore Y = 6.108493 + 0.06526148 \cdot TV_i + -5.309162e-05 \cdot TV_i^2 \]
predicciones <- predict(object = modelo.poly2, newdata = datos.validacion)3.6.7.1 Curva de estimación
ggplot(data = datos.entrenamiento, aes(x = TV, y = Sales)) +
geom_point(colour = "blue") +
geom_line(aes(x = TV, y = modelo.poly2$fitted.values, colour = 'red'))
3.6.7.2 Generar tabla comparativa
Se construye una tabla comparativa con los datos de validación y las predicciones generadas para comparar y generar el estadístico rmse.
tabla <- data.frame(TV = datos.validacion$TV, Sales.real = datos.validacion$Sales, Sales.predicciones = predicciones)
tabla## TV Sales.real Sales.predicciones
## 3 17.2 9.3 7.532793
## 8 120.2 13.2 13.136978
## 10 199.8 10.6 16.941721
## 11 66.1 8.6 10.289204
## 13 23.8 9.2 7.914932
## 23 13.2 5.6 7.299658
## 24 228.3 15.5 18.192426
## 26 262.9 12.0 19.631778
## 30 70.6 10.5 10.534161
## 36 290.7 12.8 20.725444
## 38 74.7 14.7 10.756067
## 40 228.0 21.5 18.179567
## 43 293.6 20.7 20.836307
## 49 227.2 14.8 18.145245
## 52 100.4 10.7 12.119313
## 54 182.6 21.2 16.158450
## 57 7.3 5.5 6.953670
## 59 210.8 23.8 17.431419
## 69 237.4 18.9 18.579386
## 70 216.8 22.3 17.694834
## 71 199.1 18.3 16.910262
## 75 213.4 17.0 17.545886
## 77 27.5 6.9 8.127782
## 78 120.5 14.2 13.152179
## 81 76.4 11.8 10.847720
## 83 75.3 11.3 10.788439
## 89 88.3 12.9 11.483432
## 109 13.1 5.3 7.293815
## 110 255.4 19.8 19.327139
## 111 225.8 13.4 18.085069
## 112 241.7 21.8 18.760148
## 113 175.7 14.1 15.838210
## 115 78.2 14.6 10.944537
## 126 87.2 10.6 11.425099
## 127 7.8 6.6 6.983089
## 128 80.2 8.8 11.051835
## 129 220.3 24.7 17.847289
## 130 59.6 9.7 9.932788
## 131 0.7 1.6 6.563645
## 132 265.2 12.7 19.724385
## 146 140.3 10.3 14.141024
## 147 240.1 13.2 18.693044
## 148 243.2 25.4 18.822890
## 153 197.6 16.6 16.842730
## 159 11.7 7.3 7.211934
## 160 131.7 12.9 13.715013
## 161 172.5 14.4 15.688523
## 166 234.5 11.9 18.456720
## 169 215.4 17.1 17.633604
## 171 50.0 8.4 9.400794
## 175 222.4 11.5 17.938336
## 177 248.4 20.2 19.039134
## 181 156.6 10.5 14.933769
## 184 287.6 26.2 20.606260
## 185 253.8 17.6 19.261622
## 189 286.0 15.9 20.544474
## 190 18.7 6.7 7.619920
## 191 39.5 10.8 8.8112833.6.7.3 Evaluar predicciones con rmse
Se determina la variación de los valores reales contra las predicciones por medio del estadístico rmse (Root Mean Stándar Error) que servirá para compararse con otro modelo concluyendo que en el que tenga menor error es mas eficiente el modelo.
rmse Root Mean Stándar Error, este valor normalmente se compara contra otro modelo y el que esté mas cerca de cero es mejor.
RMSE es una forma útil de ver qué tan bien un modelo de regresión puede ajustarse a un conjunto de datos.
Cuanto mayor sea el rmse, mayor será la diferencia entre los valores predichos y reales, lo que significa que peor se ajusta un modelo de regresión a los datos. Por el contrario, cuanto más pequeño sea el rmse, mejor podrá un modelo ajustar los datos.
\[ rmse = \sqrt{\frac{\sum(predicho_i - real_i)^{2}}{n}} \]
Se obtiene la métrica con la función rmse() de la librería Metrics previamente argada.
rmse.poly2 <- rmse(actual = tabla$Sales.real, predicted = tabla$Sales.predicciones)
rmse.poly2## [1] 3.602342El valor de rmse es de: 3.6023416 y habrá que compararse con otro modelo que se haya construido con los mismos datos y las mismas variables, ejemplo modelos de regresión polinomial.
3.7 Modelo de regresión polinomial de quinto nivel
La variable dependiente Sales está en función de la variable independiente TV y se designa con el argumento Formula = Sales ~ TV de los datos (data) de entrenamiento pero en función de elevar a la quinta potencia el valor del coeficiente TV.
\[ Y = \beta0 + \beta_1\cdot x_i+\beta_2\cdot x_i^2 + ... \beta_5\cdot x_i^5 \]
3.7.1 Usando argumento Poly
modelo.poly5 <- lm(data = datos.entrenamiento, formula = Sales ~ poly(x = TV, degree = 5, raw = TRUE))3.7.2 Resumen del modelo
Generando el resumen del modelo
resumen <- summary(modelo.poly5)
resumen##
## Call:
## lm(formula = Sales ~ poly(x = TV, degree = 5, raw = TRUE), data = datos.entrenamiento)
##
## Residuals:
## Min 1Q Median 3Q Max
## -8.4308 -1.7888 0.0192 1.8891 6.8395
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 3.909e+00 1.786e+00 2.189 0.0303 *
## poly(x = TV, degree = 5, raw = TRUE)1 2.415e-01 1.198e-01 2.016 0.0458 *
## poly(x = TV, degree = 5, raw = TRUE)2 -3.552e-03 2.442e-03 -1.455 0.1481
## poly(x = TV, degree = 5, raw = TRUE)3 2.866e-05 2.064e-05 1.389 0.1672
## poly(x = TV, degree = 5, raw = TRUE)4 -1.046e-07 7.651e-08 -1.367 0.1739
## poly(x = TV, degree = 5, raw = TRUE)5 1.403e-10 1.029e-10 1.364 0.1749
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 3.083 on 136 degrees of freedom
## Multiple R-squared: 0.6447, Adjusted R-squared: 0.6316
## F-statistic: 49.35 on 5 and 136 DF, p-value: < 2.2e-16Los coeficientes tienen un nivel de confianza por encima del 90% (‘***’) excepto el predictor b5 que tienen un nivel de confianza por debajo del 90%. Sin embargo se aceptan los predictores.
3.7.3 El valor de los coeficientes con modelo Poly
b0 <- modelo.poly5$coefficients[1]
b1 <- modelo.poly5$coefficients[2]
b2 <- modelo.poly5$coefficients[3]
b3 <- modelo.poly5$coefficients[4]
b4 <- modelo.poly5$coefficients[5]
b5 <- modelo.poly5$coefficients[6]
b0; b1; b2; b3; b4; b5## (Intercept)
## 3.908689## poly(x = TV, degree = 5, raw = TRUE)1
## 0.2414631## poly(x = TV, degree = 5, raw = TRUE)2
## -0.003552157## poly(x = TV, degree = 5, raw = TRUE)3
## 2.865633e-05## poly(x = TV, degree = 5, raw = TRUE)4
## -1.045968e-07## poly(x = TV, degree = 5, raw = TRUE)5
## 1.402749e-103.7.4 Valor de R Square
El valor de Multiple R-squared es de 0.6426 o del 64.26% por lo que SI SE ACEPTA EL MODELO por encima del 60% como inicialmente se estableció como meta.
resumen$r.squared## [1] 0.644693.7.5 Predicciones del modelo
Con la función predict() se generan predicciones de los datos de validación.
Las predicciones estarán en función de la fórmula y de los valores de los coeficentes a y b:
\[ Y = \beta0 + \beta_1\cdot x+\beta_2\cdot x^2 \beta_3\cdot x^3+ \beta_4\cdot x^4 + \beta_5\cdot x^5 \\ \therefore \\ Y = 3.200194 + 0.2979779\cdot TV_i + -0.004548809 \cdot TV_i^2 + 3.519913e-05 \cdot TV_i^3 + -1.218158e-07 \cdot TV_i^4 + 1.547874e-10 \cdot TV_i^5 \]
predicciones <- predict(object = modelo.poly5, newdata = datos.validacion)3.7.5.1 Curva de estimación
ggplot(data = datos.entrenamiento, aes(x = TV, y = Sales)) +
geom_point(colour = "blue") +
geom_line(aes(x = TV, y = modelo.poly5$fitted.values, colour = 'red'))
3.7.5.2 Generar tabla comparativa
Se construye una tabla comparativa con los datos de validación y las predicciones generadas para comparar y generar el estadístico rmse.
tabla <- data.frame(TV = datos.validacion$TV, Sales.real = datos.validacion$Sales, Sales.predicciones = predicciones)
tabla## TV Sales.real Sales.predicciones
## 3 17.2 9.3 7.147857
## 8 120.2 13.2 13.062514
## 10 199.8 10.6 16.891844
## 11 66.1 8.6 10.805619
## 13 23.8 9.2 7.997262
## 23 13.2 5.6 6.539863
## 24 228.3 15.5 17.732212
## 26 262.9 12.0 19.085942
## 30 70.6 10.5 10.982250
## 36 290.7 12.8 22.141260
## 38 74.7 14.7 11.138926
## 40 228.0 21.5 17.724057
## 43 293.6 20.7 22.664254
## 49 227.2 14.8 17.702351
## 52 100.4 10.7 12.149846
## 54 182.6 21.2 16.223891
## 57 7.3 5.5 5.492929
## 59 210.8 23.8 17.244857
## 69 237.4 18.9 17.989479
## 70 216.8 22.3 17.418261
## 71 199.1 18.3 16.867536
## 75 213.4 17.0 17.321334
## 77 27.5 6.9 8.400954
## 78 120.5 14.2 13.077355
## 81 76.4 11.8 11.203290
## 83 75.3 11.3 11.161666
## 89 88.3 12.9 11.657380
## 109 13.1 5.3 6.523666
## 110 255.4 19.8 18.666935
## 111 225.8 13.4 17.664466
## 112 241.7 21.8 18.123657
## 113 175.7 14.1 15.915485
## 115 78.2 14.6 11.271305
## 126 87.2 10.6 11.614573
## 127 7.8 6.6 5.589204
## 128 80.2 8.8 11.346910
## 129 220.3 24.7 17.515221
## 130 59.6 9.7 10.534560
## 131 0.7 1.6 4.075982
## 132 265.2 12.7 19.238876
## 146 140.3 10.3 14.102604
## 147 240.1 13.2 18.072363
## 148 243.2 25.4 18.173464
## 153 197.6 16.6 16.814645
## 159 11.7 7.3 6.291520
## 160 131.7 12.9 13.648323
## 161 172.5 14.4 15.765419
## 166 234.5 11.9 17.904583
## 169 215.4 17.1 17.378729
## 171 50.0 8.4 10.073599
## 175 222.4 11.5 17.572465
## 177 248.4 20.2 18.361880
## 181 156.6 10.5 14.967798
## 184 287.6 26.2 21.635396
## 185 253.8 17.6 18.590926
## 189 286.0 15.9 21.394380
## 190 18.7 6.7 7.356815
## 191 39.5 10.8 9.4291753.7.5.3 Evaluar predicciones con rmse
Se determina la variación de los valores reales contra las predicciones por medio del estadístico rmse (Root Mean Stándar Error) que servirá para compararse con otro modelo concluyendo que en el que tenga menor error es mas eficiente el modelo.
rmse Root Mean Stándar Error, este valor normalmente se compara contra otro modelo y el que esté mas cerca de cero es mejor.
RMSE es una forma útil de ver qué tan bien un modelo de regresión puede ajustarse a un conjunto de datos.
Cuanto mayor sea el rmse, mayor será la diferencia entre los valores predichos y reales, lo que significa que peor se ajusta un modelo de regresión a los datos. Por el contrario, cuanto más pequeño sea el rmse, mejor podrá un modelo ajustar los datos.
\[ rmse = \sqrt{\frac{\sum(predicho_i - real_i)^{2}}{n}} \]
Se obtiene la métrica con la función rmse() de la librería Metrics previamente argada.
rmse.poly5 <- rmse(actual = tabla$Sales.real, predicted = tabla$Sales.predicciones)
rmse.poly5## [1] 3.57529El valor de rmse es de: 3.5752897 y habrá que compararse con otro modelo que se haya construido con los mismos datos y las mismas variables, ejemplo modelos de regresión polinomial.
4 Interpretación
Despues de cambiar la semilla los tres modelos aun mantienen un R Square por encima del 60% por lo que se acepta el modelo conforme a la métrica establecida como estadístico de medición.
Podemos ver en la siguiente tabla que los valores de rmse han cambiado, a difenrencia del original.
La tabla siguiente resume cual modelo es más eficiente dado que tiene menor error de variación rmse = Root Mean Stándar Error.
modelos <- c("Lineal Simple", "Polinomial Segundo nivel", "Polinomial Quinto nivel")
rmse <- c(c(rmse.lineal, rmse.poly2, rmse.poly5))
comparativo.rmse <- data.frame(modelos, rmse)kable(x = comparativo.rmse, caption = "Comparativo con rmse", )| modelos | rmse |
|---|---|
| Lineal Simple | 3.659362 |
| Polinomial Segundo nivel | 3.602342 |
| Polinomial Quinto nivel | 3.575290 |
Ahora que se ha cambiado la semilla el modelo más óptimo en cuanto a la métrica de rmse es Polinomial de quinto nivel con un valor de 3.57~ comparado con los otros dos y que significa que las predicciones tienen menor variación o diferencia con respecto a los valores reales.
Antes de cambiar la semilla el mas bajo era de 3.09241 lo cual es incluso mejor, asi que esta semilla es peor.