Practica 12

R Markdown

This is an R Markdown document. Markdown is a simple formatting syntax for authoring HTML, PDF, and MS Word documents. For more details on using R Markdown see http://rmarkdown.rstudio.com.

When you click the Knit button a document will be generated that includes both content as well as the output of any embedded R code chunks within the document. You can embed an R code chunk like this:

#VERGARA HERNANDEZ JESUS ALEJANDRO
#NUMERO CONTROL: 16040461
#PRACTICA 12
#MATRICULA DE HONOR Y CALIFICACIONES

#OBJETIVOS
#La presente práctica crea modelos de regresión lineal simple y polinomial para comparar y evaluar las características de los modelos en término de regresión. ## Descripcion del Caso Boston Las librerías * MASS: Incluye funciones y varios conjuntos de datos del libro Venables and Ripley, “Modern Applied Statistics with S” * ISLR: Incluye conjuntos de dtos relacionados con el libro ‘An Introduction to Statistical Learning with Applications in R’. * tidyverse: Incluye varios paquetes entre ellos dplyr usando en otras prácticas ggplot: Para gráficos * knitr: Para ver tablas mas amigables en formato html markdown ### Analisis

library(MASS)
library(tidyverse)

## Warning: package 'tidyverse' was built under R version 3.6.3

## -- Attaching packages -------------------------------------------- tidyverse 1.3.0 --

## v ggplot2 3.3.0     v purrr   0.3.3
## v tibble  3.0.0     v dplyr   0.8.5
## v tidyr   1.0.2     v stringr 1.4.0
## v readr   1.3.1     v forcats 0.5.0

## Warning: package 'ggplot2' was built under R version 3.6.3

## Warning: package 'tibble' was built under R version 3.6.3

## Warning: package 'dplyr' was built under R version 3.6.3

## Warning: package 'forcats' was built under R version 3.6.3

## -- Conflicts ----------------------------------------------- tidyverse_conflicts() --
## x dplyr::filter() masks stats::filter()
## x dplyr::lag()    masks stats::lag()
## x dplyr::select() masks MASS::select()

library(ISLR)

## Warning: package 'ISLR' was built under R version 3.6.3

library(ggplot2)
library(knitr)

#CARGAR LOS DATOS
#*Primero se cargan los datos.
#*Segundo se asignan a la ya acostumbrada variable llamada datos.
#*Tercero se visualizan los primeros y los últimos seis registros

data("Boston")
datos <- Boston
kable(head(datos))

crim	zn	indus	nox	rm	age	dis	rad	tax	ptratio	black	lstat	medv
0.00632	18	2.31	0.538	6.575	65.2	4.0900	1	296	15.3	396.90	4.98	24.0
0.02731	0	7.07	0.469	6.421	78.9	4.9671	2	242	17.8	396.90	9.14	21.6
0.02729	0	7.07	0.469	7.185	61.1	4.9671	2	242	17.8	392.83	4.03	34.7
0.03237	0	2.18	0.458	6.998	45.8	6.0622	3	222	18.7	394.63	2.94	33.4
0.06905	0	2.18	0.458	7.147	54.2	6.0622	3	222	18.7	396.90	5.33	36.2
0.02985	0	2.18	0.458	6.430	58.7	6.0622	3	222	18.7	394.12	5.21	28.7

kable(tail(datos))

	crim	indus	nox	rm	age	dis	rad	tax	ptratio	black	lstat	medv
501	0.22438	9.69	0.585	6.027	79.7	2.4982	6	391	19.2	396.90	14.33	16.8
502	0.06263	11.93	0.573	6.593	69.1	2.4786	1	273	21.0	391.99	9.67	22.4
503	0.04527	11.93	0.573	6.120	76.7	2.2875	1	273	21.0	396.90	9.08	20.6
504	0.06076	11.93	0.573	6.976	91.0	2.1675	1	273	21.0	396.90	5.64	23.9
505	0.10959	11.93	0.573	6.794	89.3	2.3889	1	273	21.0	393.45	6.48	22.0
506	0.04741	11.93	0.573	6.030	80.8	2.5050	1	273	21.0	396.90	7.88	11.9

#El diccionario de datos de Boston El conjunto de datos de Boston del paquete MASS recoge la mediana del valor de la vivienda en 506 áreas residenciales de Boston. Junto con el precio (medv), se han registrado 13 variables adicionales. * crim: ratio de criminalidad per cápita de cada ciudad. * zn: Proporción de zonas residenciales con edificaciones de más de 25.000 pies cuadrados. * indus: proporción de zona industrializada. * chas: Si hay río en la ciudad (= 1 si hay río; 0 no hay). * nox: Concentración de óxidos de nitrógeno (partes per 10 millón). * rm: promedio de habitaciones por vivienda. * age: Proporción de viviendas ocupadas por el propietario construidas antes de 1940. * dis: Media ponderada de la distancias a cinco centros de empleo de Boston. * rad: Índice de accesibilidad a las autopistas radiales. * tax: Tasa de impuesto a la propiedad en unidades de $10,000. * ptratio: ratio de alumnos/profesor por ciudad. * black: 1000(Bk - 0.63)^2 donde Bk es la proporción de gente de color por ciudad. * lstat: porcentaje de población en condición de pobreza. * medv: Valor mediano de las casas ocupadas por el dueño en unidades de $1000s. (precio)

str(datos)

## 'data.frame':    506 obs. of  14 variables:
##  $ crim   : num  0.00632 0.02731 0.02729 0.03237 0.06905 ...
##  $ zn     : num  18 0 0 0 0 0 12.5 12.5 12.5 12.5 ...
##  $ indus  : num  2.31 7.07 7.07 2.18 2.18 2.18 7.87 7.87 7.87 7.87 ...
##  $ chas   : int  0 0 0 0 0 0 0 0 0 0 ...
##  $ nox    : num  0.538 0.469 0.469 0.458 0.458 0.458 0.524 0.524 0.524 0.524 ...
##  $ rm     : num  6.58 6.42 7.18 7 7.15 ...
##  $ age    : num  65.2 78.9 61.1 45.8 54.2 58.7 66.6 96.1 100 85.9 ...
##  $ dis    : num  4.09 4.97 4.97 6.06 6.06 ...
##  $ rad    : int  1 2 2 3 3 3 5 5 5 5 ...
##  $ tax    : num  296 242 242 222 222 222 311 311 311 311 ...
##  $ ptratio: num  15.3 17.8 17.8 18.7 18.7 18.7 15.2 15.2 15.2 15.2 ...
##  $ black  : num  397 397 393 395 397 ...
##  $ lstat  : num  4.98 9.14 4.03 2.94 5.33 ...
##  $ medv   : num  24 21.6 34.7 33.4 36.2 28.7 22.9 27.1 16.5 18.9 ...

summary(datos)

##       crim                zn             indus            chas        
##  Min.   : 0.00632   Min.   :  0.00   Min.   : 0.46   Min.   :0.00000  
##  1st Qu.: 0.08204   1st Qu.:  0.00   1st Qu.: 5.19   1st Qu.:0.00000  
##  Median : 0.25651   Median :  0.00   Median : 9.69   Median :0.00000  
##  Mean   : 3.61352   Mean   : 11.36   Mean   :11.14   Mean   :0.06917  
##  3rd Qu.: 3.67708   3rd Qu.: 12.50   3rd Qu.:18.10   3rd Qu.:0.00000  
##  Max.   :88.97620   Max.   :100.00   Max.   :27.74   Max.   :1.00000  
##       nox               rm             age              dis        
##  Min.   :0.3850   Min.   :3.561   Min.   :  2.90   Min.   : 1.130  
##  1st Qu.:0.4490   1st Qu.:5.886   1st Qu.: 45.02   1st Qu.: 2.100  
##  Median :0.5380   Median :6.208   Median : 77.50   Median : 3.207  
##  Mean   :0.5547   Mean   :6.285   Mean   : 68.57   Mean   : 3.795  
##  3rd Qu.:0.6240   3rd Qu.:6.623   3rd Qu.: 94.08   3rd Qu.: 5.188  
##  Max.   :0.8710   Max.   :8.780   Max.   :100.00   Max.   :12.127  
##       rad              tax           ptratio          black       
##  Min.   : 1.000   Min.   :187.0   Min.   :12.60   Min.   :  0.32  
##  1st Qu.: 4.000   1st Qu.:279.0   1st Qu.:17.40   1st Qu.:375.38  
##  Median : 5.000   Median :330.0   Median :19.05   Median :391.44  
##  Mean   : 9.549   Mean   :408.2   Mean   :18.46   Mean   :356.67  
##  3rd Qu.:24.000   3rd Qu.:666.0   3rd Qu.:20.20   3rd Qu.:396.23  
##  Max.   :24.000   Max.   :711.0   Max.   :22.00   Max.   :396.90  
##      lstat            medv      
##  Min.   : 1.73   Min.   : 5.00  
##  1st Qu.: 6.95   1st Qu.:17.02  
##  Median :11.36   Median :21.20  
##  Mean   :12.65   Mean   :22.53  
##  3rd Qu.:16.95   3rd Qu.:25.00  
##  Max.   :37.97   Max.   :50.00

####Regresión Lineal Simple Hay que recordar que la regresión lineal simple son métodos estadísticos que estudian la relación lineal existente entre dos variables.

#Se utilizarán dos variables únicamente: * lstat: porcentaje de población en condición de pobreza como variable predictora, explicativa o independiente. * medv: Valor mediano de las casas ocupadas por el dueño en unidades de $1000s. (es el precio medio) como variable dependiente o de respuesta.

###Visualizando los datos ggplot() Se dibuja el diagrama de dispersión en donde en el eje de las X está la variable lstat y en el ejede als Ys está la variable medv Parece una relación del tipo lineal negativa

ggplot(data = datos, aes(x=lstat, y = medv)) +
  geom_point() +
  geom_smooth(color = 'red')

## `geom_smooth()` using method = 'loess' and formula 'y ~ x'

#valor de correlación entre entre las dos variables

#Se obtiene un valor de -0.7376627 que significa una correlación negativa de media a considerable.
#− 0.75 = Correlación negativa considerable.

#− 0.50 = Correlación negativa media. ion.num es un valor numérico del factor education por lo que se analiza en las variables tipo factor mas adelante

cor(datos$lstat, datos$medv)

## [1] -0.7376627

###Modelo de Regresión Lineal Simple Se utiliza la variable modelo ya acostumbrada.

modelo <- lm(data = datos,formula = medv~lstat)

###Características del modelo Tomando como referencia el valor de t-value de la lstat es de <2e-16 ***, se establece que si existe una relación significativa entre las dos variables y se descarta la hipótesis nula de que no hay relación.

#Por otra parte con el valor de 0.5441 tomado de Multiple R-squared significa que la variable predictiva (lstat) explica el 54.41% de la variabilidad del precio medio (medv)

summary(modelo)

## 
## Call:
## lm(formula = medv ~ lstat, data = datos)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -15.168  -3.990  -1.318   2.034  24.500 
## 
## Coefficients:
##             Estimate Std. Error t value Pr(>|t|)    
## (Intercept) 34.55384    0.56263   61.41   <2e-16 ***
## lstat       -0.95005    0.03873  -24.53   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 6.216 on 504 degrees of freedom
## Multiple R-squared:  0.5441, Adjusted R-squared:  0.5432 
## F-statistic: 601.6 on 1 and 504 DF,  p-value: < 2.2e-16

###Linea de tendencia Se determina la linea de tendencia de la dispersión de los datos.

#La linea de tendencia son las predicciones y estimaciones por default generadas por el modelo.

#Se observa que la relación no es del todo lineal.

ggplot() + geom_point(data = datos, aes(x = lstat, y = medv)) +
  geom_line(aes( x = datos$lstat, y = predict(modelo, datos)), color = "red")

#especial de la Regresión Lineal, enriquece el modelo lineal al aumentar predictores adicionales, obtenidos al elevar cada uno de los predictores originales a una potencia. Por ejemplo, una regresión cúbica utiliza tres variables, como predictores. Este enfoque proporciona una forma sencilla de proporcionar un ajuste no lineal a los datos.

#El método estándar para extender la Regresión Lineal a una relación no lineal entre las variables dependientes e independientes, ha sido reemplazar el modelo lineal con una función polinomial. https://ligdigonzalez.com/algoritmo-regresion-polinomial-machine-learning/

#En los siguientes puntos se hace el modelo de regresión polinomial con las mismas variables y se compara con el modelo de regresión lineal simple.

#Cuando se intenta predecir el valor de la vivienda en función del estatus de la población, el modelo lineal generado no se ajusta del todo bien debido a que las observaciones muestran una relación entre ambas variables con cierta curvatura.

###Modelo de Regresión Polinomal Cuadrática Se utiliza la variable modelo.pol para diferenciarlos del modelo anterior. Se eleva al cuadrado la variable lstat entendiéndose que es una función cuadrática o elevada al cuadrado

modelo.pol2 <- lm(formula = medv ~ poly(lstat, 2), data = datos)

###Características del modelo Se observan las características de éste modelo

summary(modelo.pol2)

## 
## Call:
## lm(formula = medv ~ poly(lstat, 2), data = datos)
## 
## Residuals:
##      Min       1Q   Median       3Q      Max 
## -15.2834  -3.8313  -0.5295   2.3095  25.4148 
## 
## Coefficients:
##                  Estimate Std. Error t value Pr(>|t|)    
## (Intercept)       22.5328     0.2456   91.76   <2e-16 ***
## poly(lstat, 2)1 -152.4595     5.5237  -27.60   <2e-16 ***
## poly(lstat, 2)2   64.2272     5.5237   11.63   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 5.524 on 503 degrees of freedom
## Multiple R-squared:  0.6407, Adjusted R-squared:  0.6393 
## F-statistic: 448.5 on 2 and 503 DF,  p-value: < 2.2e-16

###Visualizando gráfica del modelo de Regresión Polinomial Cuadrática attach(datos) significa que al llamar las variables por su nobre de manera directa se entiende que pertenecen al conjunto de datos llamado datos.

##Se observa visualmente un mejor ajuste del modelo polinomial a los datos con respecto al modelo lineal.

###Con las funciones plot() y points()

attach(datos)
plot(x = lstat, y = medv, main = "medv vs lstat", pch = 20, col = "grey30")
points(lstat, fitted(modelo.pol2), col = 'red', pch = 20)

ggplot() + geom_point(data = datos, aes(x = lstat, y = medv)) + geom_line(aes( x = datos$lstat, y = predict(modelo.pol2, datos)), color = "red")

#hora de comparar dos modelos se pueden evaluar sus R2. En este caso el modelo cuadrático es capaz de explicar un 64% de variabilidad frente al 54% del modelo lineal.

#Cuando se comparan dos modelos anidados (el modelo de menor tamaño está formado por un subconjunto de predictores del modelo mayor), se puede saber si el modelo mayor aporta una mejora sustancial estudiando si los coeficientes de regresión de los predictores adicionales son distintos a cero. https://rpubs.com/Joaquin_AR/254575

#¿Qué sucede si hacemos el modelo elevado a la quinta potencia?

###Modelo de Regresión Polinomial a la Quinta Potencia Se utiliza la variable modelo.pol5 para diferenciarlos del modelo anterior. Se eleva a la quinta la variable lstat entendiéndose que es una función elevada a la quinta potencia.

modelo.pol5 <- lm(formula = medv ~ poly(lstat, 5), data = datos)

#Características del modelo Se observan las características de éste modelo

#Aumenta a Multiple R-squared: en 0.6817 o se explica el 68.17 % la variable de respuesta.

summary(modelo.pol5)

## 
## Call:
## lm(formula = medv ~ poly(lstat, 5), data = datos)
## 
## Residuals:
##      Min       1Q   Median       3Q      Max 
## -13.5433  -3.1039  -0.7052   2.0844  27.1153 
## 
## Coefficients:
##                  Estimate Std. Error t value Pr(>|t|)    
## (Intercept)       22.5328     0.2318  97.197  < 2e-16 ***
## poly(lstat, 5)1 -152.4595     5.2148 -29.236  < 2e-16 ***
## poly(lstat, 5)2   64.2272     5.2148  12.316  < 2e-16 ***
## poly(lstat, 5)3  -27.0511     5.2148  -5.187 3.10e-07 ***
## poly(lstat, 5)4   25.4517     5.2148   4.881 1.42e-06 ***
## poly(lstat, 5)5  -19.2524     5.2148  -3.692 0.000247 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 5.215 on 500 degrees of freedom
## Multiple R-squared:  0.6817, Adjusted R-squared:  0.6785 
## F-statistic: 214.2 on 5 and 500 DF,  p-value: < 2.2e-16

###Graficando con la función ggplot() Se observa todavía un mejor ajuste

ggplot() + geom_point(data = datos, aes(x = lstat, y = medv)) + geom_line(aes( x = datos$lstat, y = predict(modelo.pol5, datos)), color = "red")

#elevado a la décima potencia? ### Modelo de Regresión Polinomial a la Décima Potencia Se utiliza la variable modelo.pol10 para diferenciarlos del modelo anterior. Se eleva a la décima potencia la variable lstat entendiéndose que es una función elevada a la décima potencia.

modelo.pol10 <- lm(formula = medv ~ poly(lstat, 10), data = datos)

###Características del modelo Se observan las características de éste modelo

#Aumenta a Multiple R-squared: en 0.6867 o se explica el 68.67 % la variable de respuesta

summary(modelo.pol10)

## 
## Call:
## lm(formula = medv ~ poly(lstat, 10), data = datos)
## 
## Residuals:
##      Min       1Q   Median       3Q      Max 
## -14.5340  -3.0286  -0.7507   2.0437  26.4738 
## 
## Coefficients:
##                    Estimate Std. Error t value Pr(>|t|)    
## (Intercept)         22.5328     0.2311  97.488  < 2e-16 ***
## poly(lstat, 10)1  -152.4595     5.1993 -29.323  < 2e-16 ***
## poly(lstat, 10)2    64.2272     5.1993  12.353  < 2e-16 ***
## poly(lstat, 10)3   -27.0511     5.1993  -5.203 2.88e-07 ***
## poly(lstat, 10)4    25.4517     5.1993   4.895 1.33e-06 ***
## poly(lstat, 10)5   -19.2524     5.1993  -3.703 0.000237 ***
## poly(lstat, 10)6     6.5088     5.1993   1.252 0.211211    
## poly(lstat, 10)7     1.9416     5.1993   0.373 0.708977    
## poly(lstat, 10)8    -6.7299     5.1993  -1.294 0.196133    
## poly(lstat, 10)9     8.4168     5.1993   1.619 0.106116    
## poly(lstat, 10)10   -7.3351     5.1993  -1.411 0.158930    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 5.199 on 495 degrees of freedom
## Multiple R-squared:  0.6867, Adjusted R-squared:  0.6804 
## F-statistic: 108.5 on 10 and 495 DF,  p-value: < 2.2e-16

###Graficando con la función ggplot() Se observa todavía un mejor ajuste

ggplot() + geom_point(data = datos, aes(x = lstat, y = medv)) + geom_line(aes( x = datos$lstat, y = predict(modelo.pol10, datos)), color = "red")

#La practica muestra que para utilizar de manera optima los modelos de regresion lstat y medv Observando el modelo de regresión lineal resulta un valor de -0.7376627 indicando una correlación negativa.

#El Modelo de Regresión Polinomial mostro mejores resultados al elevar el exponencial obteniendo

#CUADRÁTICA tiene 64.07% variable de respuesta

#QUINTA POTENCIA tiene 68.17% variable de respuesta

#DÉCIMA POTENCIA tiene de 68.67% variable de respuesta

#Los datos con ggplot2 vimos que hay una Correlación negativa considerable (-0.7376627) entre estas dos variables.

Practica 12

16040461

12/5/2020

R Markdown

Including Plots