3.1.1 Fórmula para correlación de Pearson

$$r = \frac{\sum_{i=1}^{n}(x_i - \bar{x})\cdot(y_i - \bar{y})}{\sqrt{\sum_{i=1}^{n}(x_i - \bar{x})^{2}\cdot\sum_{i=1}^{n}(y_i - \bar{y})^{2}}}$$

El método de Pearson, no es el único método para identificar un correlación lineal, el coeficiente de Pearson se utiliza cuando se deduce que los datos tiene un comportamiento de normalidad (se comportan bajo una distribución normal), principalmente. Se presentan algunas de ellas que son alternativas dependiendo del comportamiento de los datos en cuanto a normalidad, cantidad, outliers (datos atípicos), homogéeneidad, entre otros.

3.1.2 Fórmula para coeficiente de Spearman (Spearman’s rho)

Existen otras alternativa tales como correlación coeficiente de Spearman que se emplea como alternativa cuando los valores son ordinales, o bien, cuando los valores son continuos pero no satisfacen la condición de normalidad;

$$r_{s}=1-\frac{6\sum d_{i}^{2}}{n (n^{2}-1)},$$

Siendo $d_i$ la distancia entre los rangos de cada observación $(xi−yi)$ y $n$ el número de observaciones.

3.1.3 Fórmula para coeficiente Tau de Kendall

Trabaja con rangos, por lo que requiere que las variables cuya relación se quiere estudiar sean ordinales o que se puedan transformar en rangos. Es otra alternativa al Coeficiente de correlación de Pearson cuando no se cumple la condición de normalidad. Parece ser más aconsejable que el coeficiente de Spearman cuando el número de observaciones es pequeño o los valores se acumulan en una región por lo que el número de ligaduras al generar los rangos es alto (Amat Rodrigo 2016).

$$\tau= \frac{C-D}{\frac{1}{2}n(n-1)},$$

Siendo la C el número de pares concordantes, aquellos en los que el rango de la segunda variable es mayor que el rango de la primera variable. D el número de pares discordantes, cuando el rango de la segunda es igual o menor que el rango de la primera variable.

Tau $T$ como coeficiente, representa una probabilidad; es decir, es la diferencia entre la probabilidad de que las dos variables estén en el mismo orden (ordinalidad) en los datos observados versus la probabilidad de que las dos variables estén en diferentes órdenes (Amat Rodrigo 2016).

3.1.4 Fórmula de correlación de Jackknife

El coeficiente de correlación de Pearson resulta efectivo en ámbitos muy diversos. Sin embargo, tiene la desventaja de no ser robusto frente a outliers a pesar de que se cumpla la condición de normalidad (Amat Rodrigo 2016).

Si dos variables están altamente correlacionadas excepto para una observación en la que los valores son muy dispares atípicos, entonces la correlación existente quedará expuesta. Una forma de evitarlo es recurrir al coeficiente de Jackknife correlation que consiste en calcular todos los posibles coeficientes de correlación entre dos variables si se excluye cada vez una de las observaciones. El promedio de todas las Jackknife correlations calculadas atenuará en cierta medida el efecto del outlier (Amat Rodrigo 2016).

$$\bar{\theta}_{(A,B)} = \text{Promedio Jackknife correlation (A,B)} = \frac{1}{n}\cdot \sum_{i=1}^n \cdot\hat r_i$$

Donde $n$ es el número de observaciones y $\hat r_i$ es el coeficiente de correlación de Pearson estimado entre las variables A y B, habiendo excluido la observación $_i$

Para estos ejercicios se antepone el hecho de que los datos tienen normalidad sin atípicos por lo que se utilizará e interpretará sólamente el coeficiente de correlación de Pearson.

Si se tuviera que determinar manualmente el coeficiente de correlación de Pearson $r$ con los datos sería:

Con cbind() se agregan columnas a un data.frame(), con rbind() se agregan reglones a un data.frame() y con apply() se calculan los totales por cada columna de acuerdo los parámetros que se le indique.

tabla <- datos
tabla <- cbind(datos, datos$x-mean(datos$x),  datos$y-mean(datos$y), (datos$x-mean(datos$x)) * (datos$y-mean(datos$y)))

tabla <- cbind(tabla, (datos$x - mean(datos$x))^2, (datos$y - mean(datos$y))^2)
#tabla
names(tabla) <- c('i', 'x', 'y','(x-mx)', '(y-my)',  '(xi-mx)*(y-my)', '(xi-mx)^2', '(yi-my)^2')

sumas <- apply(X = tabla, 2, FUN = sum)

tabla <- rbind(tabla, sumas)

tabla[nrow(tabla), 1] <- '*'
kable(tabla, caption = paste("Coeficiente de Correlación", "media de x:",mean(datos$x), "media de y", mean(datos$y)))

$$r = \frac{\sum_{i=1}^{n}(x_i - \bar{x})\cdot(y_i - \bar{y})}{\sqrt{\sum_{i=1}^{n}(x_i - \bar{x})^{2}\cdot\sum_{i=1}^{n}(y_i - \bar{y})^{2}}} = \frac{2840}{\sqrt{568 \times 15730}} = \frac{2840}{2989.087}=0.950123$$

numerador <- sum((datos$x - mean(datos$x)) * (datos$y - mean(datos$y)))
                 
numerador

## [1] 2840

denominador <- sqrt(sum((datos$x - mean(datos$x))^2) *  sum((datos$y - mean(datos$y))^2))
denominador

## [1] 2989.087

correla <- numerador / denominador 
correla

## [1] 0.950123

En lenguaje de programación R, existe la función cor() que devuelve el valor de la correlación entre dos variables cuantitativas y debe salir el mismo valor.

correla <- cor(datos$x, datos$y)
correla

## [1] 0.950123

# o 

pairs(x = datos[,2:3])

Puede verse mas amigable con la función chart.Correlation de la librería PerformanceAnalytics que previamente se cargó.

chart.Correlation(R = datos[,2:3], histogram = F, pch = 19)

La imagen anterior visualiza el tipo de relación lineal, el valor del coeficiente de correlación de Pearson y con los asteriscos ‘***’ indica si la variable independiente es estadísticamente significativa con respecto a la variable dependiente.

Se entiende que es una correlación lineal positiva muy fuerte

Siendo $r$ el valor del coeficiente de correlación. La correlación de Pearson funciona bien con variables cuantitativas que tienen una distribución normal .

La idea básica del análisis de correlación es identificar la asociación entre dos variables; por lo general, se puede describir la relación graficando o elaborando un diagrama de dispersión entre $x$ y $y$.

3.2.1 Mínimos cuadrados

Para estimar la recta de regresión se utiliza la fórmula de mínimos cuadrados. A la variable dependiente o respuesta se le identifica como $Y$ y a la variable predictora o independiente como $X$

$$\hat{y} = \hat{\beta}_0 + \hat{\beta}_1x$$

ó

$$Y = a + bx$$

en donde:

$\hat{y} \text{ o }Y$ es igual al valor de la predicción, $\hat{\beta}_0 \text{ o }a$ es el coeficiente de la intersección de recta estimada con el eje de las $y$, $\hat{\beta}_1 \text{ o }b$ es el valor de la pendiente y $x$ es cada valor de la variable independiente.

¿cómo determinar los coeficientes a y b?

$$b=\hat{\beta}_1 = \frac{\sum^n_{i=1}(x_i - \overline{x})(y_i - \overline{y})}{\sum^n_{i=1}(x_i - \overline{x})^2} =\frac{Sy}{Sx}\times{r}$$

Se requieren las medias de las variables $x$ y $y$, es decir $\bar{x}$ y $\bar{y}$ , y desarrollar la fórmula.

Entonces $b$ se obtiene con la sumatoria de la diferencia de cada valor de $x$ menos su media $\bar{x}$multiplicada por la diferencia de cada valor de $y$ menos su media $\bar{y}$ todo el resultado dividido entre la sumatoria del cuadrado de la diferencia de cada valor de $x$ menos su media $\bar{x}$, y con ello se obtiene $b$ o $\hat{b1}$

De manera alternativa el coeficiente o la pendiente $b$ se puede determinar multiplicando el valor del coeficiente de correlación determinado previamente multiplicado por la división de la desviación estándar $Sy$ de la variable dependiente $y$ entre la desviación estándar $Sx$ de la variable independiente $x$, es decir: $r \times \frac{Sy}{Sx}$

y

$$a = \hat{\beta}_0 = \overline{y} - \hat{\beta}_1\overline{x}$$

Determinando los coeficientes de a y b aplicando la fórmula:

$$b=\hat{\beta}_1 = \frac{\sum^n_{i=1}(x_i - \overline{x})(y_i - \overline{y})}{\sum^n_{i=1}(x_i - \overline{x})^2}$$

b <-  sum((datos$x - mean(datos$x)) * (datos$y - mean(datos$y))) / sum((datos$x - mean(datos$x))^2)
b 

## [1] 5

a = mean(datos$y) - b * mean(x)
a

## [1] 60

Determinando los coeficientes de a y b aplicando las fórmula determinando b usando el coeficiente de correlación

b = correla * sd(datos$y) / sd(datos$x)
b

## [1] 5

a = mean(datos$y) - b * mean(x)
a

## [1] 60

En ambos casos se debe generar los mismos valores para los coeficientes aa y bb o bb y aa respectivamente.

Toda vez que se tienen los coeficientes a y b ya se puede determinar la recta de regresión para cada valor de $x$.

Por ejemplo: para un valor de $xi=1$ el valor de $Y=a+bx_1= 65$ para un valor de un valor de $x_i=2$ el valor de $Y=a+bx_2= 70$ y para un valor de un valor de $x_i=50$ el valor de $Y=a+bx_{50} =310$ y así sucesivamente.

Aquí los valores predecidos de $y$ por cada valor de la variable independiente $x$.

A estos valores se les llama también valores de la recta o valores ajustados.

Se presentan los valores de predicción para cada valor de $x$

datos$x

##  [1]  2  6  8  8 12 16 20 20 22 26

Y = a + b*(datos$x)
Y

##  [1]  70  90 100 100 120 140 160 160 170 190

3.2.2 Diagrama de dispersión y recta de regresión

Con estos valores ya se puede dibujar la recta en el diagrama de dispersión.

ggplot(data = datos, aes(x=x, y=y))   +
  geom_point(colour='blue') +
  geom_line(aes(x = x, y = Y), color = "red") +
  xlab("Estudiantes") + 
  ylab("Ventas") + 
  ggtitle("Linea de tendencia sobre datos")

3.3.1 Construir el modelo

Un modelo de regresión lineal es la aplicación de la fórmula a partir de la historia de los datos, en don de participan las variables independientes $x$ y la variable dependiente $y$. La función lm() del paquete base de R, ya genera los estadísticos necesarios para interpretar una regresión lineal simple.

Hay por lo menos dos argumentos necesarios que se incorporan en la función lm(): el origen de los datos o sea data = datos y la fórmula formula = y~x, que indica que la variable $y$ es regresiva en función de la variable $x$ o $y$ depende de $x$.

El resultado de la función lm() se almacena en una variable llamada modelo (puede tener cualquier nombre válido de R).

En la variable modelo, se encuentran los estadísticos necesarios para su interpretación. Se utiliza la función summary() alojado en la variable sm para mostrarlos.

modelo <- lm(data = datos, formula = y~x)
sm <- summary(modelo) 
sm

## 
## Call:
## lm(formula = y ~ x, data = datos)
## 
## Residuals:
##    Min     1Q Median     3Q    Max 
## -21.00  -9.75  -3.00  11.25  18.00 
## 
## Coefficients:
##             Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  60.0000     9.2260   6.503 0.000187 ***
## x             5.0000     0.5803   8.617 2.55e-05 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 13.83 on 8 degrees of freedom
## Multiple R-squared:  0.9027, Adjusted R-squared:  0.8906 
## F-statistic: 74.25 on 1 and 8 DF,  p-value: 2.549e-05

A este momento hay que interpretar dos cosas:

modelo$coefficients

## (Intercept)           x 
##          60           5

a <- modelo$coefficients[1]
b <- modelo$coefficients[2]

modelo$fitted.values

##   1   2   3   4   5   6   7   8   9  10 
##  70  90 100 100 120 140 160 160 170 190

ggplot(data = datos, aes(x=x, y=y))   +
  geom_point(colour='blue') +
  geom_line(aes(x = x, y = modelo$fitted.values), color = "red") +
  xlab("Estudiantes") + 
  ylab("Ventas") + 
  ggtitle("Linea de tendencia sobre datos")

modelo$residuals

##   1   2   3   4   5   6   7   8   9  10 
## -12  15 -12  18  -3  -3  -3   9 -21  12

tabla2 <- datos[,c(2,3)]
tabla2 <- cbind(tabla2, Y)
tabla2 <- cbind(tabla2, Y - datos$y)
tabla2 <- cbind(tabla2, (Y - datos$y)^2)

tabla2 <- cbind(tabla2, datos$y - mean(datos$y))
tabla2 <- cbind(tabla2, (datos$y-mean(datos$y))^2)


names(tabla2) <- c('x', 'y', 'Y', '(Y-y)', '(Y-y)^2', '(y-media(y))', '(y-media(y))^2')
sumas <- apply(tabla2, 2, sum)
tabla2 <- rbind(tabla2, sumas)

kable (tabla2, caption = "Sumatorias para determinar coeficiente de determinación R-Square")

numerador <- sum((Y - datos$y)^2)
denominador <- sum((datos$y - mean(datos$y))^2)

numerador

## [1] 1530

denominador

## [1] 15730

r.cuad <- numerador / denominador
r.cuad

## [1] 0.09726637

sm$r.squared

## [1] 0.9027336

correla^2

## [1] 0.9027336

sqrt(sm$r.squared)

## [1] 0.950123

estudiantes <- c(28, 36, 57)

predict(object = modelo, newdata = data.frame(x=estudiantes))

##   1   2   3 
## 200 240 345

4.1.1 Datos

datos <- women

names(datos) <- c('estatura', 'peso')
datos

##    estatura peso
## 1        58  115
## 2        59  117
## 3        60  120
## 4        61  123
## 5        62  126
## 6        63  129
## 7        64  132
## 8        65  135
## 9        66  139
## 10       67  142
## 11       68  146
## 12       69  150
## 13       70  154
## 14       71  159
## 15       72  164

kable(x = datos, caption = "Promedios de estalturas y pesos de mujeres Americanas")

4.1.2 Variables

• La variable idependiente será la estatura height.

• La variable dependiente será el peso weight.

4.1.3 Gráfico de dispersión

ggplot(data = datos, aes(x=estatura, y=peso))   +
  geom_point(colour='blue') +
  xlab("Estaturas") + 
  ylab("Pesos") + 
  ggtitle("Dispersión de los promedios de alturas y pesos de mujeres Americanas")

Se observa una relación absolutamente lineal, se visualiza el histograma para asegurarse de que las variables se comportan bajo una distribución normal además de no tener datos atípicos por lo que determinar el coeficiente de Pearson es adecuado.

4.1.4 Coeficiente de correlación de Pearson

correla <- cor(datos$estatura, datos$peso)
correla

## [1] 0.9954948

chart.Correlation(R = datos, histogram = T, pch = 19)

Se observa una correlación positiva muy fuerte casi perfecta en los datos.

4.1.5 Modelo de regresión lineal simple

Se construye el modelo con la fórmula peso en función de la estatura de acuerdo a los datos.

modelo <- lm(formula = datos$peso~datos$estatura)
sm <- summary(modelo)
sm

## 
## Call:
## lm(formula = datos$peso ~ datos$estatura)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -1.7333 -1.1333 -0.3833  0.7417  3.1167 
## 
## Coefficients:
##                 Estimate Std. Error t value Pr(>|t|)    
## (Intercept)    -87.51667    5.93694  -14.74 1.71e-09 ***
## datos$estatura   3.45000    0.09114   37.85 1.09e-14 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 1.525 on 13 degrees of freedom
## Multiple R-squared:  0.991,  Adjusted R-squared:  0.9903 
## F-statistic:  1433 on 1 and 13 DF,  p-value: 1.091e-14

4.1.6 Coeficientes a y b

Coeficinte del modelo de regresión lineal simple a y b

a <- modelo$coefficients[1]
b <- modelo$coefficients[2]

La ecuación de mínimos cuadrados es de la siguiente manera:

$$Y = a + bx_i$$

4.1.7 Linea de tendencia

ggplot(data = datos, aes(x=estatura, y=peso))   +
  geom_point(colour='blue') +
  geom_line(aes(x = estatura, y = modelo$fitted.values), color = "red") +
  xlab("Estaturas") + 
  ylab("Pesos") + 
  ggtitle("Linea de tendencia sobre datos")

¿Cuál debiera ser el peso de una persona que mide aproximadamente 60 70 u 80 pulgadas?

nuevas.estaturas <- c(60, 70, 80)
Y = a + b * nuevas.estaturas
Y

## [1] 119.4833 153.9833 188.4833

o se puede predecir mediante la función predict()

predict(object = modelo, newdata = data.frame(estatura = nuevas.estaturas))

## Warning: 'newdata' had 3 rows but variables found have 15 rows

##        1        2        3        4        5        6        7        8 
## 112.5833 116.0333 119.4833 122.9333 126.3833 129.8333 133.2833 136.7333 
##        9       10       11       12       13       14       15 
## 140.1833 143.6333 147.0833 150.5333 153.9833 157.4333 160.8833

# predict(object = modelo, newdata = data.frame(estatura = estaturas))

Interpretación

¿Cuál es el valor de R_Squared y que significa?. 0.991 significa que el peso de las personas es representado en un 99.1% por la estatura de las mismas. Apartir de lo aprendido en este caso, que fueron bastantes cosas las que se vieron, investigaron y los usos que se les puede dar a los conocimientos en una vida, sino bien contifiana, dentro de un entorno de trabajo donde se manejen los datos sería sumamente primordial el aprender de ello. Todos los temas dentro de esta asignatura nos abren muchos más caminos dentro de lo que la probabilidad y estadística se refiere, pues hemos vitos que los resultados de nuestros números y diagnosticos de pareja dependen de muchisimos otros datos más.