Last Assignment

Opening of the libraries

library(car)
library(lmtest)

Dateset Import

rm(list=ls())
adot <- read.csv2("Bank Customer Churn Prediction.csv", header=TRUE,sep=",",dec=".")
head(adot)

We want the date just for France

adot <- adot[adot$country=="France",]
adot

We want to choose just some of the coloumns

adot <- adot[,c("age","balance","estimated_salary","churn")]

adot <- na.omit(adot)

Making some basic descriptive statistics

summary(adot)

      age           balance       estimated_salary        churn       
 Min.   :18.00   Min.   :     0   Min.   :    90.07   Min.   :0.0000  
 1st Qu.:31.00   1st Qu.:     0   1st Qu.: 51399.19   1st Qu.:0.0000  
 Median :37.00   Median : 62154   Median : 99132.31   Median :0.0000  
 Mean   :38.51   Mean   : 62093   Mean   : 99899.18   Mean   :0.1615  
 3rd Qu.:43.00   3rd Qu.:121445   3rd Qu.:149295.36   3rd Qu.:0.0000  
 Max.   :92.00   Max.   :238388   Max.   :199929.17   Max.   :1.0000  

Hodnotenie: Vek klientov sa pohybuje od 18 do 92 rokov, priemerný vek je 38,51 rokov. Medián je 37 rokov, čo je blízko priemeru, takže vekové rozloženie je v podstate symetrické. Zostatok na účte vykazuje veľký rozptyl s minimálnou hodnotou a prvým kvartilom 0, čo znamená, že veľa klientov nemá žiadny zostatok. Hodnoty priemeru a mediánu sú blízko seba. Hodnoty odhadovaného platu sa pohybujú v širokom rozpätí, pričom priemerný plat je 99 899,18. Hodnoty mediánu a priemeru sú blízko seba, čo naznačuje symetrické rozdelenie. Z údajov vyplýva, že 16,15 % klientov má tendenciu zmeniť banku. Hodnoty mediánu a prvého a tretieho kvartilu sú rovné 0, čo naznačuje, že väčšina zákazníkov neprejavuje tendenciu opustiť banku. Rozdelenie je veľmi skreslené, keďže väčšina hodnôt je 0.

Running the OLS (Ordinary Least Squares) regression

attach(adot)
result <-lm(balance ~ age + estimated_salary, data = adot)
summary(result)

Call:
lm(formula = balance ~ age + estimated_salary, data = adot)

Residuals:
   Min     1Q Median     3Q    Max 
-63621 -62034    -91  59369 175770 

Coefficients:
                   Estimate Std. Error t value Pr(>|t|)    
(Intercept)       6.100e+04  3.822e+03  15.959   <2e-16 ***
age              -8.364e+00  8.654e+01  -0.097    0.923    
estimated_salary  1.414e-02  1.580e-02   0.895    0.371    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 64140 on 5011 degrees of freedom
Multiple R-squared:  0.0001623, Adjusted R-squared:  -0.0002368 
F-statistic: 0.4067 on 2 and 5011 DF,  p-value: 0.6659

Visualizing the Linear Regression Model

plot(result)

Summary

Hodnotenie vizualizácií na základe lineárneho regresného modelu Nasledujúce grafy nám umožňujú vyhodnotiť prispôsobenie lineárneho regresného modelu a jeho rôzne charakteristiky:

Residuals vs Fitted (Reziduá vs Predikované hodnoty)

Hodnotenie: Tento graf zobrazuje reziduá (residuals) v porovnaní s predikovanými hodnotami (fitted values). Ideálne by mali byť body náhodne rozložené okolo horizontálnej osi, čo by naznačovalo, že reziduá nemajú žiadny vzorec. V tomto prípade je rozloženie bodov relatívne rovnomerné, ale niekoľko výnimočných hodnôt môže naznačovať odchýlky od modelom predikovaných hodnôt.

Normal Q-Q (Q-Q graf)

Hodnotenie: Q-Q graf skúma, či majú reziduá normálne rozdelenie. Ideálne by mali body ležať pozdĺž priamej línie. Na grafe vidíme, že väčšina bodov leží pozdĺž priamej línie, ale extrémy sa odchyľujú, čo naznačuje, že reziduá nemajú úplne normálne rozdelenie.

Scale-Location (Mierka-Lokalizácia)

Hodnotenie: Tento graf zobrazuje štandardizované reziduá (sqrt(Standardized Residuals)) v porovnaní s predikovanými hodnotami. Ideálne by mali byť body rovnomerne rozložené okolo horizontálnej osi, čo by naznačovalo, že variancia je konštantná. V tomto prípade je rozloženie bodov relatívne rovnomerné, čo naznačuje, že model spĺňa predpoklad homoskedasticity.

Residuals vs Leverage (Reziduá vs Páka)

Hodnotenie: Tento graf zobrazuje reziduá v porovnaní s leverage hodnotami, ktoré ukazujú vplyv jednotlivých pozorovaní na prispôsobenie modelu. Cookova vzdialenosť (Cook’s distance) pomáha identifikovať potenciálne vplyvné body. V tomto prípade niekoľko bodov vyčnieva, čo znamená, že tieto body môžu mať významný vplyv na prispôsobenie modelu. Zhrnutie

Na základe vizualizácií môžeme urobiť nasledujúce závery: Graf Residuals vs Fitted ukazuje, že reziduá sú relatívne náhodne rozložené, ale niekoľko výnimočných hodnôt je viditeľných. Normal Q-Q graf naznačuje, že väčšina reziduí má normálne rozdelenie, ale extrémy sa odchyľujú. Graf Scale-Location ukazuje, že variancia reziduí je relatívne rovnomerná. Graf Residuals vs Leverage ukazuje niekoľko vplyvných bodov.

Conclusion

Hodnota R-kvadrát je 0,000, čo znamená, že model nevysvetľuje variabilitu zostatku na účte. Upravený R-kvadrát je negatívny, čo ďalej zdôrazňuje, že vysvetľujúce premenné významne neprispievajú k prispôsobeniu modelu.

Koeficient veku je -8,3642, čo znamená, že so zvyšujúcim sa vekom zostatok na účte mierne klesá. Avšak vysoká hodnota p (0,923) naznačuje, že táto premenná nemá významný vplyv na zostatok na účte.

Koeficient odhadovaného platu je 0,0141, čo znamená, že so zvyšujúcim sa platom zostatok na účte mierne stúpa. Avšak hodnota p (0,371) ukazuje, že ani táto premenná nemá významný vplyv na zostatok na účte.

Závery Model: Na základe výsledkov vek a odhadovaný plat významne nevysvetľujú zostatok na účte u francúzskych klientov.

Keďže žiadna z premenných nie je významná, na základe súčasného modelu nemožno spoľahlivo vyvodiť závery o vplyve veku a odhadovaného platu na zostatok na účte. Odporúča sa ďalšie skúmanie s pridaním ďalších premenných na zlepšenie vysvetľovacej sily modelu.