Prvo raziskovalno vprašanje:Ali sta kajenje in anksioznost povezani spremenljivki?

#https://www.kaggle.com/datasets/sakshi20008/survey-lung-cancer-prediction

podatki <- read.csv("survey.csv", header = TRUE)
podatki$SMOKING <- factor(podatki$SMOKING,
                          levels=c(1,2),
                          labels=c("YES", "NO"))
podatki$ANXIETY <- factor(podatki$ANXIETY,
                          levels=c(1,2),
                          labels=c("YES", "NO"))

podatki$LUNG_CANCER <- factor(podatki$LUNG_CANCER,
                          levels=c("YES","NO"),
                          labels=c("YES", "NO"))
podatki$GENDER <- factor(podatki$GENDER,
                          levels=c("M","F"),
                          labels=c("MALE", "FEMALE"))
head(podatki)
##   GENDER AGE SMOKING YELLOW_FINGERS ANXIETY PEER_PRESSURE CHRONIC.DISEASE
## 1   MALE  69     YES              2      NO             1               1
## 2   MALE  74      NO              1     YES             1               2
## 3 FEMALE  59     YES              1     YES             2               1
## 4   MALE  63      NO              2      NO             1               1
## 5 FEMALE  63     YES              2     YES             1               1
## 6 FEMALE  75     YES              2     YES             1               2
##   FATIGUE ALLERGY WHEEZING ALCOHOL.CONSUMING COUGHING SHORTNESS.OF.BREATH
## 1       2       1        2                 2        2                   2
## 2       2       2        1                 1        1                   2
## 3       2       1        2                 1        2                   2
## 4       1       1        1                 2        1                   1
## 5       1       1        2                 1        2                   2
## 6       2       2        2                 1        2                   2
##   SWALLOWING.DIFFICULTY CHEST.PAIN LUNG_CANCER
## 1                     2          2         YES
## 2                     2          2         YES
## 3                     1          2          NO
## 4                     2          2          NO
## 5                     1          1          NO
## 6                     1          1         YES

Opis spremenljivk

ID: Oznaka potnika Gender: Male, Female Anxiety: Yes, No

#install.packages("psych")
library(psych)
describe(podatki[, c("SMOKING", "ANXIETY")]) #opis podatkov za kajenje in aksioznost
##          vars   n mean  sd median trimmed mad min max range  skew kurtosis   se
## SMOKING*    1 309 1.56 0.5      2    1.58   0   1   2     1 -0.25    -1.94 0.03
## ANXIETY*    2 309 1.50 0.5      1    1.50   0   1   2     1  0.01    -2.01 0.03
hi_kvadrat <- chisq.test(podatki$SMOKING, podatki$ANXIETY, correct=TRUE)
hi_kvadrat
## 
##  Pearson's Chi-squared test with Yates' continuity correction
## 
## data:  podatki$SMOKING and podatki$ANXIETY
## X-squared = 7.3037, df = 1, p-value = 0.006881

Vrednost 7.3037 kaže povezanost med spremenljivkama p-value < 0.05 kaže na statistično značilna povezavo med spremenljivkama

addmargins(hi_kvadrat$observed) #celovit pregled nad frekvencami odgovorov
##                podatki$ANXIETY
## podatki$SMOKING YES  NO Sum
##             YES  80  55 135
##             NO   75  99 174
##             Sum 155 154 309

N=309

addmargins(round(hi_kvadrat$expected, 2)) #pričakovane vrednosti glede na hi-kvadrat
##                podatki$ANXIETY
## podatki$SMOKING    YES     NO Sum
##             YES  67.72  67.28 135
##             NO   87.28  86.72 174
##             Sum 155.00 154.00 309

Primerjava med opaženimi in pričakovanimi vrednostmi v vsaki kategoriji, kar je pomembno za interpretacijo rezultatov hi-kvadrat testa.

#install.packages(("effectsize"))
library(effectsize)
## 
## Attaching package: 'effectsize'
## The following object is masked from 'package:psych':
## 
##     phi
effectsize::cramers_v(podatki$SMOKING, podatki$ANXIETY) #Cramerjev test moči povezanosti spremenljivk (0-1)
## Cramer's V (adj.) |       95% CI
## --------------------------------
## 0.15              | [0.03, 1.00]
## 
## - One-sided CIs: upper bound fixed at [1.00].

Vrednost 0.15 predstavlja nizko moč povezanosti spremenljivk

interpret_cramers_v(0.15)
## [1] "small"
## (Rules: funder2019)

r = 0.15 kar pomeni, da je povezanost med spremenljivkama majhna “small” (0.1 < r < 0.2).

oddsratio(podatki$SMOKING, podatki$ANXIETY)#izračun razmerja verjetnosti pojava dogodka med dvema skupinama
## Odds ratio |       95% CI
## -------------------------
## 1.92       | [1.22, 3.03]

Sklep: Glede na oddsratio in interval zaupanja se lahko sklepa, da obstaja statistično značilno povečana verjetnost za pojav dogodka,da so tisti ki imajo anksioznost kadilci, kot tisti, ki niso anksiozni.

interpret_oddsratio(1.92)
## [1] "small"
## (Rules: chen2010)

Verjetnost povezanosti je majhna.

fisher.test(podatki$SMOKING, podatki$ANXIETY)
## 
##  Fisher's Exact Test for Count Data
## 
## data:  podatki$SMOKING and podatki$ANXIETY
## p-value = 0.00588
## alternative hypothesis: true odds ratio is not equal to 1
## 95 percent confidence interval:
##  1.186849 3.109532
## sample estimates:
## odds ratio 
##   1.915902

Obstataja statistično značilna povezava med kajenjem in aksioznostjo.

Drugo raziskovalno vprašanje: Katere stranke prepričati v posojilo?

#https://www.kaggle.com/datasets/teertha/personal-loan-modeling

library(tidyr)
podatki <- read.csv("loan.csv", header = TRUE)
podatki <- podatki[-c(3,7,5,6)]
podatki[podatki == ""] <- NA
podatki <- drop_na(podatki)
nrow(podatki)
## [1] 5000
podatki$Education <- factor(podatki$Education,
                                 levels=c(1,2,3),
                                 labels=c("Undergrad", "Graduate", "Advanced"))
podatki$Personal.Loan <- factor(podatki$Personal.Loan,
                                 levels=c(c(0,1)),
                                 labels=c("Yes","No"))
podatki$CD.Account <- factor(podatki$CD.Account,
                                 levels=c(c(0,1)),
                                 labels=c("Yes","No"))
podatki$Online <- factor(podatki$Online,
                                 levels=c(c(0,1)),
                                 labels=c("Yes","No"))
podatki$CreditCard <- factor(podatki$CreditCard,
                                 levels=c(c(0,1)),
                                 labels=c("Yes","No"))
podatki$Securities.Account <- factor(podatki$Securities.Account,
                                 levels=c(c(0,1)),
                                 labels=c("Yes","No"))


#vse podatke se uredi

Želimo izvedeti ali se stranka po določenem številu nakupov odloči za včlanitev ali ne. Tako bo lahko spremenila svoj način oglaševanja za pridobitev novih članov.

fit0 <- glm(Personal.Loan ~ 1,
            family= binomial,
            data = podatki) #logitična regresija za binarni model

summary(fit0)
## 
## Call:
## glm(formula = Personal.Loan ~ 1, family = binomial, data = podatki)
## 
## Coefficients:
##             Estimate Std. Error z value Pr(>|z|)    
## (Intercept) -2.24248    0.04801  -46.71   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 3162  on 4999  degrees of freedom
## Residual deviance: 3162  on 4999  degrees of freedom
## AIC: 3164
## 
## Number of Fisher Scoring iterations: 5

Številke kažejo, da je Intercept statistično značilen, model pa se statistično dobro prilega podatkom. AIC vrednost je relativno nizka, kar nakazuje na dobro prileganje modela glede na kompleksnost.

exp(cbind(obet = fit0$coefficients, confint.default(fit0))) #Obet za Y=1
##                  obet     2.5 %    97.5 %
## (Intercept) 0.1061947 0.0966585 0.1166717

Glede na oceno oddsratio in interval zaupanja, obstaja statistično značilna povezanost med prediktorjem (Intercept) in odzivno spremenljivko. Vrednost oddsratio nam pove, da je verjetnost dogodka Y=1 za 0.1-krat večja kot verjetnost dogodka Y=0.

head(fitted(fit0))
##     1     2     3     4     5     6 
## 0.096 0.096 0.096 0.096 0.096 0.096
fit1 <- glm(Personal.Loan ~ Age,
            family= binomial,
            data = podatki)
summary(fit1)
## 
## Call:
## glm(formula = Personal.Loan ~ Age, family = binomial, data = podatki)
## 
## Coefficients:
##              Estimate Std. Error z value Pr(>|z|)    
## (Intercept) -2.139045   0.194855 -10.978   <2e-16 ***
## Age         -0.002288   0.004188  -0.546    0.585    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 3162.0  on 4999  degrees of freedom
## Residual deviance: 3161.7  on 4998  degrees of freedom
## AIC: 3165.7
## 
## Number of Fisher Scoring iterations: 5

p-vrednost za starost ni statistično značilna, ker je večja od 0.05.

anova(fit0, fit1, test="Chi")
## Analysis of Deviance Table
## 
## Model 1: Personal.Loan ~ 1
## Model 2: Personal.Loan ~ Age
##   Resid. Df Resid. Dev Df Deviance Pr(>Chi)
## 1      4999     3162.0                     
## 2      4998     3161.7  1  0.29838   0.5849
exp(cbind(obet = fit1$coefficients, confint.default(fit1))) #Obet za Y=1
##                  obet      2.5 %    97.5 %
## (Intercept) 0.1177673 0.08038294 0.1725382
## Age         0.9977151 0.98955952 1.0059378
fit2 <- glm(Personal.Loan ~ Age + Mortgage + Income,
            family= binomial,
            data = podatki)
#install.packages("car")
library(car)
## Loading required package: carData
## 
## Attaching package: 'car'
## The following object is masked from 'package:psych':
## 
##     logit
vif(fit2)
##      Age Mortgage   Income 
## 1.004892 1.020529 1.025471
fit2
## 
## Call:  glm(formula = Personal.Loan ~ Age + Mortgage + Income, family = binomial, 
##     data = podatki)
## 
## Coefficients:
## (Intercept)          Age     Mortgage       Income  
##  -6.4777308    0.0072745    0.0006738    0.0368749  
## 
## Degrees of Freedom: 4999 Total (i.e. Null);  4996 Residual
## Null Deviance:       3162 
## Residual Deviance: 2012  AIC: 2020
podatki$StdOstanki <- rstandard(fit2)
podatki$Cook <- cooks.distance(fit2)

hist(podatki$StdOstanki,
     main = "Histogram standardiriziranih ostankov",
     ylab = "Frekvenca",
     xlab  = "Standarizirani ostanki")

head(podatki[order(-podatki$Cook), c("ID", "Cook")])
##        ID        Cook
## 2935 2935 0.009881798
## 3609 3609 0.009700624
## 1784 1784 0.008869050
## 1717 1717 0.008801827
## 460   460 0.005896233
## 350   350 0.005858863
anova(fit0, fit1, test="Chi")
## Analysis of Deviance Table
## 
## Model 1: Personal.Loan ~ 1
## Model 2: Personal.Loan ~ Age
##   Resid. Df Resid. Dev Df Deviance Pr(>Chi)
## 1      4999     3162.0                     
## 2      4998     3161.7  1  0.29838   0.5849
summary(fit2)
## 
## Call:
## glm(formula = Personal.Loan ~ Age + Mortgage + Income, family = binomial, 
##     data = podatki)
## 
## Coefficients:
##               Estimate Std. Error z value Pr(>|z|)    
## (Intercept) -6.4777308  0.3060016 -21.169   <2e-16 ***
## Age          0.0072745  0.0051057   1.425    0.154    
## Mortgage     0.0006738  0.0004160   1.620    0.105    
## Income       0.0368749  0.0013957  26.421   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 3162.0  on 4999  degrees of freedom
## Residual deviance: 2011.5  on 4996  degrees of freedom
## AIC: 2019.5
## 
## Number of Fisher Scoring iterations: 6
exp(cbind(R0 = fit2$coefficients, confint.default(fit2)))
##                      R0        2.5 %     97.5 %
## (Intercept) 0.001537295 0.0008438946 0.00280044
## Age         1.007301054 0.9972712430 1.01743174
## Mortgage    1.000674000 0.9998584929 1.00149017
## Income      1.037563237 1.0347288836 1.04040535