EKONOMETRİ FİNAL
YAPACAĞIMIZ ANALİZLER
- REGRESYON ANALİZİ
- LOGİSTİC REGRESYON ANALİZİ
- NAİVE BAYES ANALİZİ
- SVM ANALİZİ
- SVM RADİAL ANALİZİ
- DECISION TREES ANALİZİ
- RANDOM FOREST ANALİZİ
REGRESYON ANALİZİ
GENEL BİLGİLENDİRME
Regresyon analizi, bağımlı bir değişkenin bir veya daha fazla bağımsız değişkenle ilişkisini modellemek için kullanılan istatistiksel bir tekniktir. Temelde, bir değişkenin diğer değişkenler tarafından nasıl etkilendiğini anlamak için kullanılır.
Örneğin, bir evin fiyatını tahmin etmek istediğimizi düşünelim. Bu durumda, evin özellikleri (odaların sayısı, alanı, konumu vb.) bağımsız değişkenler olurken, evin fiyatı bağımlı bir değişken olacaktır. Regresyon analizi, bu bağımlı değişkenin bağımsız değişkenler tarafından nasıl etkilendiğini modellememize yardımcı olur.
Regresyon analizi, doğrusal ve doğrusal olmayan olmak üzere iki ana türe ayrılabilir:
Doğrusal Regresyon: Bağımlı değişken ile bağımsız değişkenler arasındaki ilişkiyi doğrusal bir modelle açıklar. Yani, bağımlı değişken ile bağımsız değişkenler arasındaki ilişkiyi bir doğru ile ifade eder.
Doğrusal Olmayan Regresyon: Bağımlı değişken ile bağımsız değişkenler arasındaki ilişkiyi doğrusal bir modelle açıklayamayan durumlar için kullanılır. Örneğin, polinomik regresyon veya lojistik regresyon gibi teknikler doğrusal olmayan regresyon örnekleridir.
Regresyon analizi, veri setindeki ilişkileri anlamak, tahminler yapmak ve gelecekteki değerleri tahmin etmek için kullanılır. Özellikle, ekonomi, finans, sağlık, mühendislik gibi birçok alanda yaygın olarak kullanılan önemli bir istatistiksel tekniktir.
REGRESYON ANALİZİ KODLARI
##
## Attaching package: 'dplyr'## The following objects are masked from 'package:stats':
##
## filter, lag## The following objects are masked from 'package:base':
##
## intersect, setdiff, setequal, union## corrplot 0.92 loaded## Rows: 8693 Columns: 16
## ── Column specification ────────────────────────────────────────────────────────
## Delimiter: ","
## chr (5): PassengerId, HomePlanet, Destination, deck, side
## dbl (8): Age, RoomService, FoodCourt, ShoppingMall, Spa, VRDeck, withgroup, ...
## lgl (3): CryoSleep, VIP, Transported
##
## ℹ Use `spec()` to retrieve the full column specification for this data.
## ℹ Specify the column types or set `show_col_types = FALSE` to quiet this message.## Rows: 4277 Columns: 15
## ── Column specification ────────────────────────────────────────────────────────
## Delimiter: ","
## chr (5): PassengerId, HomePlanet, Destination, deck, side
## dbl (8): Age, RoomService, FoodCourt, ShoppingMall, Spa, VRDeck, withgroup, ...
## lgl (2): CryoSleep, VIP
##
## ℹ Use `spec()` to retrieve the full column specification for this data.
## ℹ Specify the column types or set `show_col_types = FALSE` to quiet this message.train$HomePlanet <- as.factor(train$HomePlanet)
train$Destination <- as.factor(train$Destination)
train$deck <- as.factor(train$deck)
train$side <- as.factor(train$side)test$HomePlanet <- as.factor(test$HomePlanet)
test$Destination <- as.factor(test$Destination)
test$deck <- as.factor(test$deck)
test$side <- as.factor(test$side)
##
## Call:
## lm(formula = Transported ~ ., data = train[, 2:16])
##
## Residuals:
## Min 1Q Median 3Q Max
## -1.42529 -0.31010 -0.02972 0.28890 1.79353
##
## Coefficients: (1 not defined because of singularities)
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 3.015e-01 4.015e-02 7.509 6.55e-14 ***
## HomePlanetEuropa 2.255e-01 2.866e-02 7.869 4.02e-15 ***
## HomePlanetMars 9.879e-02 1.478e-02 6.684 2.46e-11 ***
## CryoSleepTRUE 3.791e-01 1.154e-02 32.862 < 2e-16 ***
## DestinationPSO J318.5-22 -4.128e-02 1.807e-02 -2.285 0.022343 *
## DestinationTRAPPIST-1e -4.695e-02 1.131e-02 -4.150 3.35e-05 ***
## Age -2.170e-03 3.201e-04 -6.781 1.28e-11 ***
## VIPTRUE -3.835e-02 2.974e-02 -1.290 0.197237
## RoomService -1.179e-04 7.055e-06 -16.713 < 2e-16 ***
## FoodCourt 4.263e-05 3.055e-06 13.953 < 2e-16 ***
## ShoppingMall 7.946e-05 7.457e-06 10.655 < 2e-16 ***
## Spa -8.693e-05 4.111e-06 -21.144 < 2e-16 ***
## VRDeck -8.289e-05 4.115e-06 -20.144 < 2e-16 ***
## withgroup 2.030e-02 9.286e-03 2.186 0.028819 *
## deckB 1.109e-01 2.874e-02 3.858 0.000115 ***
## deckC 1.491e-01 2.900e-02 5.142 2.78e-07 ***
## deckD 5.528e-02 3.472e-02 1.592 0.111351
## deckE 1.614e-02 3.611e-02 0.447 0.655048
## deckF 1.129e-01 3.702e-02 3.051 0.002291 **
## deckG 6.925e-02 3.861e-02 1.793 0.072943 .
## deckT 6.696e-02 1.815e-01 0.369 0.712284
## sideS 8.501e-02 8.630e-03 9.851 < 2e-16 ***
## expense NA NA NA NA
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.4012 on 8671 degrees of freedom
## Multiple R-squared: 0.3576, Adjusted R-squared: 0.3561
## F-statistic: 229.9 on 21 and 8671 DF, p-value: < 2.2e-16# Veriyi eğitim ve test seti olarak ayırma
set.seed(123)
split = sample.split(train$Transported, SplitRatio = 0.75)
train_train = subset(train, split == TRUE)
train_test = subset(train, split == FALSE)
# Model eğitimi
reg <- lm(Transported ~ ., data = train_train[, -c(1)])
summary(reg)##
## Call:
## lm(formula = Transported ~ ., data = train_train[, -c(1)])
##
## Residuals:
## Min 1Q Median 3Q Max
## -1.50135 -0.31246 -0.02948 0.29157 1.77270
##
## Coefficients: (1 not defined because of singularities)
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 3.358e-01 4.638e-02 7.241 4.95e-13 ***
## HomePlanetEuropa 2.084e-01 3.341e-02 6.239 4.69e-10 ***
## HomePlanetMars 8.879e-02 1.703e-02 5.212 1.92e-07 ***
## CryoSleepTRUE 3.754e-01 1.329e-02 28.237 < 2e-16 ***
## DestinationPSO J318.5-22 -5.815e-02 2.081e-02 -2.795 0.00521 **
## DestinationTRAPPIST-1e -5.058e-02 1.307e-02 -3.870 0.00011 ***
## Age -2.333e-03 3.723e-04 -6.266 3.95e-10 ***
## VIPTRUE -1.722e-02 3.384e-02 -0.509 0.61083
## RoomService -1.177e-04 7.788e-06 -15.113 < 2e-16 ***
## FoodCourt 3.882e-05 3.468e-06 11.194 < 2e-16 ***
## ShoppingMall 8.269e-05 8.413e-06 9.829 < 2e-16 ***
## Spa -8.583e-05 4.707e-06 -18.232 < 2e-16 ***
## VRDeck -8.224e-05 4.775e-06 -17.221 < 2e-16 ***
## withgroup 1.634e-02 1.075e-02 1.520 0.12866
## deckB 1.050e-01 3.289e-02 3.193 0.00142 **
## deckC 1.448e-01 3.317e-02 4.365 1.29e-05 ***
## deckD 3.583e-02 3.961e-02 0.905 0.36576
## deckE -1.742e-02 4.196e-02 -0.415 0.67797
## deckF 9.287e-02 4.276e-02 2.172 0.02991 *
## deckG 5.093e-02 4.463e-02 1.141 0.25379
## deckT 5.756e-02 1.822e-01 0.316 0.75208
## sideS 8.875e-02 9.981e-03 8.892 < 2e-16 ***
## expense NA NA NA NA
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.4012 on 6498 degrees of freedom
## Multiple R-squared: 0.3582, Adjusted R-squared: 0.3561
## F-statistic: 172.7 on 21 and 6498 DF, p-value: < 2.2e-16# Tahmin yapma
reg_tahmin = predict(reg, newdata = train_test[, -c(1,12)])
reg_transported_tahmin <- ifelse(reg_tahmin > 0.5, 1, 0)
# Gerçek değerlerin hazırlanması
transported_gercek <- ifelse(train_test$Transported == TRUE, 1, 0)
cm = table(transported_gercek, reg_transported_tahmin)
# Confusion matrix ve doğruluk hesaplama
cm## reg_transported_tahmin
## transported_gercek 0 1
## 0 903 176
## 1 323 771## [1] 0.7703636## reg_transported_tahmin
## transported_gercek 0 1
## 0 2681 555
## 1 949 2335## [1] 0.7693252
LOGİSTİC REGRESYON ANALİZİ
GENEL BİLGİLENDİRME
Logistic Regression, sınıflandırma problemleri için kullanılan bir makine öğrenimi tekniğidir. Adı “regresyon” olsa da, aslında bir sınıflandırma algoritmasıdır. Özellikle, iki sınıf arasında sınıflandırma yapmak için kullanılır.
Örneğin, bir e-postanın spam olup olmadığını belirlemek istediğimizi düşünelim. Logistic Regression’ı kullanarak, e-postanın bazı özelliklerini (örneğin, kelime sıklığı, belirli anahtar kelimelerin varlığı vb.) kullanarak e-postanın spam olup olmadığını tahmin edebiliriz.
Logistic Regression, veri noktalarını iki sınıf arasında bir doğrusal ayrım kullanarak sınıflandırır. Ancak, sınıflandırma sonucunu 0 ile 1 arasında bir olasılık değeri olarak verir. Bu olasılık değeri, e-postanın spam olma olasılığını ifade eder. Eğer olasılık belirli bir eşik değerinden büyükse, e-postanın spam olduğunu tahmin ederiz; aksi halde değil.
Logistic Regression’ın temel prensibi, veri setindeki özelliklerin birleşimi ile sınıf etiketlerini açıklamak için bir model oluşturmaktır. Bu model, bir doğrusal regresyon modelinin çıktısını bir sigmoid fonksiyonuna geçirerek oluşturulur. Bu, sonuç olarak bir olasılık değeri verir.
Logistic Regression modeli, genellikle eğitim veri setindeki kayıtların özelliklerini kullanarak eğitilir. Daha sonra, bu model kullanılarak test veri setindeki örneklerin sınıfları tahmin edilir.
Sonuç olarak, Logistic Regression, sınıflandırma problemlerini çözmek için kullanılan bir makine öğrenimi algoritmasıdır. Veri setindeki özelliklerin sınıf etiketlerini tahmin etmek için kullanılır, ancak sonuç olarak bir olasılık değeri verir.
LOGİSTİC REGRESYON ANALİZ KODLARI
- Bu adımda, train ve test veri setlerindeki belirli sütunlar log dönüşümüyle dönüştürülüyor. Log dönüşümü, verinin dağılımını normalize etmek ve daha iyi model performansı elde etmek için yapılır.
modellog <- lm(Transported ~ 1 + HomePlanet + Destination + deck + side + CryoSleep + Age + RoomService + FoodCourt + ShoppingMall + Spa , data = train_log)- Bu kısımda, log dönüşümü yapılmış eğitim veri seti kullanılarak bir lineer regresyon modeli oluşturuluyor. Transported bağımlı değişkeni tahmin edilmeye çalışılıyor.
- Bu adımda, oluşturulan lineer regresyon modeli kullanılarak test veri seti üzerinde tahminler yapılıyor.
- Tahmin edilen değerler 0.5’ten büyükse TRUE, küçükse FALSE olarak belirleniyor.
Transported <- as.vector(Transported)
submission_reg_log <- cbind(PassengerId, Transported)
submission_reg_log <- as.data.frame(submission_reg_log)
submission_reg_log$Transported <- str_to_title(submission_reg_log$Transported)
write.csv(submission_reg, "submission_reg_log.csv", row.names = FALSE, quote = FALSE)- Tahmin edilen sonuçlar ve PassengerId birleştirilerek bir sonuç dosyası oluşturuluyor ve CSV formatında kaydediliyor.
## Warning: glm.fit: fitted probabilities numerically 0 or 1 occurred- Burada, train_train veri seti kullanılarak bir lojistik regresyon modeli oluşturuluyor. Transported bağımlı değişkeni ikili (binomial) bir çıktı olduğu için family = binomial olarak belirtiliyor.
##
## Call:
## glm(formula = Transported ~ ., family = binomial, data = train_train[,
## -c(1)])
##
## Coefficients: (1 not defined because of singularities)
## Estimate Std. Error z value Pr(>|z|)
## (Intercept) -4.855e-01 3.587e-01 -1.353 0.175933
## HomePlanetEuropa 1.570e+00 2.653e-01 5.918 3.26e-09 ***
## HomePlanetMars 5.361e-01 1.105e-01 4.849 1.24e-06 ***
## CryoSleepTRUE 1.276e+00 9.197e-02 13.873 < 2e-16 ***
## DestinationPSO J318.5-22 -4.923e-01 1.299e-01 -3.790 0.000151 ***
## DestinationTRAPPIST-1e -4.611e-01 9.418e-02 -4.896 9.78e-07 ***
## Age -8.311e-03 2.460e-03 -3.379 0.000728 ***
## VIPTRUE -1.679e-01 2.924e-01 -0.574 0.565911
## RoomService -1.738e-03 1.135e-04 -15.313 < 2e-16 ***
## FoodCourt 4.547e-04 4.453e-05 10.211 < 2e-16 ***
## ShoppingMall 5.275e-04 7.562e-05 6.976 3.04e-12 ***
## Spa -1.968e-03 1.166e-04 -16.878 < 2e-16 ***
## VRDeck -1.896e-03 1.156e-04 -16.400 < 2e-16 ***
## withgroup 1.267e-01 7.183e-02 1.764 0.077800 .
## deckB 1.126e+00 2.899e-01 3.884 0.000103 ***
## deckC 2.454e+00 3.315e-01 7.404 1.33e-13 ***
## deckD 6.903e-01 3.245e-01 2.127 0.033389 *
## deckE 9.830e-02 3.352e-01 0.293 0.769339
## deckF 7.773e-01 3.397e-01 2.288 0.022127 *
## deckG 3.810e-01 3.490e-01 1.092 0.274904
## deckT -1.275e-01 1.869e+00 -0.068 0.945583
## sideS 5.984e-01 6.663e-02 8.981 < 2e-16 ***
## expense NA NA NA NA
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## (Dispersion parameter for binomial family taken to be 1)
##
## Null deviance: 9038.3 on 6519 degrees of freedom
## Residual deviance: 5601.5 on 6498 degrees of freedom
## AIC: 5645.5
##
## Number of Fisher Scoring iterations: 7- Bu bölümde, lojistik regresyon modeli kullanılarak tahminler yapılıyor ve modelin doğruluğu hesaplanıyor. Ayrıca, doğruluk (accuracy) ve karışıklık matrisi (confusion matrix) hesaplanıyor.
## 1 2 3 4 5 6
## -1.1063121 -11.0565547 0.9680020 -1.6266855 -0.4167855 -1.7011268## 1 2 3 4 5 6
## 0 0 1 0 0 0## ── Attaching packages ────────────────────────────────────── tidymodels 1.2.0 ──## ✔ broom 1.0.5 ✔ rsample 1.2.1
## ✔ dials 1.2.1 ✔ tibble 3.2.1
## ✔ ggplot2 3.5.1 ✔ tidyr 1.3.1
## ✔ infer 1.0.7 ✔ tune 1.2.1
## ✔ modeldata 1.3.0 ✔ workflows 1.1.4
## ✔ parsnip 1.2.1 ✔ workflowsets 1.1.0
## ✔ purrr 1.0.2 ✔ yardstick 1.3.1
## ✔ recipes 1.0.10## ── Conflicts ───────────────────────────────────────── tidymodels_conflicts() ──
## ✖ purrr::discard() masks scales::discard()
## ✖ dplyr::filter() masks stats::filter()
## ✖ recipes::fixed() masks stringr::fixed()
## ✖ dplyr::lag() masks stats::lag()
## ✖ yardstick::spec() masks readr::spec()
## ✖ recipes::step() masks stats::step()
## • Use suppressPackageStartupMessages() to eliminate package startup messagesresult$Transported <- as.factor(result$Transported)
result$log_transported_tahmin <- as.factor(result$log_transported_tahmin)## # A tibble: 1 × 3
## .metric .estimator .estimate
## <chr> <chr> <dbl>
## 1 accuracy binary 0.784## Truth
## Prediction 0 1
## 0 918 308
## 1 161 786## Zorunlu paket yükleniyor: lattice##
## Attaching package: 'caret'## The following objects are masked from 'package:yardstick':
##
## precision, recall, sensitivity, specificity## The following object is masked from 'package:purrr':
##
## lift- Bu bölümde, lojistik regresyon modeli kullanılarak tahminler yapılıyor ve modelin doğruluğu hesaplanıyor. Ayrıca, doğruluk (accuracy) ve karışıklık matrisi (confusion matrix) hesaplanıyor.
## log_transported_tahmin
## transported_gercek 0 1
## 0 918 161
## 1 308 786## [1] 0.7841694## Confusion Matrix and Statistics
##
## Reference
## Prediction 0 1
## 0 918 161
## 1 308 786
##
## Accuracy : 0.7842
## 95% CI : (0.7663, 0.8013)
## No Information Rate : 0.5642
## P-Value [Acc > NIR] : < 2.2e-16
##
## Kappa : 0.5687
##
## Mcnemar's Test P-Value : 1.566e-11
##
## Sensitivity : 0.7488
## Specificity : 0.8300
## Pos Pred Value : 0.8508
## Neg Pred Value : 0.7185
## Prevalence : 0.5642
## Detection Rate : 0.4225
## Detection Prevalence : 0.4965
## Balanced Accuracy : 0.7894
##
## 'Positive' Class : 0
## - Bu adımda, tahmin edilen ve gerçek değerler karşılaştırılarak karışıklık matrisi oluşturuluyor ve modelin doğruluğu hesaplanıyor.
## Warning: glm.fit: fitted probabilities numerically 0 or 1 occurredTransported <- as.vector(Transported)
submission_logistic <- cbind(PassengerId, Transported)
submission_logistic <- as.data.frame(submission_logistic)
submission_logistic$Transported <- str_to_title(submission_logistic$Transported)
write.csv(submission_logistic, "submission_log.csv", row.names = FALSE, quote = FALSE)Transported <- as.vector(Transported)
submission_llogistic <- cbind(PassengerId, Transported)
submission_llogistic <- as.data.frame(submission_llogistic)
submission_llogistic$Transported <- str_to_title(submission_llogistic$Transported)
write.csv(submission_logistic, "submission_llog.csv", row.names = FALSE, quote = FALSE)-Aynı işlemler log dönüşümlü veri seti için tekrar ediliyor ve sonuç dosyası hazırlanıyor.
- Bu kodlar, hem lineer hem de lojistik regresyon modelleri oluşturup, tahminler yaparak sonuç dosyaları oluşturmayı amaçlar. Kodlarda belirtilen veri setlerinin doğru şekilde tanımlandığından ve gerekli kütüphanelerin yüklendiğinden emin olunmalıdır. Ayrıca, bazı kod parçalarında eksik veya yanlış değişken isimleri gibi küçük hatalar varsa bunların düzeltilmesi gerekebilir.
LOGİSTİC REGRESYON ANALİZİ TAHMİN SONUCU
NAİVE BAYES ANALİZİ
GENEL BİLGİLENDİRME
İmajınızı koruyarak yola koyulalım. Diyelim ki bir çiftlikte tavuklar ve ördekler var. Bir hayvanın bir tavuk mu yoksa bir ördek mi olduğunu belirlemek istiyoruz. Bu durumda, hayvanın bazı özellikleri olabilir: mesela gagasının boyutu, tüy rengi veya vücut ağırlığı.
Naive Bayes algoritması, bu özellikleri kullanarak bir hayvanın bir tavuk olup olmadığını tahmin eder. Öncelikle, elimizde bir veri seti olur: bu veri setinde tavuklar ve ördekler için özelliklerin bir listesi ve hangi hayvanın ne olduğu belirtilir.
Algoritma, her özelliğin her sınıfa ait olma olasılığını hesaplar. Örneğin, tavukların büyük ihtimalle sarı gagalara sahip olduğunu görebiliriz. Ancak, burada “naive” (saf) olan şey, her özelliğin birbirinden bağımsız olduğunu varsayar. Yani, örneğin gagasının boyutu ile tüy rengi arasında bir ilişki olmadığını düşünür.
Sonra, test veri setindeki bir hayvanın özelliklerini alırız. Algoritma bu özellikleri kullanarak her sınıf için bir olasılık hesaplar. Mesela, verilen bir hayvanın özellikleri sarı bir gaga, kahverengi tüyler ve belirli bir ağırlıkta olabilir. Naive Bayes algoritması, bu özellikleri kullanarak bu hayvanın bir tavuk olma olasılığını hesaplar ve bir tahmin yapar.
Sonuç olarak, Naive Bayes algoritması, veri setindeki özelliklerin belirli bir sınıfa ait olma olasılıklarını kullanarak sınıf tahminleri yapar. Bu şekilde, veri setindeki sınıfları tahmin etmek için oldukça kullanışlı bir algoritmadır.
NAİVE BAYES ANALİZİ KODLARI
- e1071 paketini yükler.
- train_train veri setindeki özelliklere dayalı olarak Transported değişkenini tahmin eden bir Naive Bayes modeli oluşturur.
##
## Naive Bayes Classifier for Discrete Predictors
##
## Call:
## naiveBayes.default(x = X, y = Y, laplace = laplace)
##
## A-priori probabilities:
## Y
## FALSE TRUE
## 0.496319 0.503681
##
## Conditional probabilities:
## HomePlanet
## Y Earth Europa Mars
## FALSE 0.6220643 0.1755253 0.2024104
## TRUE 0.4604141 0.3306943 0.2088916
##
## CryoSleep
## Y FALSE TRUE
## FALSE 0.8702101 0.1297899
## TRUE 0.4336175 0.5663825
##
## Destination
## Y 55 Cancri e PSO J318.5-22 TRAPPIST-1e
## FALSE 0.16069221 0.09363412 0.74567367
## TRUE 0.24969549 0.09043849 0.65986602
##
## Age
## Y [,1] [,2]
## FALSE 30.01119 13.45225
## TRUE 27.85293 14.87588
##
## VIP
## Y FALSE TRUE
## FALSE 0.97126082 0.02873918
## TRUE 0.98142509 0.01857491
##
## RoomService
## Y [,1] [,2]
## FALSE 402.20365 916.6547
## TRUE 56.93484 246.8105
##
## FoodCourt
## Y [,1] [,2]
## FALSE 396.2923 1258.123
## TRUE 514.8018 1918.620
##
## ShoppingMall
## Y [,1] [,2]
## FALSE 160.2250 432.1103
## TRUE 182.7135 748.5867
##
## Spa
## Y [,1] [,2]
## FALSE 561.16193 1554.2636
## TRUE 61.11571 264.0556
##
## VRDeck
## Y [,1] [,2]
## FALSE 533.98733 1542.8703
## TRUE 69.07186 295.0542
##
## withgroup
## Y [,1] [,2]
## FALSE 0.3952410 0.4889780
## TRUE 0.4960414 0.5000605
##
## deck
## Y A B C D E
## FALSE 0.0296662546 0.0543881335 0.0574783684 0.0661310260 0.1344252163
## TRUE 0.0310596833 0.1385505481 0.1199756395 0.0490255786 0.0676004872
## deck
## Y F G T
## FALSE 0.3637206428 0.2929542645 0.0012360939
## TRUE 0.2828867235 0.3105968331 0.0003045067
##
## side
## Y P S
## FALSE 0.5568603 0.4431397
## TRUE 0.4448843 0.5551157
##
## expense
## Y [,1] [,2]
## FALSE 2053.8702 3224.219
## TRUE 884.6376 2307.962- Eğitilen modelin özetini ekrana yazdırır.
## FALSE. TRUE.
## 1 0.22290777 7.770922e-01
## 2 1.00000000 8.657607e-135
## 3 0.02738093 9.726191e-01
## 4 0.59333559 4.066644e-01
## 5 0.02412042 9.758796e-01
## 6 0.38532665 6.146734e-01- fit_nb modelini kullanarak train_test veri setindeki gözlemler için tahmin yapar.İlk ve 12. sütun hariç tutulur.Tahminler veri çerçevesine dönüştürülür ve ilk birkaç satır görüntülenir.
## [1] 1 0 1 0 1 1- Tahmin olasılıkları 0.5’ten büyükse 1, değilse 0 olarak sınıflandırılır.
## Transported
## [1,] 1
## [2,] 0
## [3,] 1
## [4,] 0
## [5,] 0
## [6,] 0- train_test veri setindeki 12. sütundaki gerçek değerler TRUE ise 1, değilse 0 olarak sınıflandırılır.
## Transported_preb_nb
## Transported_train_test 0 1
## 0 481 598
## 1 77 1017## [1] 0.6893695- Karışıklık matrisi oluşturulur ve modelin doğruluğu hesaplanır.
- train veri seti kullanılarak model yeniden eğitilir.
- Test verisi üzerinde tahmin yapılır ve tahminler TRUE veya FALSE olarak sınıflandırılır.
Transported <- as.character(Transported_pred_nb)
PassengerId <- test$PassengerId
Transported <- as.vector(Transported)
sample_submission <- cbind(PassengerId, Transported)
sample_submission <- as.data.frame(sample_submission)
sample_submission$Transported <- str_to_title(sample_submission$Transported)
write.csv(sample_submission, "sub_nb.csv", row.names = FALSE, quote = FALSE)- Tahmin sonuçları test veri setindeki PassengerId ile birleştirilir.Sonuçlar sub_nb.csv dosyasına yazılır.
NAİVE BAYES ANALİZİ TAHMİN SONUCU
SVM (SUPPORT VECTOR MACHINE) ANALİZİ
GENEL BİLGİLENDİRME
SVM (Destek Vektör Makinesi), bir sınıflandırma ve regresyon algoritmasıdır. Amacı, veri noktalarını sınıflandırmak veya bir regresyon fonksiyonu oluşturmak için bir hipersüzgeç (hyperplane) bulmaktır. SVM’nin temel fikri, veri noktalarını sınıflandırmak için en iyi ayrımı sağlayacak olan bir hipersüzgeç bulmaktır.
SVM, sınıflandırma problemleri için kullanıldığında, iki sınıf arasındaki ayrımı sağlayan en iyi hipersüzgeci bulur. Bu süreç, veri noktalarını iki sınıfa en iyi şekilde ayıracak olan bir hipersüzgeç bulmak için gerçekleştirilir. Regresyon problemleri için kullanıldığında ise, veri noktalarını en iyi şekilde sıralayan bir hipersüzgeç bulunmaya çalışılır.
SVM’nin çalışma prensibi, veri noktalarının uzayda konumlarını temsil eden vektörlerle çalışır. Bu vektörler, destek vektörleri olarak adlandırılır. Destek vektörleri, hipersüzgeci belirlemek için önemli olan veri noktalarıdır.
SVM’nin avantajlarından biri, çok boyutlu veri setlerinde etkili olmasıdır. Ayrıca, lineer olmayan ilişkileri de modelleyebilir, bunu yaparken de çeşitli çekirdek fonksiyonlarını kullanır.
R’da SVM analizi yapmak için, e1071 veya svm gibi paketleri kullanabilirsiniz. Bu paketler, SVM modelini oluşturmanıza ve veri üzerinde tahminler yapmanıza olanak tanır.
SVM ANALİZ KODLARI
- e1071 paketini yükler. Bu paket, SVM algoritması da dahil olmak üzere çeşitli makine öğrenimi algoritmalarını içerir.
fit_svm <- svm(Transported ~ ., data = train_train[, -1],
type = 'C-classification',
kernel= 'linear')- SVM modelini Transported değişkenine dayalı olarak eğitir.type = ‘C-classification’, C-classification tipinde bir sınıflandırma problemi olduğunu belirtir.kernel= ‘linear’, doğrusal bir çekirdek kullanıldığını belirtir.
## .
## 1 FALSE
## 2 FALSE
## 3 TRUE
## 4 FALSE
## 5 TRUE
## 6 FALSETransported_pred_svm = ifelse(preds$. == TRUE, 1, 0)
cm = table(Transported_train_test, Transported_pred_svm)
cm## Transported_pred_svm
## Transported_train_test 0 1
## 0 831 248
## 1 181 913## [1] 0.8025771- Eğitilen SVM modeli kullanılarak train_test veri setindeki gözlemler için tahminler yapılır.Tahminler, gerçek değerlerle karşılaştırılarak bir karışıklık matrisi oluşturulur ve doğruluk hesaplanır.
fit_svm <- svm(Transported ~ ., data = train[, -1],
type = 'C-classification',
kernel= 'linear')
preds <- predict(fit_svm, newdata = test, type = "raw") %>%
data.frame()Transported <- as.character(Transported_pred_svm)
PassengerId <- test$PassengerId
Transported <- as.vector(Transported)
sample_submission <- cbind(PassengerId, Transported)
sample_submission <- as.data.frame(sample_submission)
sample_submission$Transported <- str_to_title(sample_submission$Transported)
write.csv(sample_submission, "sub_svm.csv", row.names = FALSE, quote = FALSE)- Model test verisi üzerinde yeniden eğitilir ve tahminler yapılır.Sonuçlar sub_svm.csv dosyasına yazılır. -Bu kod, SVM algoritması kullanarak bir sınıflandırma modeli oluşturur, modelin performansını değerlendirir ve sonuçları dışa aktarır.
SVM (SUPPORT VECTOR MACHINE) ANALİZ TAHMİN SONUCU
SVM RADİAL ANALİZİ
GENEL BİLGİLENDİRME
Radial SVM, bir sınıflandırma algoritmasıdır ve “radial basis function (RBF)” olarak adlandırılan bir çekirdek fonksiyonu kullanır. Bu çekirdek fonksiyonu, veri noktalarının uzaklığına dayalı olarak non-lineer sınıflandırma problemlerini çözmek için kullanılır.
RBF, iki veri noktası arasındaki uzaklığın ölçüsünü alır ve bu uzaklığa dayalı olarak bir benzerlik skoru üretir. Bu skor, bir veri noktasının diğerine ne kadar benzediğini gösterir. Bu benzerlik skorları, veri noktalarını daha yüksek boyutlu bir uzayda temsil ederek sınıflandırma problemlerini çözmek için kullanılır.
Radial SVM, bu benzerlik skorlarına dayalı olarak sınıflandırma yapar. Sınıfları ayıran hipersüzgeç, veri noktalarının benzerlik skorlarına dayalı olarak belirlenir. Bu sayede, SVM non-lineer sınıflandırma problemlerini çözebilir, veri setindeki karmaşık ilişkileri yakalayabilir.
SVM RADİAL ANALİZ KODLARI
fit_svm <- svm(Transported ~ ., data = train_train[, -1],
type = 'C-classification',
kernel= 'radial')- Radial çekirdek kullanarak SVM modelini Transported değişkenine dayalı olarak eğitir
Transported_pred_svm = ifelse(preds$. == TRUE, 1, 0)
cm = table(Transported_train_test, Transported_pred_svm)
cm## Transported_pred_svm
## Transported_train_test 0 1
## 0 851 228
## 1 204 890## [1] 0.8011965- Eğitilen SVM modeli kullanılarak train_test veri setindeki gözlemler için tahminler yapılır.Tahminler, gerçek değerlerle karşılaştırılarak bir karışıklık matrisi oluşturulur ve doğruluk hesaplanır.
fit_svm <- svm(Transported ~ ., data = train[, -1],
type = 'C-classification',
kernel= 'radial')
preds <- predict(fit_svm, newdata = test, type = "raw") %>%
data.frame()Transported <- as.character(Transported_pred_svm)
PassengerId <- test$PassengerId
Transported <- as.vector(Transported)
sample_submission <- cbind(PassengerId, Transported)
sample_submission <- as.data.frame(sample_submission)
sample_submission$Transported <- str_to_title(sample_submission$Transported)
write.csv(sample_submission, "sub_svm_rad.csv", row.names = FALSE, quote = FALSE)- Model test verisi üzerinde yeniden eğitilir ve tahminler yapılır.Sonuçlar sub_svm_rad.csv dosyasına yazılır.
- Bu kod, radial çekirdek kullanarak SVM algoritması ile bir sınıflandırma modeli oluşturur, modelin performansını değerlendirir ve sonuçları dışa aktarır.
SVM RADİAL ANALİZ SONUCU
p <- ggplot(train_train, aes(x=HomePlanet, y=deck, color=factor(Transported))) +
geom_point(aes(shape=factor(Transported)), size=3) +
scale_color_viridis_d( ) +
labs(title="", x="HomePlanet", y="deck") +
theme_minimal() +
theme(legend.position = "top")
p
- ggplot() fonksiyonu ile yeni bir ggplot nesnesi oluşturulur.
- aes() içinde x, y ve color estetikleri belirlenir.
- geom_point() ile nokta grafiği oluşturulur.
- scale_color_viridis_d() ile renk paleti ayarlanır.
- labs() ile başlık ve eksen etiketleri belirlenir.
- theme_minimal() ve theme(legend.position = “top”) ile tema ve lejant pozisyonu ayarlanır.
- Oluşturulan ggplot nesnesi ekrana çizilir.
DECISION TREES (KARAR AĞAÇLARI) MODELİ
GENEL BİLGİLENDİRME
Karar ağaçları, verilerle ilgili karar vermek veya tahmin yapmak için kullanılan basit ve anlaşılır bir yöntemdir. Ağacın her dalında verilerle ilgili sorular sorarız ve bu sorulara verilen cevaplara göre dallar ayrılır. En sonunda, dalların ucundaki yapraklar nihai sonuçları veya tahminleri içerir. Karar ağaçları görsel olarak anlaşılması kolaydır ve hızlı tahmin yapar, ancak bazen verileri aşırı öğrenebilir ve dengesiz veri setlerinde hassas olabilir.
ÖRNEK BİR KARAR AĞACI
Meyve sarı mı? / \ Evet Hayır / \ Muz Meyve yuvarlak mı? / \ Evet Hayır / \ Elma Portakal
DECISION TREES ANALİZ KODLARI
##
## Attaching package: 'rpart'## The following object is masked from 'package:dials':
##
## prune## randomForest 4.7-1.1## Type rfNews() to see new features/changes/bug fixes.##
## Attaching package: 'randomForest'## The following object is masked from 'package:ggplot2':
##
## margin## The following object is masked from 'package:dplyr':
##
## combine- rpart ve rpart.plot paketlerini yükler. rpart, karar ağacı modeli oluşturmak için kullanılırken, rpart.plot oluşturulan karar ağacını görselleştirmek için kullanılır.
## Call:
## rpart::rpart(formula = Transported ~ ., data = train_train[,
## -1])
## n= 6520
##
## CP nsplit rel error xerror xstd
## 1 0.23321359 0 1.0000000 1.0001811 0.0001977604
## 2 0.04905507 1 0.7667864 0.7671015 0.0103212807
## 3 0.02807107 2 0.7177313 0.7180892 0.0090936774
## 4 0.02784643 3 0.6896603 0.7039381 0.0095638265
## 5 0.01770479 4 0.6618138 0.6661699 0.0097007659
## 6 0.01381587 5 0.6441090 0.6496207 0.0100644975
## 7 0.01194576 6 0.6302932 0.6389139 0.0102048399
## 8 0.01164524 7 0.6183474 0.6310762 0.0102269497
## 9 0.01000000 8 0.6067022 0.6242632 0.0102752753
##
## Variable importance
## expense CryoSleep FoodCourt Spa VRDeck RoomService
## 23 17 13 12 11 9
## deck HomePlanet ShoppingMall Age Destination
## 6 5 2 1 1
##
## Node number 1: 6520 observations, complexity param=0.2332136
## mean=0.503681, MSE=0.2499865
## left son=2 (3795 obs) right son=3 (2725 obs)
## Primary splits:
## expense < 0.5 to the right, improve=0.2332136, (0 missing)
## CryoSleep < 0.5 to the left, improve=0.2095384, (0 missing)
## RoomService < 0.5 to the right, improve=0.1254121, (0 missing)
## Spa < 0.5 to the right, improve=0.1142180, (0 missing)
## VRDeck < 0.5 to the right, improve=0.1084074, (0 missing)
## Surrogate splits:
## CryoSleep < 0.5 to the left, agree=0.932, adj=0.837, (0 split)
## Spa < 0.5 to the right, agree=0.784, adj=0.484, (0 split)
## FoodCourt < 0.5 to the right, agree=0.770, adj=0.451, (0 split)
## VRDeck < 0.5 to the right, agree=0.768, adj=0.444, (0 split)
## RoomService < 0.5 to the right, agree=0.757, adj=0.419, (0 split)
##
## Node number 2: 3795 observations, complexity param=0.02807107
## mean=0.2990777, MSE=0.2096302
## left son=4 (3243 obs) right son=5 (552 obs)
## Primary splits:
## FoodCourt < 1331 to the left, improve=0.05751186, (0 missing)
## ShoppingMall < 627.5 to the left, improve=0.04530804, (0 missing)
## RoomService < 365.5 to the right, improve=0.04440387, (0 missing)
## Spa < 257.5 to the right, improve=0.03347453, (0 missing)
## VRDeck < 721 to the right, improve=0.02290457, (0 missing)
## Surrogate splits:
## expense < 5981 to the left, agree=0.885, adj=0.210, (0 split)
## deck splits as RRRLLLLL, agree=0.884, adj=0.205, (0 split)
## HomePlanet splits as LRL, agree=0.878, adj=0.159, (0 split)
## Spa < 8955.5 to the left, agree=0.856, adj=0.009, (0 split)
## VRDeck < 11692 to the left, agree=0.856, adj=0.009, (0 split)
##
## Node number 3: 2725 observations, complexity param=0.04905507
## mean=0.7886239, MSE=0.1666963
## left son=6 (1448 obs) right son=7 (1277 obs)
## Primary splits:
## deck splits as RRRRLRL-, improve=0.17601740, (0 missing)
## HomePlanet splits as LRR, improve=0.12741890, (0 missing)
## Destination splits as RLL, improve=0.02625136, (0 missing)
## CryoSleep < 0.5 to the left, improve=0.02268236, (0 missing)
## side splits as LR, improve=0.01498707, (0 missing)
## Surrogate splits:
## HomePlanet splits as LRR, agree=0.935, adj=0.861, (0 split)
## Age < 24.5 to the left, agree=0.626, adj=0.201, (0 split)
## Destination splits as RLL, agree=0.590, adj=0.126, (0 split)
## withgroup < 0.5 to the left, agree=0.583, adj=0.110, (0 split)
## VIP < 0.5 to the left, agree=0.538, adj=0.014, (0 split)
##
## Node number 4: 3243 observations, complexity param=0.02784643
## mean=0.2537774, MSE=0.1893744
## left son=8 (2577 obs) right son=9 (666 obs)
## Primary splits:
## ShoppingMall < 541.5 to the left, improve=0.07390355, (0 missing)
## RoomService < 365.5 to the right, improve=0.03464407, (0 missing)
## Spa < 240.5 to the right, improve=0.03327259, (0 missing)
## VRDeck < 114 to the right, improve=0.02784287, (0 missing)
## expense < 2867.5 to the right, improve=0.01811461, (0 missing)
## Surrogate splits:
## expense < 18644 to the left, agree=0.795, adj=0.003, (0 split)
##
## Node number 5: 552 observations, complexity param=0.01770479
## mean=0.5652174, MSE=0.2457467
## left son=10 (123 obs) right son=11 (429 obs)
## Primary splits:
## Spa < 1372.5 to the right, improve=0.21272970, (0 missing)
## VRDeck < 1063.5 to the right, improve=0.17089500, (0 missing)
## expense < 5395 to the right, improve=0.06611166, (0 missing)
## deck splits as LLRLLRRL, improve=0.02845616, (0 missing)
## FoodCourt < 2513 to the left, improve=0.02780045, (0 missing)
## Surrogate splits:
## expense < 12647 to the right, agree=0.790, adj=0.057, (0 split)
## Age < 13.5 to the left, agree=0.779, adj=0.008, (0 split)
## RoomService < 3895.5 to the right, agree=0.779, adj=0.008, (0 split)
##
## Node number 6: 1448 observations
## mean=0.6277624, MSE=0.2336768
##
## Node number 7: 1277 observations
## mean=0.9710258, MSE=0.02813466
##
## Node number 8: 2577 observations, complexity param=0.01194576
## mean=0.193636, MSE=0.1561411
## left son=16 (2067 obs) right son=17 (510 obs)
## Primary splits:
## FoodCourt < 456.5 to the left, improve=0.04838893, (0 missing)
## expense < 1447.5 to the right, improve=0.04016842, (0 missing)
## HomePlanet splits as RLL, improve=0.02494631, (0 missing)
## Spa < 537.5 to the right, improve=0.01895890, (0 missing)
## RoomService < 400.5 to the right, improve=0.01706521, (0 missing)
## Surrogate splits:
## expense < 12373 to the left, agree=0.804, adj=0.008, (0 split)
## Spa < 13650 to the left, agree=0.803, adj=0.006, (0 split)
## VRDeck < 10123.5 to the left, agree=0.802, adj=0.002, (0 split)
## deck splits as LLLLLLLR, agree=0.802, adj=0.002, (0 split)
##
## Node number 9: 666 observations
## mean=0.4864865, MSE=0.2498174
##
## Node number 10: 123 observations
## mean=0.1382114, MSE=0.119109
##
## Node number 11: 429 observations, complexity param=0.01381587
## mean=0.6876457, MSE=0.2147891
## left son=22 (143 obs) right son=23 (286 obs)
## Primary splits:
## VRDeck < 611 to the right, improve=0.24438400, (0 missing)
## Spa < 225 to the right, improve=0.05300377, (0 missing)
## FoodCourt < 3119.5 to the left, improve=0.05168044, (0 missing)
## RoomService < 1719.5 to the right, improve=0.03930897, (0 missing)
## side splits as LR, improve=0.03734415, (0 missing)
## Surrogate splits:
## expense < 6032 to the right, agree=0.702, adj=0.105, (0 split)
## Age < 53.5 to the right, agree=0.674, adj=0.021, (0 split)
## FoodCourt < 12128.5 to the right, agree=0.671, adj=0.014, (0 split)
##
## Node number 16: 2067 observations
## mean=0.1504596, MSE=0.1278215
##
## Node number 17: 510 observations, complexity param=0.01164524
## mean=0.3686275, MSE=0.2327413
## left son=34 (204 obs) right son=35 (306 obs)
## Primary splits:
## expense < 1447.5 to the right, improve=0.15990760, (0 missing)
## VRDeck < 86.5 to the right, improve=0.10060710, (0 missing)
## HomePlanet splits as RLL, improve=0.07623828, (0 missing)
## Spa < 500 to the right, improve=0.07353369, (0 missing)
## deck splits as LLLLRRRL, improve=0.05075444, (0 missing)
## Surrogate splits:
## HomePlanet splits as RLL, agree=0.871, adj=0.676, (0 split)
## deck splits as LLLLRRRL, agree=0.839, adj=0.598, (0 split)
## VRDeck < 213.5 to the right, agree=0.818, adj=0.544, (0 split)
## Spa < 219.5 to the right, agree=0.792, adj=0.480, (0 split)
## FoodCourt < 907 to the right, agree=0.722, adj=0.304, (0 split)
##
## Node number 22: 143 observations
## mean=0.3636364, MSE=0.231405
##
## Node number 23: 286 observations
## mean=0.8496503, MSE=0.1277446
##
## Node number 34: 204 observations
## mean=0.1323529, MSE=0.1148356
##
## Node number 35: 306 observations
## mean=0.5261438, MSE=0.2493165- rpart::rpart() fonksiyonu ile karar ağacı modeli oluşturulur. summary() ile oluşturulan modelin özeti ekrana yazdırılır.
- rpart.plot() fonksiyonu ile oluşturulan karar ağacı görselleştirilir
## .
## 1 0.1504596
## 2 0.1382114
## 3 0.8496503
## 4 0.1504596
## 5 0.4864865
## 6 0.1504596Transported_pred_tree = ifelse(preds$. >0.5, 1, 0)
cm = table(Transported_train_test, Transported_pred_tree)
cm## Transported_pred_tree
## Transported_train_test 0 1
## 0 807 272
## 1 237 857## [1] 0.7657616- Oluşturulan karar ağacı modeli kullanılarak train_test veri setindeki gözlemler için tahminler yapılır. Tahminler ve gerçek değerler arasındaki karşılaştırma ile bir karışıklık matrisi oluşturulur ve doğruluk hesaplanır.
fit_tree <- rpart(Transported ~ ., data = train[, -1])
preds <- predict(fit_tree, newdata = test) %>%
data.frame()Transported <- as.character(Transported_pred_tree)
PassengerId <- test$PassengerId
Transported <- as.vector(Transported)
sample_submission <- cbind(PassengerId, Transported)
sample_submission <- as.data.frame(sample_submission)
sample_submission$Transported <- str_to_title(sample_submission$Transported)
write.csv(sample_submission, "sub_tree.csv", row.names = FALSE, quote = FALSE)- Oluşturulan karar ağacı modeli test verisi üzerinde yeniden eğitilir ve tahminler yapılır.Tahmin sonuçları sub_tree.csv dosyasına yazılır.
- Bu kod parçacığı, karar ağacı modeli kullanarak bir sınıflandırma modeli oluşturur, modelin performansını değerlendirir ve sonuçları dışa aktarır.
RANDOM FOREST ANALİZİ
GENEL BİLGİLENDİRME
Random Forest, sınıflandırma ve regresyon problemleri için kullanılan bir makine öğrenimi algoritmasıdır. Temel fikri, birçok karar ağacının bir araya gelerek oluşturduğu bir orman gibi düşünülebilir.
Her bir karar ağacı, rastgele seçilen özellikler üzerinde birçok kez eğitilir. Bu rastgele seçimler, modelin çeşitliliğini artırır ve her ağacın farklı bir şekilde eğitilmesini sağlar. Her ağaç, eğitim veri setinin bir alt kümesi üzerinde eğitilir.
Random Forest, sınıflandırma problemi için kullanıldığında, her bir karar ağacı veri noktalarını sınıflandırır ve en çok oyu alan sınıf tahmin edilir. Regresyon problemleri için kullanıldığında ise, her bir ağacın tahminlediği değerlerin ortalaması alınarak final tahmin yapılır.
Random Forest’ın avantajlarından biri, overfitting’e karşı dirençli olmasıdır. Ayrıca, genellikle diğer makine öğrenimi algoritmalarına göre daha az hiperparametre ayarı gerektirir ve genellikle iyi bir performans sağlar.
RANDOM FOREST ANALİZ KODLARI
## Warning in randomForest.default(m, y, ...): The response has five or fewer
## unique values. Are you sure you want to do regression?## IncNodePurity
## HomePlanet 48.21166
## CryoSleep 102.47495
## Destination 25.77605
## Age 92.07261
## VIP 2.43084
## RoomService 124.63959
## FoodCourt 117.08030
## ShoppingMall 99.23254
## Spa 126.77091
## VRDeck 119.08002
## withgroup 12.85779
## deck 91.49524
## side 22.59922
## expense 248.44639- randomForest() fonksiyonu ile rastgele orman modeli oluşturulur. importance özelliği ile modeldeki değişkenlerin önem sıralaması elde edilir.
## .
## 1 0.1049532
## 2 0.1112889
## 3 0.8129808
## 4 0.2158803
## 5 0.6832579
## 6 0.1744000Transported_pred_forest = ifelse(preds$. >0.5, 1, 0)
cm = table(Transported_train_test, Transported_pred_forest)
cm## Transported_pred_forest
## Transported_train_test 0 1
## 0 823 256
## 1 175 919## [1] 0.8016567- Oluşturulan rastgele orman modeli kullanılarak train_test veri setindeki gözlemler için tahminler yapılır.Tahminler ve gerçek değerler arasındaki karşılaştırma ile bir karışıklık matrisi oluşturulur ve doğruluk hesaplanır.
## Warning in randomForest.default(m, y, ...): The response has five or fewer
## unique values. Are you sure you want to do regression?Transported <- as.character(Transported_pred_forest)
PassengerId <- test$PassengerId
Transported <- as.vector(Transported)
sample_submission <- cbind(PassengerId, Transported)
sample_submission <- as.data.frame(sample_submission)
sample_submission$Transported <- str_to_title(sample_submission$Transported)
write.csv(sample_submission, "sub_random_for.csv", row.names = FALSE, quote = FALSE)- Oluşturulan rastgele orman modeli kullanılarak train_test veri setindeki gözlemler için tahminler yapılır.Tahminler ve gerçek değerler arasındaki karşılaştırma ile bir karışıklık matrisi oluşturulur ve doğruluk hesaplanır.
RANDOM FOREST ANALİZ SONUCU
# Başarı oranlarını tanımla
regresyon_accuracy <- 0.77
lojistik_regresyon_accuracy <- 0.79
naive_bayes_accuracy <- 0.72
svm_accuracy <- 0.79
svm_radial_accuracy <- 0.80
decision_tree_accuracy <- 0.77
random_forest_accuracy <- 0.80
# Veri çerçevesini oluştur
dogruluk_performans <- data.frame(
Modeller = c("Regresyon", "Lojistik Regresyon", "Naive Bayes", "SVM", "SVM Radial","Decision Trees", "Random Forest"),
Dogruluk = c(regresyon_accuracy, lojistik_regresyon_accuracy, naive_bayes_accuracy, svm_accuracy, svm_radial_accuracy,decision_tree_accuracy, random_forest_accuracy)
)
# Doğruluk oranlarını görselleştir
library(ggplot2)
ggplot(data = dogruluk_performans, aes(x = Modeller, y = Dogruluk)) +
geom_bar(stat = "identity", fill = "blue", width = 0.3) +
labs(title = "Farklı Modellerin Doğruluk Karşılaştırması", x = "Modeller", y = "Doğruluk Oranı") +
theme(plot.title = element_text(hjust = 0.5))
Başarı Oranlarının Tanımlanması: Başarı oranları, her bir modelin doğruluk oranlarını temsil eder. Bu oranlar önceden hesaplanmış olabilir veya bir değerlendirme süreci sonucunda elde edilmiş olabilir.
Veri Çerçevesinin Oluşturulması: dogruluk_performans adlı bir veri çerçevesi oluşturulur. Bu veri çerçevesi, modellerin adlarını ve bunlara karşılık gelen doğruluk oranlarını içerir.
Doğruluk Oranlarının Görselleştirilmesi: ggplot2 paketi kullanılarak doğruluk oranları çubuk grafik olarak görselleştirilir. Her çubuk bir modeli temsil ederken, çubuk yükseklikleri doğruluk oranlarını gösterir. Grafiğin başlığı, x ve y ekseni etiketleri belirlenir. theme fonksiyonu ile grafiğin başlığının merkezlenmesi sağlanır.
# Kütüphaneleri yükle
library(ggplot2)
# Başarı oranlarını tanımla
regresyon_accuracy <- 0.77
lojistik_regresyon_accuracy <- 0.79
naive_bayes_accuracy <- 0.72
svm_accuracy <- 0.79
svm_radial_accuracy <- 0.80
decision_tree_accuracy <- 0.77
random_forest_accuracy <- 0.80
# Veri çerçevesini oluştur
dogruluk_performanss <- data.frame(
Modeller = c("Regresyon", "Lojistik Regresyon", "Naive Bayes", "SVM", "SVM Radial","Decision Trees", "Random Forest"),
Dogruluk = c(regresyon_accuracy, lojistik_regresyon_accuracy, naive_bayes_accuracy, svm_accuracy, svm_radial_accuracy, decision_tree_accuracy, random_forest_accuracy)
)
# Nokta grafiği oluştur
ggplot(data = dogruluk_performanss, aes(x = Modeller, y = Dogruluk)) +
geom_point(size = 4, color = "blue") +
labs(title = "Farklı Modellerin Doğruluk Karşılaştırması", x = "Modeller", y = "Doğruluk Oranı") +
theme(plot.title = element_text(hjust = 0.5)) +
geom_text(aes(label=Dogruluk), vjust=-1.5, size=3.5)
Başarı Oranlarının Tanımlanması: Başarı oranları, her bir modelin doğruluk oranlarını temsil eder. Bu oranlar önceden hesaplanmış olabilir veya bir değerlendirme süreci sonucunda elde edilmiş olabilir.
Veri Çerçevesinin Oluşturulması: dogruluk_performanss adlı bir veri çerçevesi oluşturulur. Bu veri çerçevesi, modellerin adlarını ve bunlara karşılık gelen doğruluk oranlarını içerir.
Nokta Grafiğinin Oluşturulması: ggplot() fonksiyonu kullanılarak bir nokta grafiği oluşturulur. aes() içinde x ve y eksenlerinin ayarları yapılır. geom_point() ile nokta grafiği çizilir. labs() ile başlık ve eksen etiketleri belirlenir. theme fonksiyonu ile grafiğin başlığının merkezlenmesi sağlanır. geom_text() fonksiyonu ile her noktanın üzerine doğruluk oranları yazdırılır.
# Çizgi grafiği oluştur
ggplot(data = dogruluk_performanss, aes(x = Modeller, y = Dogruluk, group = 1)) +
geom_line(color = "blue", size = 1) +
geom_point(size = 4, color = "blue") +
labs(title = "Farklı Modellerin Doğruluk Karşılaştırması", x = "Modeller", y = "Doğruluk Oranı") +
theme(plot.title = element_text(hjust = 0.5)) +
geom_text(aes(label=Dogruluk), vjust=-1.5, size=3.5)## Warning: Using `size` aesthetic for lines was deprecated in ggplot2 3.4.0.
## ℹ Please use `linewidth` instead.
## This warning is displayed once every 8 hours.
## Call `lifecycle::last_lifecycle_warnings()` to see where this warning was
## generated.
- Çizgi Grafiğinin Oluşturulması: ggplot() fonksiyonu kullanılarak bir çizgi grafiği oluşturulur. aes() içinde x ve y eksenlerinin ayarları yapılır. geom_line() ile çizgi grafiği çizilir. geom_point() ile nokta grafiği çizilir. labs() ile başlık ve eksen etiketleri belirlenir. theme fonksiyonu ile grafiğin başlığının merkezlenmesi sağlanır. geom_text() fonksiyonu ile her noktanın üzerine doğruluk oranları yazdırılır.