#1 пункт
options(repos = c(CRAN = "https://cloud.r-project.org/"))
install.packages("caret")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'caret' успешно распакован, MD5-суммы проверены
## Warning: не могу удалить прежнюю установку пакета 'caret'
## Warning in file.copy(savedcopy, lib, recursive = TRUE): проблема с копированием
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\00LOCK\caret\libs\x64\caret.dll
## в C:\Users\mtspr\AppData\Local\R\win-library\4.4\caret\libs\x64\caret.dll:
## Permission denied
## Warning: восстановлен 'caret'
##
## Скачанные бинарные пакеты находятся в
## C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(caret)
## Загрузка требуемого пакета: ggplot2
## Загрузка требуемого пакета: lattice
names(getModelInfo())
## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"
featurePlot(x <- matrix(rnorm(50*5),ncol=5), y <- factor(rep(c("A", "B"), 25)))
#Выводы: Распределение для классов A и B сильно перекрывается, что может
указывать на его низкую значимость для классификации.
#2 пункт
install.packages("FSelector")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'FSelector' успешно распакован, MD5-суммы проверены
##
## Скачанные бинарные пакеты находятся в
## C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(FSelector)
data(iris)
weights <- information.gain(Species ~ ., data = iris)
print(weights)
## attr_importance
## Sepal.Length 0.4521286
## Sepal.Width 0.2672750
## Petal.Length 0.9402853
## Petal.Width 0.9554360
#Выводы: Признаки Petal.Length и Petal.Width имеют наибольшую важность для классификации видов ирисов.Признак Sepal.Width имеет наименьшую важность.
#3 пункт
install.packages("arules")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'arules' успешно распакован, MD5-суммы проверены
## Warning: не могу удалить прежнюю установку пакета 'arules'
## Warning in file.copy(savedcopy, lib, recursive = TRUE): проблема с копированием
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\00LOCK\arules\libs\x64\arules.dll
## в C:\Users\mtspr\AppData\Local\R\win-library\4.4\arules\libs\x64\arules.dll:
## Permission denied
## Warning: восстановлен 'arules'
##
## Скачанные бинарные пакеты находятся в
## C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(arules)
## Загрузка требуемого пакета: Matrix
##
## Присоединяю пакет: 'arules'
## Следующие объекты скрыты от 'package:base':
##
## abbreviate, write
data(iris)
# Метод 1: interval
iris$Sepal.Length_interval <- discretize(iris$Sepal.Length, method = "interval", breaks = 3)
table(iris$Sepal.Length_interval)
##
## [4.3,5.5) [5.5,6.7) [6.7,7.9]
## 52 70 28
# Метод 2: frequency
iris$Sepal.Length_frequency <- discretize(iris$Sepal.Length, method = "frequency", breaks = 3)
table(iris$Sepal.Length_frequency)
##
## [4.3,5.4) [5.4,6.3) [6.3,7.9]
## 46 53 51
# Метод 3: cluster
iris$Sepal.Length_cluster <- discretize(iris$Sepal.Length, method = "cluster", breaks = 3)
table(iris$Sepal.Length_cluster)
##
## [4.3,5.45) [5.45,6.46) [6.46,7.9]
## 52 63 35
# Метод 4: fixed
iris$Sepal.Length_fixed <- discretize(iris$Sepal.Length, method = "fixed", breaks = c(-Inf, 5.5, 6.5, Inf))
table(iris$Sepal.Length_fixed)
##
## [-Inf,5.5) [5.5,6.5) [6.5, Inf]
## 52 63 35
#Вывод: Метод interval создает интервалы одинаковой ширины, но количество наблюдений в каждом интервале может различаться. #Метод frequency создает интервалы с одинаковым количеством наблюдений, но ширина интервалов может различаться. #Метод cluster группирует данные на основе кластеризации, что может быть полезно для выявления естественных групп. #Метод fixed позволяет задать границы интервалов вручную, что полезно, если у вас есть предварительные знания о данных.
#4 пункт
install.packages("Boruta")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'Boruta' успешно распакован, MD5-суммы проверены
##
## Скачанные бинарные пакеты находятся в
## C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
install.packages("reshape2")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'reshape2' успешно распакован, MD5-суммы проверены
## Warning: не могу удалить прежнюю установку пакета 'reshape2'
## Warning in file.copy(savedcopy, lib, recursive = TRUE): проблема с копированием
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\00LOCK\reshape2\libs\x64\reshape2.dll
## в
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\reshape2\libs\x64\reshape2.dll:
## Permission denied
## Warning: восстановлен 'reshape2'
##
## Скачанные бинарные пакеты находятся в
## C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(Boruta)
library(ggplot2)
library(reshape2)
data(airquality)
data <- na.omit(airquality)
boruta_output <- Boruta(Ozone ~ ., data = data, doTrace = 2)
## 1. run of importance source...
## 2. run of importance source...
## 3. run of importance source...
## 4. run of importance source...
## 5. run of importance source...
## 6. run of importance source...
## 7. run of importance source...
## 8. run of importance source...
## 9. run of importance source...
## After 9 iterations, +0.43 secs:
## confirmed 4 attributes: Month, Solar.R, Temp, Wind;
## still have 1 attribute left.
## 10. run of importance source...
## 11. run of importance source...
## 12. run of importance source...
## 13. run of importance source...
## 14. run of importance source...
## 15. run of importance source...
## 16. run of importance source...
## 17. run of importance source...
## 18. run of importance source...
## 19. run of importance source...
## 20. run of importance source...
## 21. run of importance source...
## 22. run of importance source...
## 23. run of importance source...
## 24. run of importance source...
## 25. run of importance source...
## 26. run of importance source...
## 27. run of importance source...
## 28. run of importance source...
## 29. run of importance source...
## 30. run of importance source...
## 31. run of importance source...
## 32. run of importance source...
## 33. run of importance source...
## 34. run of importance source...
## 35. run of importance source...
## 36. run of importance source...
## 37. run of importance source...
## 38. run of importance source...
## 39. run of importance source...
## After 39 iterations, +1.6 secs:
## confirmed 1 attribute: Day;
## no more attributes left.
print(boruta_output)
## Boruta performed 39 iterations in 1.557386 secs.
## 5 attributes confirmed important: Day, Month, Solar.R, Temp, Wind;
## No attributes deemed unimportant.
plot(boruta_output, cex.axis = 0.7, las = 2, xlab = "", main = "Важность признаков")
confirmed_features <- getSelectedAttributes(boruta_output, withTentative = TRUE)
print(confirmed_features)
## [1] "Solar.R" "Wind" "Temp" "Month" "Day"
data$Ozone_category <- cut(data$Ozone, breaks = 3, labels = c("Low", "Medium", "High"))
data_melt <- melt(data, id.vars = "Ozone_category", measure.vars = confirmed_features)
head(data_melt)
## Ozone_category variable value
## 1 Low Solar.R 190
## 2 Low Solar.R 118
## 3 Low Solar.R 149
## 4 Low Solar.R 313
## 5 Low Solar.R 299
## 6 Low Solar.R 99
ggplot(data_melt, aes(x = Ozone_category, y = value, fill = variable)) +
geom_boxplot() +
labs(title = "Распределение переменных по уровням Ozone",
x = "Уровень Ozone",
y = "Значение переменной",
fill = "Переменная") +
theme_minimal()
#Вывоы: Использование пакета Boruta позволяет эффективно выбрать важные
признаки для анализа. График boxplot помогает визуализировать
распределение целевой переменной в зависимости от выбранных признаков,
что упрощает интерпретацию результатов.