#1 пункт

options(repos = c(CRAN = "https://cloud.r-project.org/"))
install.packages("caret")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'caret' успешно распакован, MD5-суммы проверены
## Warning: не могу удалить прежнюю установку пакета 'caret'
## Warning in file.copy(savedcopy, lib, recursive = TRUE): проблема с копированием
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\00LOCK\caret\libs\x64\caret.dll
## в C:\Users\mtspr\AppData\Local\R\win-library\4.4\caret\libs\x64\caret.dll:
## Permission denied
## Warning: восстановлен 'caret'
## 
## Скачанные бинарные пакеты находятся в
##  C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(caret)
## Загрузка требуемого пакета: ggplot2
## Загрузка требуемого пакета: lattice
names(getModelInfo())
##   [1] "ada"                 "AdaBag"              "AdaBoost.M1"        
##   [4] "adaboost"            "amdai"               "ANFIS"              
##   [7] "avNNet"              "awnb"                "awtan"              
##  [10] "bag"                 "bagEarth"            "bagEarthGCV"        
##  [13] "bagFDA"              "bagFDAGCV"           "bam"                
##  [16] "bartMachine"         "bayesglm"            "binda"              
##  [19] "blackboost"          "blasso"              "blassoAveraged"     
##  [22] "bridge"              "brnn"                "BstLm"              
##  [25] "bstSm"               "bstTree"             "C5.0"               
##  [28] "C5.0Cost"            "C5.0Rules"           "C5.0Tree"           
##  [31] "cforest"             "chaid"               "CSimca"             
##  [34] "ctree"               "ctree2"              "cubist"             
##  [37] "dda"                 "deepboost"           "DENFIS"             
##  [40] "dnn"                 "dwdLinear"           "dwdPoly"            
##  [43] "dwdRadial"           "earth"               "elm"                
##  [46] "enet"                "evtree"              "extraTrees"         
##  [49] "fda"                 "FH.GBML"             "FIR.DM"             
##  [52] "foba"                "FRBCS.CHI"           "FRBCS.W"            
##  [55] "FS.HGD"              "gam"                 "gamboost"           
##  [58] "gamLoess"            "gamSpline"           "gaussprLinear"      
##  [61] "gaussprPoly"         "gaussprRadial"       "gbm_h2o"            
##  [64] "gbm"                 "gcvEarth"            "GFS.FR.MOGUL"       
##  [67] "GFS.LT.RS"           "GFS.THRIFT"          "glm.nb"             
##  [70] "glm"                 "glmboost"            "glmnet_h2o"         
##  [73] "glmnet"              "glmStepAIC"          "gpls"               
##  [76] "hda"                 "hdda"                "hdrda"              
##  [79] "HYFIS"               "icr"                 "J48"                
##  [82] "JRip"                "kernelpls"           "kknn"               
##  [85] "knn"                 "krlsPoly"            "krlsRadial"         
##  [88] "lars"                "lars2"               "lasso"              
##  [91] "lda"                 "lda2"                "leapBackward"       
##  [94] "leapForward"         "leapSeq"             "Linda"              
##  [97] "lm"                  "lmStepAIC"           "LMT"                
## [100] "loclda"              "logicBag"            "LogitBoost"         
## [103] "logreg"              "lssvmLinear"         "lssvmPoly"          
## [106] "lssvmRadial"         "lvq"                 "M5"                 
## [109] "M5Rules"             "manb"                "mda"                
## [112] "Mlda"                "mlp"                 "mlpKerasDecay"      
## [115] "mlpKerasDecayCost"   "mlpKerasDropout"     "mlpKerasDropoutCost"
## [118] "mlpML"               "mlpSGD"              "mlpWeightDecay"     
## [121] "mlpWeightDecayML"    "monmlp"              "msaenet"            
## [124] "multinom"            "mxnet"               "mxnetAdam"          
## [127] "naive_bayes"         "nb"                  "nbDiscrete"         
## [130] "nbSearch"            "neuralnet"           "nnet"               
## [133] "nnls"                "nodeHarvest"         "null"               
## [136] "OneR"                "ordinalNet"          "ordinalRF"          
## [139] "ORFlog"              "ORFpls"              "ORFridge"           
## [142] "ORFsvm"              "ownn"                "pam"                
## [145] "parRF"               "PART"                "partDSA"            
## [148] "pcaNNet"             "pcr"                 "pda"                
## [151] "pda2"                "penalized"           "PenalizedLDA"       
## [154] "plr"                 "pls"                 "plsRglm"            
## [157] "polr"                "ppr"                 "pre"                
## [160] "PRIM"                "protoclass"          "qda"                
## [163] "QdaCov"              "qrf"                 "qrnn"               
## [166] "randomGLM"           "ranger"              "rbf"                
## [169] "rbfDDA"              "Rborist"             "rda"                
## [172] "regLogistic"         "relaxo"              "rf"                 
## [175] "rFerns"              "RFlda"               "rfRules"            
## [178] "ridge"               "rlda"                "rlm"                
## [181] "rmda"                "rocc"                "rotationForest"     
## [184] "rotationForestCp"    "rpart"               "rpart1SE"           
## [187] "rpart2"              "rpartCost"           "rpartScore"         
## [190] "rqlasso"             "rqnc"                "RRF"                
## [193] "RRFglobal"           "rrlda"               "RSimca"             
## [196] "rvmLinear"           "rvmPoly"             "rvmRadial"          
## [199] "SBC"                 "sda"                 "sdwd"               
## [202] "simpls"              "SLAVE"               "slda"               
## [205] "smda"                "snn"                 "sparseLDA"          
## [208] "spikeslab"           "spls"                "stepLDA"            
## [211] "stepQDA"             "superpc"             "svmBoundrangeString"
## [214] "svmExpoString"       "svmLinear"           "svmLinear2"         
## [217] "svmLinear3"          "svmLinearWeights"    "svmLinearWeights2"  
## [220] "svmPoly"             "svmRadial"           "svmRadialCost"      
## [223] "svmRadialSigma"      "svmRadialWeights"    "svmSpectrumString"  
## [226] "tan"                 "tanSearch"           "treebag"            
## [229] "vbmpRadial"          "vglmAdjCat"          "vglmContRatio"      
## [232] "vglmCumulative"      "widekernelpls"       "WM"                 
## [235] "wsrf"                "xgbDART"             "xgbLinear"          
## [238] "xgbTree"             "xyf"
featurePlot(x <- matrix(rnorm(50*5),ncol=5), y <- factor(rep(c("A", "B"), 25)))

#Выводы: Распределение для классов A и B сильно перекрывается, что может указывать на его низкую значимость для классификации.

#2 пункт

install.packages("FSelector")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'FSelector' успешно распакован, MD5-суммы проверены
## 
## Скачанные бинарные пакеты находятся в
##  C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(FSelector)
data(iris)
weights <- information.gain(Species ~ ., data = iris)
print(weights)
##              attr_importance
## Sepal.Length       0.4521286
## Sepal.Width        0.2672750
## Petal.Length       0.9402853
## Petal.Width        0.9554360

#Выводы: Признаки Petal.Length и Petal.Width имеют наибольшую важность для классификации видов ирисов.Признак Sepal.Width имеет наименьшую важность.

#3 пункт

install.packages("arules")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'arules' успешно распакован, MD5-суммы проверены
## Warning: не могу удалить прежнюю установку пакета 'arules'
## Warning in file.copy(savedcopy, lib, recursive = TRUE): проблема с копированием
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\00LOCK\arules\libs\x64\arules.dll
## в C:\Users\mtspr\AppData\Local\R\win-library\4.4\arules\libs\x64\arules.dll:
## Permission denied
## Warning: восстановлен 'arules'
## 
## Скачанные бинарные пакеты находятся в
##  C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(arules)
## Загрузка требуемого пакета: Matrix
## 
## Присоединяю пакет: 'arules'
## Следующие объекты скрыты от 'package:base':
## 
##     abbreviate, write
data(iris)
# Метод 1: interval
iris$Sepal.Length_interval <- discretize(iris$Sepal.Length, method = "interval", breaks = 3)
table(iris$Sepal.Length_interval)
## 
## [4.3,5.5) [5.5,6.7) [6.7,7.9] 
##        52        70        28
# Метод 2: frequency
iris$Sepal.Length_frequency <- discretize(iris$Sepal.Length, method = "frequency", breaks = 3)
table(iris$Sepal.Length_frequency)
## 
## [4.3,5.4) [5.4,6.3) [6.3,7.9] 
##        46        53        51
# Метод 3: cluster
iris$Sepal.Length_cluster <- discretize(iris$Sepal.Length, method = "cluster", breaks = 3)
table(iris$Sepal.Length_cluster)
## 
##  [4.3,5.45) [5.45,6.46)  [6.46,7.9] 
##          52          63          35
# Метод 4: fixed
iris$Sepal.Length_fixed <- discretize(iris$Sepal.Length, method = "fixed", breaks = c(-Inf, 5.5, 6.5, Inf))
table(iris$Sepal.Length_fixed)
## 
## [-Inf,5.5)  [5.5,6.5) [6.5, Inf] 
##         52         63         35

#Вывод: Метод interval создает интервалы одинаковой ширины, но количество наблюдений в каждом интервале может различаться. #Метод frequency создает интервалы с одинаковым количеством наблюдений, но ширина интервалов может различаться. #Метод cluster группирует данные на основе кластеризации, что может быть полезно для выявления естественных групп. #Метод fixed позволяет задать границы интервалов вручную, что полезно, если у вас есть предварительные знания о данных.

#4 пункт

install.packages("Boruta")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'Boruta' успешно распакован, MD5-суммы проверены
## 
## Скачанные бинарные пакеты находятся в
##  C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
install.packages("reshape2")
## Устанавливаю пакет в 'C:/Users/mtspr/AppData/Local/R/win-library/4.4'
## (потому что 'lib' не определено)
## пакет 'reshape2' успешно распакован, MD5-суммы проверены
## Warning: не могу удалить прежнюю установку пакета 'reshape2'
## Warning in file.copy(savedcopy, lib, recursive = TRUE): проблема с копированием
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\00LOCK\reshape2\libs\x64\reshape2.dll
## в
## C:\Users\mtspr\AppData\Local\R\win-library\4.4\reshape2\libs\x64\reshape2.dll:
## Permission denied
## Warning: восстановлен 'reshape2'
## 
## Скачанные бинарные пакеты находятся в
##  C:\Users\mtspr\AppData\Local\Temp\Rtmp657Wcb\downloaded_packages
library(Boruta)
library(ggplot2)
library(reshape2)

data(airquality)
data <- na.omit(airquality)
boruta_output <- Boruta(Ozone ~ ., data = data, doTrace = 2)
##  1. run of importance source...
##  2. run of importance source...
##  3. run of importance source...
##  4. run of importance source...
##  5. run of importance source...
##  6. run of importance source...
##  7. run of importance source...
##  8. run of importance source...
##  9. run of importance source...
## After 9 iterations, +0.43 secs:
##  confirmed 4 attributes: Month, Solar.R, Temp, Wind;
##  still have 1 attribute left.
##  10. run of importance source...
##  11. run of importance source...
##  12. run of importance source...
##  13. run of importance source...
##  14. run of importance source...
##  15. run of importance source...
##  16. run of importance source...
##  17. run of importance source...
##  18. run of importance source...
##  19. run of importance source...
##  20. run of importance source...
##  21. run of importance source...
##  22. run of importance source...
##  23. run of importance source...
##  24. run of importance source...
##  25. run of importance source...
##  26. run of importance source...
##  27. run of importance source...
##  28. run of importance source...
##  29. run of importance source...
##  30. run of importance source...
##  31. run of importance source...
##  32. run of importance source...
##  33. run of importance source...
##  34. run of importance source...
##  35. run of importance source...
##  36. run of importance source...
##  37. run of importance source...
##  38. run of importance source...
##  39. run of importance source...
## After 39 iterations, +1.6 secs:
##  confirmed 1 attribute: Day;
##  no more attributes left.
print(boruta_output)
## Boruta performed 39 iterations in 1.557386 secs.
##  5 attributes confirmed important: Day, Month, Solar.R, Temp, Wind;
##  No attributes deemed unimportant.
plot(boruta_output, cex.axis = 0.7, las = 2, xlab = "", main = "Важность признаков")

confirmed_features <- getSelectedAttributes(boruta_output, withTentative = TRUE)
print(confirmed_features)
## [1] "Solar.R" "Wind"    "Temp"    "Month"   "Day"
data$Ozone_category <- cut(data$Ozone, breaks = 3, labels = c("Low", "Medium", "High"))
data_melt <- melt(data, id.vars = "Ozone_category", measure.vars = confirmed_features)

head(data_melt)
##   Ozone_category variable value
## 1            Low  Solar.R   190
## 2            Low  Solar.R   118
## 3            Low  Solar.R   149
## 4            Low  Solar.R   313
## 5            Low  Solar.R   299
## 6            Low  Solar.R    99
ggplot(data_melt, aes(x = Ozone_category, y = value, fill = variable)) +
  geom_boxplot() +
  labs(title = "Распределение переменных по уровням Ozone",
       x = "Уровень Ozone",
       y = "Значение переменной",
       fill = "Переменная") +
  theme_minimal()

#Вывоы: Использование пакета Boruta позволяет эффективно выбрать важные признаки для анализа. График boxplot помогает визуализировать распределение целевой переменной в зависимости от выбранных признаков, что упрощает интерпретацию результатов.