Задание 1

Установить пакет CARET, выполнить команду names(getModelInfo()), ознакомиться со списком доступных методов выбора признаков. Выполните графический разведочный анализ данных с использование функции featurePlot() для набора данных из справочного файла пакета CARET: x <- matrix(rnorm(505),ncol=5) y <- factor(rep(c(“A”, “B”), 25)) Сохранить полученные графики в .jpg файлы. Сделать выводы.

Установка и загрузка пакета

if(!require(caret)) 
{ 
  install.packages("caret") 
  library(caret) 
}
## Загрузка требуемого пакета: caret
## Warning: пакет 'caret' был собран под R версии 4.4.3
## Загрузка требуемого пакета: ggplot2
## Загрузка требуемого пакета: lattice

Ввыведем список моделей, который использует пакет caret

names(getModelInfo())
##   [1] "ada"                 "AdaBag"              "AdaBoost.M1"        
##   [4] "adaboost"            "amdai"               "ANFIS"              
##   [7] "avNNet"              "awnb"                "awtan"              
##  [10] "bag"                 "bagEarth"            "bagEarthGCV"        
##  [13] "bagFDA"              "bagFDAGCV"           "bam"                
##  [16] "bartMachine"         "bayesglm"            "binda"              
##  [19] "blackboost"          "blasso"              "blassoAveraged"     
##  [22] "bridge"              "brnn"                "BstLm"              
##  [25] "bstSm"               "bstTree"             "C5.0"               
##  [28] "C5.0Cost"            "C5.0Rules"           "C5.0Tree"           
##  [31] "cforest"             "chaid"               "CSimca"             
##  [34] "ctree"               "ctree2"              "cubist"             
##  [37] "dda"                 "deepboost"           "DENFIS"             
##  [40] "dnn"                 "dwdLinear"           "dwdPoly"            
##  [43] "dwdRadial"           "earth"               "elm"                
##  [46] "enet"                "evtree"              "extraTrees"         
##  [49] "fda"                 "FH.GBML"             "FIR.DM"             
##  [52] "foba"                "FRBCS.CHI"           "FRBCS.W"            
##  [55] "FS.HGD"              "gam"                 "gamboost"           
##  [58] "gamLoess"            "gamSpline"           "gaussprLinear"      
##  [61] "gaussprPoly"         "gaussprRadial"       "gbm_h2o"            
##  [64] "gbm"                 "gcvEarth"            "GFS.FR.MOGUL"       
##  [67] "GFS.LT.RS"           "GFS.THRIFT"          "glm.nb"             
##  [70] "glm"                 "glmboost"            "glmnet_h2o"         
##  [73] "glmnet"              "glmStepAIC"          "gpls"               
##  [76] "hda"                 "hdda"                "hdrda"              
##  [79] "HYFIS"               "icr"                 "J48"                
##  [82] "JRip"                "kernelpls"           "kknn"               
##  [85] "knn"                 "krlsPoly"            "krlsRadial"         
##  [88] "lars"                "lars2"               "lasso"              
##  [91] "lda"                 "lda2"                "leapBackward"       
##  [94] "leapForward"         "leapSeq"             "Linda"              
##  [97] "lm"                  "lmStepAIC"           "LMT"                
## [100] "loclda"              "logicBag"            "LogitBoost"         
## [103] "logreg"              "lssvmLinear"         "lssvmPoly"          
## [106] "lssvmRadial"         "lvq"                 "M5"                 
## [109] "M5Rules"             "manb"                "mda"                
## [112] "Mlda"                "mlp"                 "mlpKerasDecay"      
## [115] "mlpKerasDecayCost"   "mlpKerasDropout"     "mlpKerasDropoutCost"
## [118] "mlpML"               "mlpSGD"              "mlpWeightDecay"     
## [121] "mlpWeightDecayML"    "monmlp"              "msaenet"            
## [124] "multinom"            "mxnet"               "mxnetAdam"          
## [127] "naive_bayes"         "nb"                  "nbDiscrete"         
## [130] "nbSearch"            "neuralnet"           "nnet"               
## [133] "nnls"                "nodeHarvest"         "null"               
## [136] "OneR"                "ordinalNet"          "ordinalRF"          
## [139] "ORFlog"              "ORFpls"              "ORFridge"           
## [142] "ORFsvm"              "ownn"                "pam"                
## [145] "parRF"               "PART"                "partDSA"            
## [148] "pcaNNet"             "pcr"                 "pda"                
## [151] "pda2"                "penalized"           "PenalizedLDA"       
## [154] "plr"                 "pls"                 "plsRglm"            
## [157] "polr"                "ppr"                 "pre"                
## [160] "PRIM"                "protoclass"          "qda"                
## [163] "QdaCov"              "qrf"                 "qrnn"               
## [166] "randomGLM"           "ranger"              "rbf"                
## [169] "rbfDDA"              "Rborist"             "rda"                
## [172] "regLogistic"         "relaxo"              "rf"                 
## [175] "rFerns"              "RFlda"               "rfRules"            
## [178] "ridge"               "rlda"                "rlm"                
## [181] "rmda"                "rocc"                "rotationForest"     
## [184] "rotationForestCp"    "rpart"               "rpart1SE"           
## [187] "rpart2"              "rpartCost"           "rpartScore"         
## [190] "rqlasso"             "rqnc"                "RRF"                
## [193] "RRFglobal"           "rrlda"               "RSimca"             
## [196] "rvmLinear"           "rvmPoly"             "rvmRadial"          
## [199] "SBC"                 "sda"                 "sdwd"               
## [202] "simpls"              "SLAVE"               "slda"               
## [205] "smda"                "snn"                 "sparseLDA"          
## [208] "spikeslab"           "spls"                "stepLDA"            
## [211] "stepQDA"             "superpc"             "svmBoundrangeString"
## [214] "svmExpoString"       "svmLinear"           "svmLinear2"         
## [217] "svmLinear3"          "svmLinearWeights"    "svmLinearWeights2"  
## [220] "svmPoly"             "svmRadial"           "svmRadialCost"      
## [223] "svmRadialSigma"      "svmRadialWeights"    "svmSpectrumString"  
## [226] "tan"                 "tanSearch"           "treebag"            
## [229] "vbmpRadial"          "vglmAdjCat"          "vglmContRatio"      
## [232] "vglmCumulative"      "widekernelpls"       "WM"                 
## [235] "wsrf"                "xgbDART"             "xgbLinear"          
## [238] "xgbTree"             "xyf"

Создаем переменные, в которые генерируем данные

x <- matrix(rnorm(50*5),ncol=5)
y <- factor(rep(c("A", "B"), 25))

Загружаем изображение, выводим формулу для создания диаграмма распределения (показывает, насколько вероятны различные значения непрерывной случайной величины), которая выведется в это изображение, после чего завершаем запись графиков в изображение.

jpeg("1.jpg")
featurePlot(x, y, plot="density", col=c("#f15596", "#7891e2"))
dev.off()
## png 
##   2

Диаграмма распределения

Теперь аналогичным образом создадим бокс график (показывает, как распределены данные).

jpeg("2.jpg")
featurePlot(x, y, plot="box", col=c("#f15596", "#7891e2"))
dev.off()
## png 
##   2
Бокс график
Бокс график

Подведем итоги. Данные сгенерированы с нормальным распределением. На графиках видно минимальное различие между классами, это связано с тем, что данные сгенерированы случайно.

Задание 2

С использование функций из пакета Fselector [2] определить важность признаков для решения задачи классификации. Использовать набор data(iris). Сделать выводы.

Устанавливаем пакет и выгружаем его.А так же загрузим данные из пакета iris.

if(!require(FSelector)) 
{ 
  install.packages("FSelector") 
  library(FSelector) 
}
## Загрузка требуемого пакета: FSelector
## Warning: пакет 'FSelector' был собран под R версии 4.4.3

В первую очередь воспользуемся функцией information.gain. Эта функция вычисляет, сколько информации о целевой переменной дает каждый признак. В данной формуле первый аргументом мы указываем, что хотим предсказать Species с использованием всех остальных данных. Тильда разделяет зависимую часть (левую) от независимой (правой).Все признаки имеют ценность для анализа.

information.gain(Species ~ ., iris)
##              attr_importance
## Sepal.Length       0.4521286
## Sepal.Width        0.2672750
## Petal.Length       0.9402853
## Petal.Width        0.9554360

Следующей функцией используем gain.ratio (модификация функции information.gain), эта функция учитывает размер признака, чтобы не завышать его важность. Из нее следует, что в целом важность признаков не сильно изменилась, по сравнению с результатом работы information.gain.

gain.ratio(Species ~ ., iris)
##              attr_importance
## Sepal.Length       0.4196464
## Sepal.Width        0.2472972
## Petal.Length       0.8584937
## Petal.Width        0.8713692

Теперь посмотрим результат работы функции chi.squared. Данная функция проверяет, существует ли связь между каждым признаком и целевой переменной, она измеряет, насколько часто значение признака и целевой переменной совпадают с ожиданиями, если бы между ними не было связи.

chi.squared(Species ~ ., iris)
##              attr_importance
## Sepal.Length       0.6288067
## Sepal.Width        0.4922162
## Petal.Length       0.9346311
## Petal.Width        0.9432359

Из выполненных ранее методов можно сделать следующие выводы. Все три метода показали, что Petal.Length и Petal.Width несут наибольшую ценность, нежели чем другие признаки. Хотя каждый признак можно отнести к важным.

Задание 3

С использованием функции discretize() из пакета arules выполните преобразование непрерывной переменной в категориальную [3] различными методами: «interval» (равная ширина интервала), «frequency» (равная частота), «cluster» (кластеризация) и «fixed» (категории задают границы интервалов). Используйте набор данных iris. Сделайте выводы

Установим пакет arules и выгрузим его.

if(!require(arules)) 
{ 
  install.packages("arules") 
  library(arules) 
}
## Загрузка требуемого пакета: arules
## Warning: пакет 'arules' был собран под R версии 4.4.3
## Загрузка требуемого пакета: Matrix
## 
## Присоединяю пакет: 'arules'
## Следующие объекты скрыты от 'package:base':
## 
##     abbreviate, write

Далее используем функцию discretize для преобразования непрерывной переменной в категориальные переменную с использованием метода равных интервалов. Этот метод выбирает интервалы равные по ширине. В ответ получаем 3 уровня категориальной переменной, разбитой на интервалы. Границы рассчитаны на основе минимальных и максимальных значений данных.

interval <- discretize(iris$Petal.Length, method = "interval")
interval
##   [1] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##   [7] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [13] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [19] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [25] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [31] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [37] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [43] [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)    [1,2.97)   
##  [49] [1,2.97)    [1,2.97)    [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93)
##  [55] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93)
##  [61] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93)
##  [67] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93)
##  [73] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [4.93,6.9] 
##  [79] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [4.93,6.9] 
##  [85] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93)
##  [91] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93)
##  [97] [2.97,4.93) [2.97,4.93) [2.97,4.93) [2.97,4.93) [4.93,6.9]  [4.93,6.9] 
## [103] [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [2.97,4.93) [4.93,6.9] 
## [109] [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9] 
## [115] [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9] 
## [121] [4.93,6.9]  [2.97,4.93) [4.93,6.9]  [2.97,4.93) [4.93,6.9]  [4.93,6.9] 
## [127] [2.97,4.93) [2.97,4.93) [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9] 
## [133] [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9] 
## [139] [2.97,4.93) [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9] 
## [145] [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9]  [4.93,6.9] 
## attr(,"discretized:breaks")
## [1] 1.000000 2.966667 4.933333 6.900000
## attr(,"discretized:method")
## [1] interval
## Levels: [1,2.97) [2.97,4.93) [4.93,6.9]

Теперь для функции, которую применили ранее используем метода frequency. Этот метод выбирает данные так, чтобы в каждом интервале было примерно одинаковое количество данных.

frequency <- discretize(iris$Petal.Length, method = "frequency")
frequency
##   [1] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##   [7] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [13] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [19] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [25] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [31] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [37] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [43] [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)   [1,2.63)  
##  [49] [1,2.63)   [1,2.63)   [2.63,4.9) [2.63,4.9) [4.9,6.9]  [2.63,4.9)
##  [55] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9)
##  [61] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9)
##  [67] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9)
##  [73] [4.9,6.9]  [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [4.9,6.9] 
##  [79] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [4.9,6.9] 
##  [85] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9)
##  [91] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9)
##  [97] [2.63,4.9) [2.63,4.9) [2.63,4.9) [2.63,4.9) [4.9,6.9]  [4.9,6.9] 
## [103] [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [2.63,4.9) [4.9,6.9] 
## [109] [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## [115] [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## [121] [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## [127] [2.63,4.9) [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## [133] [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## [139] [2.63,4.9) [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## [145] [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9]  [4.9,6.9] 
## attr(,"discretized:breaks")
## [1] 1.000000 2.633333 4.900000 6.900000
## attr(,"discretized:method")
## [1] frequency
## Levels: [1,2.63) [2.63,4.9) [4.9,6.9]

Теперь используем метод cluster, т.е данные группируются и на основании этих групп генерируются интервалы данных.

cluster <- discretize(iris$Petal.Length, method = "cluster")
cluster
##   [1] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##   [7] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [13] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [19] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [25] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [31] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [37] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [43] [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)    [1,2.95)   
##  [49] [1,2.95)    [1,2.95)    [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [55] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [61] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [67] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [73] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [79] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [85] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [91] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13)
##  [97] [2.95,5.13) [2.95,5.13) [2.95,5.13) [2.95,5.13) [5.13,6.9]  [2.95,5.13)
## [103] [5.13,6.9]  [5.13,6.9]  [5.13,6.9]  [5.13,6.9]  [2.95,5.13) [5.13,6.9] 
## [109] [5.13,6.9]  [5.13,6.9]  [2.95,5.13) [5.13,6.9]  [5.13,6.9]  [2.95,5.13)
## [115] [2.95,5.13) [5.13,6.9]  [5.13,6.9]  [5.13,6.9]  [5.13,6.9]  [2.95,5.13)
## [121] [5.13,6.9]  [2.95,5.13) [5.13,6.9]  [2.95,5.13) [5.13,6.9]  [5.13,6.9] 
## [127] [2.95,5.13) [2.95,5.13) [5.13,6.9]  [5.13,6.9]  [5.13,6.9]  [5.13,6.9] 
## [133] [5.13,6.9]  [2.95,5.13) [5.13,6.9]  [5.13,6.9]  [5.13,6.9]  [5.13,6.9] 
## [139] [2.95,5.13) [5.13,6.9]  [5.13,6.9]  [2.95,5.13) [2.95,5.13) [5.13,6.9] 
## [145] [5.13,6.9]  [5.13,6.9]  [2.95,5.13) [5.13,6.9]  [5.13,6.9]  [2.95,5.13)
## attr(,"discretized:breaks")
## [1] 1.000000 2.946909 5.129144 6.900000
## attr(,"discretized:method")
## [1] cluster
## Levels: [1,2.95) [2.95,5.13) [5.13,6.9]

Теперь используем метод fixed, который позволяет самостоятельно задавать границы интервалов.

fixed <- discretize(iris$Petal.Length, method = "fixed", c(0, 3, 5, 7, 10))
fixed
##   [1] [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3)
##  [13] [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3)
##  [25] [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3)
##  [37] [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3) [0,3)
##  [49] [0,3) [0,3) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5)
##  [61] [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5)
##  [73] [3,5) [3,5) [3,5) [3,5) [3,5) [5,7) [3,5) [3,5) [3,5) [3,5) [3,5) [5,7)
##  [85] [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5) [3,5)
##  [97] [3,5) [3,5) [3,5) [3,5) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [3,5) [5,7)
## [109] [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [5,7)
## [121] [5,7) [3,5) [5,7) [3,5) [5,7) [5,7) [3,5) [3,5) [5,7) [5,7) [5,7) [5,7)
## [133] [5,7) [5,7) [5,7) [5,7) [5,7) [5,7) [3,5) [5,7) [5,7) [5,7) [5,7) [5,7)
## [145] [5,7) [5,7) [5,7) [5,7) [5,7) [5,7)
## attr(,"discretized:breaks")
## [1]  0  3  5  7 10
## attr(,"discretized:method")
## [1] fixed
## Levels: [0,3) [3,5) [5,7) [7,10]

Были рассмотрены четыре метода для преобразования вектора в категории. Метод interval делит данные на интервалы с равной шириной, но с разным количеством элементов в каждом интервале. Метод frequency создает интервалы с равным числом наблюдений, но с различной шириной. Метод cluster использует алгоритм кластеризации для группировки данных, формируя интервалы на основе выявленных кластеров. Метод fixed позволяет задать интервалы вручную, давая полный контроль над их границами.

Задание 4

Установите пакет Boruta и проведите выбор признаков для набора данных data(“Ozone”) [4, 5, 6]. Построить график boxplot, сделать выводы.

Установим библиотеку и выгрузим данные.

if(!require(Boruta)) { 
  install.packages("Boruta") 
  library(Boruta) 
}
## Загрузка требуемого пакета: Boruta
## Warning: пакет 'Boruta' был собран под R версии 4.4.3
if(!require(mlbench)) {
  install.packages("mlbench", repos = "https://cloud.r-project.org/")
  library(mlbench)
}
## Загрузка требуемого пакета: mlbench
## Warning: пакет 'mlbench' был собран под R версии 4.4.3
data("Ozone")
Ozone
##     V1 V2 V3 V4   V5 V6 V7 V8    V9  V10 V11   V12 V13
## 1    1  1  4  3 5480  8 20 NA    NA 5000 -15 30.56 200
## 2    1  2  5  3 5660  6 NA 38    NA   NA -14    NA 300
## 3    1  3  6  3 5710  4 28 40    NA 2693 -25 47.66 250
## 4    1  4  7  5 5700  3 37 45    NA  590 -24 55.04 100
## 5    1  5  1  5 5760  3 51 54 45.32 1450  25 57.02  60
## 6    1  6  2  6 5720  4 69 35 49.64 1568  15 53.78  60
## 7    1  7  3  4 5790  6 19 45 46.40 2631 -33 54.14 100
## 8    1  8  4  4 5790  3 25 55 52.70  554 -28 64.76 250
## 9    1  9  5  6 5700  3 73 41 48.02 2083  23 52.52 120
## 10   1 10  6  7 5700  3 59 44    NA 2654  -2 48.38 120
## 11   1 11  7  4 5770  8 27 54    NA 5000 -19 48.56 120
## 12   1 12  1  6 5720  3 44 51 54.32  111   9 63.14 150
## 13   1 13  2  5 5760  6 33 51 57.56  492 -44 64.58  40
## 14   1 14  3  4 5780  6 19 54 56.12 5000 -44 56.30 200
## 15   1 15  4  4 5830  3 19 58 62.24 1249 -53 75.74 250
## 16   1 16  5  7 5870  2 19 61 64.94 5000 -67 65.48 200
## 17   1 17  6  5 5840  5 19 64    NA 5000 -40 63.32 200
## 18   1 18  7  9 5780  4 59 67    NA  639   1 66.02 150
## 19   1 19  1  4 5680  5 73 52 56.48  393 -68 69.80  10
## 20   1 20  2  3 5720  4 19 54    NA 5000 -66 54.68 140
## 21   1 21  3  4 5760  3 19 54 53.60 5000 -58 51.98 250
## 22   1 22  4  4 5730  4 26 58 52.70 5000 -26 51.98 200
## 23   1 23  5  5 5700  5 59 69 51.08 3044  18 52.88 150
## 24   1 24  6  6 5650  5 70 51    NA 3641  23 47.66 140
## 25   1 25  7  9 5680  3 64 53    NA  111 -10 59.54  50
## 26   1 26  1  5 5780  3 NA 56 53.60  692 -25 67.10   0
## 27   1 27  2  6 5820  5 19 59 59.36  597 -52 70.52  70
## 28   1 28  3  6 5830  4 NA 59 60.08   NA -44    NA 150
## 29   1 29  4  6 5810  5 19 64 56.66 1791 -15 64.76 150
## 30   1 30  5 11 5790  3 28 63 57.38  793 -15 65.84 120
## 31   1 31  6 10 5800  2 32 63    NA  531 -38 75.92  40
## 32   2  1  7  7 5820  5 19 62    NA  419 -29 75.74 120
## 33   2  2  1 12 5770  8 76 63 57.20  816  -7 66.20   6
## 34   2  3  2  9 5670  3 69 54 45.50 3651  62 49.10  30
## 35   2  4  3  2 5590  3 76 36 37.40 5000  70 37.94 100
## 36   2  5  4  3 5410  6 64 31 32.18 5000  28 32.36 200
## 37   2  6  5  3 5350  7 62 30 32.54 1341  18 45.86  60
## 38   2  7  6  2 5480  9 72 36    NA 5000   0 38.66 350
## 39   2  8  7  3 5600  7 76 42    NA 3799 -18 45.86 250
## 40   2  9  1  3 5490 11 72 37 38.48 5000  32 38.12 350
## 41   2 10  2  4 5560 10 72 41 40.46 5000  -1 37.58 300
## 42   2 11  3  6 5700  3 32 46    NA 5000 -30 45.86 300
## 43   2 12  4  8 5680  5 50 51 47.12 5000  -8 45.50 300
## 44   2 13  5  6 5700  4 86 55 49.28 2398  21 53.78 200
## 45   2 14  6  4 5650  5 61 41    NA 5000  51 36.32 100
## 46   2 15  7  3 5610  5 62 41    NA 4281  42 41.36 250
## 47   2 16  1  7 5730  5 66 49    NA 1161  27 52.88 200
## 48   2 17  2 11 5770  5 68 45 52.88 2778   2 55.76 200
## 49   2 18  3 13 5770  3 82 55 55.40  442  26 58.28  40
## 50   2 19  4  4 5700  5 NA 45 38.12   NA  82    NA   2
## 51   2 20  5  6 5690  8 21 41 43.88 5000 -30 42.26 300
## 52   2 21  6  5 5700  3 19 45    NA 5000 -53 43.88 300
## 53   2 22  7  4 5730 11 19 51    NA 5000 -43 49.10 300
## 54   2 23  1  4 5690  7 19 53 50.18 5000   7 49.10 300
## 55   2 24  2  6 5640  5 68 50 37.40 5000  24 42.08 300
## 56   2 25  3 10 5720  6 63 60 53.06 1341  19 59.18 150
## 57   2 26  4 15 5740  3 54 54 56.48 1318   2 64.58 150
## 58   2 27  5 23 5740  3 47 53 58.82  885  -4 67.10  80
## 59   2 28  6 17 5740  3 56 53    NA  360   3 67.10  40
## 60   2 29  7  7 5670  7 61 44    NA 3497  73 49.46  40
## 61   3  1  1  2 5550 10 74 40 38.84 5000  73 40.10  80
## 62   3  2  2  3 5470  7 46 30 29.66 5000  44 29.30 300
## 63   3  3  3  3 5320 11 45 25 27.68 5000  39 27.50 200
## 64   3  4  4  5   NA  8 33 39 30.20 5000  15 30.02 500
## 65   3  5  5  4 5530  3 43 40 36.14 5000 -12 33.62 140
## 66   3  6  6  6 5600  3 21 45    NA 5000  -2 39.02 140
## 67   3  7  7  7 5660  7 57 51    NA 5000  30 42.08 140
## 68   3  8  1  7 5580  5 42 48 40.64 3608  24 39.38 100
## 69   3  9  2  6 5510  5 50 45 36.86 5000  38 32.90 140
## 70   3 10  3  3 5530  5 61 47 33.80 5000  56 35.60 200
## 71   3 11  4  2 5620  9 61 43 37.04 5000  66 34.34 120
## 72   3 12  5  8 5690  0 60 49 46.04  613 -27 59.72 300
## 73   3 13  6 12 5760  4 31 56    NA  334  -9 64.40 300
## 74   3 14  7 12 5740  3 66 53    NA  567  13 61.88 150
## 75   3 15  1 16 5780  5 53 61 57.92  488 -20 64.94   2
## 76   3 16  2  9 5790  2 42 63 57.02  531 -15 71.06  50
## 77   3 17  3 24 5760  3 60 70 58.64  508   7 66.56  70
## 78   3 18  4 13 5700  4 82 57 50.36 1571  68 56.30  17
## 79   3 19  5  8 5680  4 57 35 40.10  721  28 55.40 140
## 80   3 20  6 10 5720  5 21 52    NA  505 -49 67.28 140
## 81   3 21  7  8 5720  5 19 59    NA  377 -27 73.22 300
## 82   3 22  1  9 5730  4 32 67 59.54  442  -9 75.74 200
## 83   3 23  2 10 5710  5 77 57 57.38  902  54 60.44 250
## 84   3 24  3 13 5750  6 70 NA 56.30 3188  53 58.64  80
## 85   3 25  4 14 5720  4 71 42 44.96 1381   4 56.30  60
## 86   3 26  5  9 5710  3 19 55 51.80 5000 -16 50.00 100
## 87   3 27  6 11 5600  6 45 40    NA 5000  38 46.94 150
## 88   3 28  7  7 5630  4 44 39    NA 1302  40 52.70 150
## 89   3 29  1  9 5690  7 70 57 46.58 1292  -5 53.60 200
## 90   3 30  2 12 5730  6 45 58 52.52 5000 -14 52.70 100
## 91   3 31  3 12 5710  3 46 62 52.52  472  34 62.96 300
## 92   4  1  4  8 5610  6 50 51 50.00 1404  42 54.50 120
## 93   4  2  5  9 5680  5 69 61 51.44  944  35 55.76 100
## 94   4  3  6  5 5620  6 67 34    NA 5000  75 35.24 200
## 95   4  4  7  4 5420  7 69 35    NA 5000  41 30.92 200
## 96   4  5  1  4 5540  5 54 35 33.26 5000  62 33.44 200
## 97   4  6  2  9 5590  6 51 48 38.12 5000  44 42.08 300
## 98   4  7  3 13 5690  6 63 59 52.88 2014  31 53.42 300
## 99   4  8  4  5 5550  7 63 41 37.58 5000  56 37.22 250
## 100  4  9  5 10 5620  7 57 58 46.76 5000  27 47.66 120
## 101  4 10  6 10 5630  6 61 51    NA  524  57 54.68 140
## 102  4 11  7  7 5580  7 78 46    NA 5000  55 38.48 200
## 103  4 12  1  5 5560  4 65 40 34.70 5000  59 35.24 140
## 104  4 13  2  4 5440  5 44 35 33.08 5000  24 32.54  80
## 105  4 14  3  7 5480  7 51 46 37.40 2490  29 47.48 300
## 106  4 15  4  3 5620  5 73 39 39.56 5000 107 31.28 100
## 107  4 16  5  4 5450 11 35 32    NA 5000  36 33.44 300
## 108  4 17  6  7 5660  6 35 47    NA 5000  28 39.38 200
## 109  4 18  7 11 5680  6 61 50    NA 1144  30 53.60 120
## 110  4 19  1 15 5760  4 50 65 56.30  547   1 66.92 100
## 111  4 20  2 22 5790  4 57 66 63.68  413  10 69.62 120
## 112  4 21  3 17 5720  5 68 69 60.80  610  46 63.68  60
## 113  4 22  4  7 5660  6 58 59 42.80 3638  81 51.26 120
## 114  4 23  5 10 5710  5 65 64 56.30 3848  45 56.84 100
## 115  4 24  6 19 5780  7 78 68    NA 1479  40 68.00 100
## 116  4 25  7 18 5750  7 73 49    NA 1108  55 65.48  27
## 117  4 26  1 12 5700  5 41 52 49.64  869   0 58.10  40
## 118  4 27  2  6 5620  9 47 56 39.92 5000  43 38.30 140
## 119  4 28  3  9 5650  6 46 55 40.82 5000  49 37.94 150
## 120  4 29  4 19 5730  5 61 66 59.72 1148  31 60.80 100
## 121  4 30  5 21 5810  4 55 74 67.28  856   4 75.38 100
## 122  5  1  6 29 5790  4 60 76    NA  807  16 73.04 120
## 123  5  2  7 16 5740  8 78 70    NA 2040  46 63.50 150
## 124  5  3  1  5   NA  8 62 61 44.42 5000  63 42.62 100
## 125  5  4  2 11 5690  4 71 67 52.52  314  60 59.00 120
## 126  5  5  3  2   NA  4 67 45 41.72 5000  77 42.62  80
## 127  5  6  4  2 5680  6 77 41 42.98 5000  75 40.82 120
## 128  5  7  5 12 5650  8 66 61 51.80 1410  20 55.22 140
## 129  5  8  6 16 5730  6 74 68    NA  360  23 62.42 120
## 130  5  9  7 22 5730  3 78 69    NA 1568  32 67.64  70
## 131  5 10  1 20 5760  7 78 74 63.14 1184  40 68.72  80
## 132  5 11  2 27 5830  6 75 74 67.28  898  24 73.40  70
## 133  5 12  3 33 5880  3 80 80 73.04  436   0 86.36  40
## 134  5 13  4 25 5890  6 88 84 73.22  774   6 86.00  20
## 135  5 14  5 31 5850  4 76 78 71.24 1181  50 79.88  17
## 136  5 15  6 18 5820  6 63 80    NA 1991  47 69.62  40
## 137  5 16  7 16   NA  7 68 73    NA 2057  71 67.28  50
## 138  5 17  1 24 5800  7 78 76    NA 1597  56 68.00  50
## 139  5 18  2 16 5740  3 74 74    NA 1184  52 69.44  70
## 140  5 19  3 12 5710  7 63 66    NA 3005  58 59.18  80
## 141  5 20  4  9 5720  8 62 66    NA 2880  53 57.38 120
## 142  5 21  5 12 5710  7 69 63    NA   NA  66 56.30 120
## 143  5 22  6 16 5740  5 53 69    NA 2125  64 59.00 100
## 144  5 23  7 NA 5720  3 64 66    NA 1751  67 59.90 120
## 145  5 24  1  8 5690  9 62 62    NA 3720  74 50.90 120
## 146  5 25  2  9 5730  5 71 67 49.82 4337  66 59.36 200
## 147  5 26  3 29 5780  3 68 80    NA 2053  31 72.86 120
## 148  5 27  4 20 5790  7 79 76    NA 1958  70 70.52  40
## 149  5 28  5  5 5750  3 76 65 51.08 3644  86 59.36  70
## 150  5 29  6  5 5680  6 71 65    NA 1368  75 58.46 100
## 151  5 30  7 11 5720  3 66 63    NA 3539  73 53.60 120
## 152  5 31  1 12 5770  4 81 62    NA 2785  49 63.32 100
## 153  6  1  2 19 5800  4 72 68    NA  984  26 69.26 120
## 154  6  2  3 17 5780  8 92 68 64.76 1804  56 68.00  70
## 155  6  3  4 19 5740  6 71 69 64.40 3234  77 62.78  80
## 156  6  4  5 16 5730  6 64 66 60.44 3441  67 60.98 100
## 157  6  5  6 14 5760  6 68 70    NA 1578  61 60.80 100
## 158  6  6  7 10 5770  7 59 70    NA 1850  76 60.80 120
## 159  6  7  1  9 5690  8 67 64 54.50 2962  80 59.36 120
## 160  6  8  2  7 5650  6 66 61 53.78 2670  54 55.40 120
## 161  6  9  3  5 5610  3 61 52 42.08 5000  76 42.08 150
## 162  6 10  4  2 5570  9 81 48 41.72 5000  57 40.82 140
## 163  6 11  5 12 5690  5 63 59 51.80 5000  46 51.26 140
## 164  6 12  6 22 5760  3 58 67    NA  987  28 63.86 140
## 165  6 13  7 17 5810  5 68 66    NA 1148  43 66.92 140
## 166  6 14  1 26 5830  4 71 74 71.78  898 -24 77.90  60
## 167  6 15  2 27 5880  6 67 83 72.50  777  -1 82.58  30
## 168  6 16  3 14 5860  3 64 78 68.72 1279  75 71.60  17
## 169  6 17  4 11 5830  6 64 75 66.20 1046  69 68.72  80
## 170  6 18  5 23 5870  4 69 84 74.12 1167  50 74.30  60
## 171  6 19  6 26 5860  3 77 81    NA  987  45 75.74 100
## 172  6 20  7 21 5800  3 61 79    NA 1144  57 71.24 120
## 173  6 21  1 15 5800  4 69 79 66.20  977  60 70.70 150
## 174  6 22  2 20 5770  5 64 65 65.12  770  26 75.56 120
## 175  6 23  3 15 5860  4 33 81 72.68  629 -11 86.36 140
## 176  6 24  4 18 5870  7 38 84 76.10  337 -14 89.78 140
## 177  6 25  5 26 5870  4 54 83    NA  590  26 85.10 120
## 178  6 26  6 19 5860  6 39 90    NA  400  19 83.30 120
## 179  6 27  7 13 5880  5 43 90    NA  580   9 87.26  80
## 180  6 28  1 30 5870  7 55 93    NA  646  25 89.24 140
## 181  6 29  2 26 5860  4 77 88    NA  826  41 84.38 140
## 182  6 30  3 15 5830  5 63 72    NA  823  52 74.48 150
## 183  7  1  4 16 5820  5 65 72    NA 2116  47 70.34 120
## 184  7  2  5 16 5820  8 64 70    NA 2972  52 64.40 120
## 185  7  3  6 19 5860  6 68 78    NA 2752  41 69.98 140
## 186  7  4  7 23 5870  3 76 87    NA 1377  37 78.44 100
## 187  7  5  1 28 5890  6 71 91    NA 1486  33 79.88  50
## 188  7  6  2 34 5900  6 86 87 81.68  990  22 85.10  40
## 189  7  7  3 33 5890  5 65 91    NA  508  29 85.28 100
## 190  7  8  4 NA 5890  5 69 90    NA  688  37 83.30  80
## 191  7  9  5 24 5910  4 73 88 79.88 1204  56 79.88 100
## 192  7 10  6 17 5900  5 69 83    NA 2414  63 76.46  60
## 193  7 11  7 10 5860  3 64 78    NA 2385  67 70.34  50
## 194  7 12  1 14 5830  3 63 79 70.88 2326  64 71.24  70
## 195  7 13  2 13 5850  9 72 77 69.44 3389  56 68.72  80
## 196  7 14  3 17 5830  6 82 81 73.22 2818  58 71.78  80
## 197  7 15  4 15   NA  6 83 76 72.32 3083  75 72.32  80
## 198  7 16  5 22 5810  8 69 76 67.64 2394  54 69.62  90
## 199  7 17  6 19 5830  4 74 78    NA 2746  61 69.44 120
## 200  7 18  7 20 5830  5 69 75    NA 2493  55 72.50 120
## 201  7 19  1 25 5840  7 72 82 68.00 1528  42 73.94 100
## 202  7 20  2 28 5870  6 73 84 74.12  111  40 78.08  60
## 203  7 21  3 29 5870  4 90 86 74.48 1899  45 76.46  40
## 204  7 22  4 NA 5850  4 79 70 65.12 2020  37 73.22  50
## 205  7 23  5 23 5860  3 80 80 67.28 1289  32 75.20  40
## 206  7 24  6 26 5900  3 73 80    NA  984  35 78.80  70
## 207  7 25  7 14 5890  4 71 84    NA  836  28 81.50  80
## 208  7 26  1 13 5880  4 78 84 70.70  826  27 79.34  80
## 209  7 27  2 26 5890  6 80 81 69.80 1105  39 74.12  80
## 210  7 28  3 22 5870  8 74 85 71.42 1023  46 77.18  80
## 211  7 29  4 11   NA  6 70 79 67.82 1453  68 70.16  80
## 212  7 30  5 15   NA  6 71 72 66.02 2375  52 66.20 100
## 213  7 31  6 14 5820  6 63 73    NA 2956  46 67.28 120
## 214  8  1  7 13 5780  6 57 72    NA 2988  56 65.66 150
## 215  8  2  1  9 5770  3 55 68 62.60 4291  60 62.24 200
## 216  8  3  2 12 5790  4 65 65 56.48 3330  59 58.64 150
## 217  8  4  3 15 5820  6 NA 64 62.06   NA  31    NA 150
## 218  8  5  4 12 5840  6 NA 75 65.12   NA  35    NA 150
## 219  8  6  5 15 5800  7 NA 69 63.32   NA  49    NA 150
## 220  8  7  6 25 5830  4 NA 69    NA   NA  30    NA 100
## 221  8  8  7 18 5800  3 NA 72    NA   NA  43    NA 100
## 222  8  9  1 14 5840  7 65 79 67.10 1233  30 70.52 100
## 223  8 10  2 22   NA  3 74 78 66.02 1450  36 69.80  30
## 224  8 11  3 24 5910  5 72 81 70.88 1069  28 74.30  80
## 225  8 12  4 19 5890  5 79 80 69.80  984  57 73.40  70
## 226  8 13  5 16 5870  6 62 76    NA 1653  71 68.72  60
## 227  8 14  6  7 5780  7 65 59    NA 3930  68 59.18 150
## 228  8 15  7  2 5730  5 77 55    NA 5000  73 51.62 200
## 229  8 16  1  4 5780  7 70 66 51.44 5000  45 51.26 200
## 230  8 17  2  6 5750  7 58 64 56.48 4212  46 56.84 200
## 231  8 18  3 12 5760  5 58 62 52.16 5000  52 49.82 250
## 232  8 19  4  9 5730  7 72 67    NA 5000  31 57.38 300
## 233  8 20  5 15 5730  5 77 74 64.04 1545  43 65.66  70
## 234  8 21  6 17 5790  4 57 74    NA  994  44 69.62 300
## 235  8 22  7 13 5750  3 67 70    NA 1125  55 68.00 150
## 236  8 23  1 20 5880  3 73 77    NA  636  16 73.94 300
## 237  8 24  2 22 5890  7 70 83 70.88  748  32 77.00  30
## 238  8 25  3 24 5880  4 73 81 73.76  692  44 77.72 100
## 239  8 26  4 26 5870  7 73 73 75.20  807  39 78.80 100
## 240  8 27  5 32 5900  6 71 87 76.46  869  19 78.98  17
## 241  8 28  6 33 5920  4 77 89    NA  800  24 85.64  20
## 242  8 29  7 27 5930  3 68 92    NA  393   6 91.76   4
## 243  8 30  1 38 5950  5 62 92 82.40  557   0 90.68  70
## 244  8 31  2 23 5950  8 61 93 81.68  620  27 85.64  30
## 245  9  1  3 19 5900  5 71 93 82.58 1404  33 84.74  70
## 246  9  2  4 19 5890  8 77 86 71.42  898  21 80.60  60
## 247  9  3  5 15 5860  7 71 76 69.44  377  -2 83.30  40
## 248  9  4  6 28 5840  5 67 81    NA  528  17 78.80  50
## 249  9  5  7 10 5800  6 74 78    NA 2818  26 72.68  70
## 250  9  6  1 14 5760  7 65 73    NA 3247  10 67.28 140
## 251  9  7  2 26 5810  6 82 80 71.78  895   0 78.08 100
## 252  9  8  3 17 5850  4 67 81 70.88  721   0 80.24 120
## 253  9  9  4  3   NA  5 73 69 66.92  774 -27 75.56 100
## 254  9 10  5  2   NA  6 74 59 61.88  134   0 77.18  70
## 255  9 11  6  3 5760  7 87 52    NA 5000  39 51.80 150
## 256  9 12  7 14 5860  4 71 63    NA 1965  13 60.98  50
## 257  9 13  1 29 5830  5 77 72 68.72 1853  10 70.88  70
## 258  9 14  2 18 5840  5 78 75 69.26 2342   7 71.42  40
## 259  9 15  3  3 5800  7 72 55 54.32 5000  56 51.62  70
## 260  9 16  4  7   NA 10 67 59 51.44 5000  37 47.48 120
## 261  9 17  5  9 5790  3 71 61 50.54 4028  35 55.04 140
## 262  9 18  6 19 5830  5 71 71    NA 2716  26 63.68 140
## 263  9 19  7  8 5810  5 76 71    NA 3671  31 65.84 100
## 264  9 20  1 NA 5770  5 76 66 62.96 3431  26 62.24  50
## 265  9 21  2 23 5780  6 76 72 66.38 3795  31 66.92  70
## 266  9 22  3 13 5800  6 73 75 67.10 3120  35 66.92  40
## 267  9 23  4 NA 5770  3 66 71 63.68 4133  28 63.50  40
## 268  9 24  5  7 5800  5 80 65 60.08 2667  17 63.50 100
## 269  9 25  6  3 5780  9 73 61    NA 5000  39 52.70 120
## 270  9 26  7  5 5790  8 80 60    NA 5000  36 48.92 120
## 271  9 27  1 11 5770  5 75 64 55.94  308  25 68.72 140
## 272  9 28  2 12 5750  4 68 61 59.54 2982  18 59.90 120
## 273  9 29  3  5 5640  5 93 63 54.32 5000  30 52.70  70
## 274  9 30  4  4 5640  7 57 62 54.32 5000  25 51.26 150
## 275 10  1  5  5 5650  3 70 59 50.90 5000  38 47.66 200
## 276 10  2  6  4 5710  6 65 56    NA 5000  35 47.84 200
## 277 10  3  7 10 5760  6 66 59    NA 3070  13 60.08 200
## 278 10  4  1 17 5840  4 73 72 63.14  830   0 72.14  70
## 279 10  5  2 26 5880  3 77 71 67.64  711  -9 75.56  40
## 280 10  6  3 30 5890  5 80 75 71.06 1049 -10 78.98  50
## 281 10  7  4 18 5890  4 73 71 70.88  511 -39 83.84  17
## 282 10  8  5 12 5890  5 19 71 70.52 5000 -40 67.64  80
## 283 10  9  6  7 5890  6 19 73    NA 5000 -34 69.44 250
## 284 10 10  7 15 5850  3 73 78    NA  377  -3 78.80 200
## 285 10 11  1 12 5830  5 76 73    NA  862  27 73.58   2
## 286 10 12  2  7 5830  8 77 71 67.10  337 -17 81.14  20
## 287 10 13  3 28 5860  5 86 73 69.80  492  -2 82.22   7
## 288 10 14  4 22 5830  5 76 71 69.44 1394  13 75.02  30
## 289 10 15  5 18 5800  7 66 66 62.96 3146  27 64.04  50
## 290 10 16  6 14 5830  4 74 69    NA 2234  11 66.74  70
## 291 10 17  7 24 5790  5 71 69    NA 2109  21 69.62  17
## 292 10 18  1 10 5730  4 84 64 56.30 5000  23 54.50  80
## 293 10 19  2 14 5780  5 74 65 63.14 2270  -7 68.90  50
## 294 10 20  3  9 5740  7 48 54 62.96 2191 -13 68.72  60
## 295 10 21  4 12 5710  8 75 62 58.64 3448  12 58.64  60
## 296 10 22  5  7 5690  6 74 56 52.34 5000  13 48.92  80
## 297 10 23  6  7 5670  4 67 55    NA 5000  11 49.46  50
## 298 10 24  7  6 5760  4 75 58    NA 2719  25 56.84  50
## 299 10 25  1 13 5820  5 71 48    NA 1899  21 62.06  40
## 300 10 26  2  5 5790  3 35 54    NA 5000 -41 52.52  40
## 301 10 27  3  3 5760  5 23 57 53.42 5000 -21 50.90 300
## 302 10 28  4  7 5800  6 19 60 57.02 5000 -19 54.32 200
## 303 10 29  5  8 5810  7 59 61 55.76 2385  10 60.44 150
## 304 10 30  6 10 5750  4 60 63    NA 1938   0 62.60 100
## 305 10 31  7 12 5840  0 38 65    NA  590 -11 69.98 100
## 306 11  1  1  7 5860  3 NA 66 65.12   NA -32    NA  60
## 307 11  2  2  5 5870  6 NA 68 68.90   NA -42    NA 150
## 308 11  3  3  6 5920  3 22 71 69.08  328 -40 80.60 150
## 309 11  4  4  4 5900  0 NA 70 68.72   NA -43    NA 200
## 310 11  5  5  5 5860  7 19 70 62.78 5000 -29 61.70 300
## 311 11  6  6 11 5840  3 NA 70    NA   NA  -9    NA 120
## 312 11  7  7 20 5840  0 45 68    NA  597 -22 73.58  30
## 313 11  8  1  4 5850  5 NA 64 64.04   NA -25    NA 100
## 314 11  9  2 14 5810  2 47 69 60.98  469  -4 71.78  50
## 315 11 10  3 16 5770  2 73 59 57.20 1541  18 63.14  20
## 316 11 11  4  5 5710  4 67 49 44.24 5000  24 41.90 200
## 317 11 12  5  3 5500  9 56 39 41.36 5000  15 41.72 120
## 318 11 13  6  5 5660  3 54 50    NA 5000  27 44.60 300
## 319 11 14  7  1 5700  3 71 46    NA 5000  54 42.80 200
## 320 11 15  1  5 5810  5 59 54 54.50 5000 -28 53.60  70
## 321 11 16  2  4 5860  0 25 60 61.52 5000 -38 63.50 140
## 322 11 17  3 11 5900  0 24 62 62.60 5000 -36 60.08 150
## 323 11 18  4  6 5850  5 41 65 59.54 2014 -20 69.98 200
## 324 11 19  5  8 5780  3 50 66 59.72  436   1 70.34   4
## 325 11 20  6 14 5790  0 76 66    NA  830   3 66.02  40
## 326 11 21  7 18 5780  2 82 63    NA 1112  -8 66.38  30
## 327 11 22  1 12 5770  2 81 62 60.62 1210 -17 67.82  30
## 328 11 23  2  9 5750  2 85 60 59.72  501 -22 70.88   2
## 329 11 24  3  7 5780  5 76 63 60.44  875 -15 68.90   0
## 330 11 25  4 14 5790  5 66 60    NA 1601   7 62.06  30
## 331 11 26  5  4 5750  6 58 58 42.62 5000  59 41.90  60
## 332 11 27  6  3 5670  8 19 34    NA 5000 -63 37.04 150
## 333 11 28  7  3 5760  0 19 36    NA 5000 -52 41.00 100
## 334 11 29  1  3 5770  4 19 44 51.26 2280 -54 55.76 250
## 335 11 30  2  3 5810  2 19 53 55.94 2047 -43 63.50 150
## 336 12  1  3  3 5810  2 19 52 57.74 5000 -69 56.48 200
## 337 12  2  4  3 5870  3 19 53 60.80 3720 -50 61.34 200
## 338 12  3  5  3 5830  2 27 58 59.00  311 -24 69.98 200
## 339 12  4  6  6 5760  0 64 55    NA 2536  28 56.48  80
## 340 12  5  7  6 5680  0 52 50    NA 1154 -22 61.52  60
## 341 12  6  1  5 5780  4 19 48 54.14 2933 -40 59.90 300
## 342 12  7  2  3 5810  3 19 51 58.28 3064 -33 62.78 200
## 343 12  8  3  4 5760  0 32 62 56.12  826 -16 64.76 300
## 344 12  9  4  7 5680  0 58 40 46.94 5000   2 42.98  50
## 345 12 10  5  5 5750  0 26 44 52.88  111 -52 68.18  40
## 346 12 11  6  5 5790  5 19 49    NA 5000 -48 54.68  70
## 347 12 12  7  4 5770  3 19 53    NA 5000 -37 55.58 150
## 348 12 13  1  3 5750  0 19 53 51.98 5000 -26 51.08 150
## 349 12 14  2  2 5720  0 19 53 52.70 5000 -31 51.44  70
## 350 12 15  3  5 5760  3 19 55 58.10  948 -48 70.70 200
## 351 12 16  4  3 5780  0 19 51 54.32 5000 -50 50.90 120
## 352 12 17  5  4 5660  4 19 54 49.64 5000 -22 48.56 150
## 353 12 18  6  4 5610  2 58 48    NA 3687 -10 46.94 150
## 354 12 19  7  6 5640  0 51 53    NA 5000   0 44.24  60
## 355 12 20  1  6 5680  3 52 49 48.38 5000 -19 45.68  70
## 356 12 21  2  3 5650  5 19 48 47.12 5000 -28 45.32 150
## 357 12 22  3  4 5710  4 19 51 51.08 5000 -25 48.38 300
## 358 12 23  4  3 5680  4 57 47 45.32  508 -10 58.64 100
## 359 12 24  5  8 5630  4 50 50    NA 2851  -5 50.00  70
## 360 12 25  6  5 5770  0 NA 49    NA   NA -35    NA  40
## 361 12 26  7  3 5800  7 19 51    NA 3143  NA 60.26 140
## 362 12 27  1  2 5730  3 53 51 49.28  111 -14 72.50 200
## 363 12 28  2  3 5690  3 23 51 49.28 5000 -36 51.26  70
## 364 12 29  3  5 5650  3 61 50 46.58 3704  18 46.94  40
## 365 12 30  4  1 5550  4 85 39 41.00 5000   8 39.92 100
## 366 12 31  5  2   NA  4 68 37    NA 5000  -3 37.22  70
clean_data <- na.omit(Ozone)
features <- clean_data[, 4:6]
features
##     V4   V5 V6
## 5    5 5760  3
## 6    6 5720  4
## 7    4 5790  6
## 8    4 5790  3
## 9    6 5700  3
## 12   6 5720  3
## 13   5 5760  6
## 14   4 5780  6
## 15   4 5830  3
## 16   7 5870  2
## 19   4 5680  5
## 21   4 5760  3
## 22   4 5730  4
## 23   5 5700  5
## 27   6 5820  5
## 29   6 5810  5
## 30  11 5790  3
## 33  12 5770  8
## 34   9 5670  3
## 35   2 5590  3
## 36   3 5410  6
## 37   3 5350  7
## 40   3 5490 11
## 41   4 5560 10
## 43   8 5680  5
## 44   6 5700  4
## 48  11 5770  5
## 49  13 5770  3
## 51   6 5690  8
## 54   4 5690  7
## 55   6 5640  5
## 56  10 5720  6
## 57  15 5740  3
## 58  23 5740  3
## 61   2 5550 10
## 62   3 5470  7
## 63   3 5320 11
## 65   4 5530  3
## 68   7 5580  5
## 69   6 5510  5
## 70   3 5530  5
## 71   2 5620  9
## 72   8 5690  0
## 75  16 5780  5
## 76   9 5790  2
## 77  24 5760  3
## 78  13 5700  4
## 79   8 5680  4
## 82   9 5730  4
## 83  10 5710  5
## 85  14 5720  4
## 86   9 5710  3
## 89   9 5690  7
## 90  12 5730  6
## 91  12 5710  3
## 92   8 5610  6
## 93   9 5680  5
## 96   4 5540  5
## 97   9 5590  6
## 98  13 5690  6
## 99   5 5550  7
## 100 10 5620  7
## 103  5 5560  4
## 104  4 5440  5
## 105  7 5480  7
## 106  3 5620  5
## 110 15 5760  4
## 111 22 5790  4
## 112 17 5720  5
## 113  7 5660  6
## 114 10 5710  5
## 117 12 5700  5
## 118  6 5620  9
## 119  9 5650  6
## 120 19 5730  5
## 121 21 5810  4
## 125 11 5690  4
## 127  2 5680  6
## 128 12 5650  8
## 131 20 5760  7
## 132 27 5830  6
## 133 33 5880  3
## 134 25 5890  6
## 135 31 5850  4
## 146  9 5730  5
## 149  5 5750  3
## 154 17 5780  8
## 155 19 5740  6
## 156 16 5730  6
## 159  9 5690  8
## 160  7 5650  6
## 161  5 5610  3
## 162  2 5570  9
## 163 12 5690  5
## 166 26 5830  4
## 167 27 5880  6
## 168 14 5860  3
## 169 11 5830  6
## 170 23 5870  4
## 173 15 5800  4
## 174 20 5770  5
## 175 15 5860  4
## 176 18 5870  7
## 188 34 5900  6
## 191 24 5910  4
## 194 14 5830  3
## 195 13 5850  9
## 196 17 5830  6
## 198 22 5810  8
## 201 25 5840  7
## 202 28 5870  6
## 203 29 5870  4
## 205 23 5860  3
## 208 13 5880  4
## 209 26 5890  6
## 210 22 5870  8
## 215  9 5770  3
## 216 12 5790  4
## 222 14 5840  7
## 224 24 5910  5
## 225 19 5890  5
## 229  4 5780  7
## 230  6 5750  7
## 231 12 5760  5
## 233 15 5730  5
## 237 22 5890  7
## 238 24 5880  4
## 239 26 5870  7
## 240 32 5900  6
## 243 38 5950  5
## 244 23 5950  8
## 245 19 5900  5
## 246 19 5890  8
## 247 15 5860  7
## 251 26 5810  6
## 252 17 5850  4
## 257 29 5830  5
## 258 18 5840  5
## 259  3 5800  7
## 261  9 5790  3
## 265 23 5780  6
## 266 13 5800  6
## 268  7 5800  5
## 271 11 5770  5
## 272 12 5750  4
## 273  5 5640  5
## 274  4 5640  7
## 275  5 5650  3
## 278 17 5840  4
## 279 26 5880  3
## 280 30 5890  5
## 281 18 5890  4
## 282 12 5890  5
## 286  7 5830  8
## 287 28 5860  5
## 288 22 5830  5
## 289 18 5800  7
## 292 10 5730  4
## 293 14 5780  5
## 294  9 5740  7
## 295 12 5710  8
## 296  7 5690  6
## 301  3 5760  5
## 302  7 5800  6
## 303  8 5810  7
## 308  6 5920  3
## 310  5 5860  7
## 314 14 5810  2
## 315 16 5770  2
## 316  5 5710  4
## 317  3 5500  9
## 320  5 5810  5
## 321  4 5860  0
## 322 11 5900  0
## 323  6 5850  5
## 324  8 5780  3
## 327 12 5770  2
## 328  9 5750  2
## 329  7 5780  5
## 331  4 5750  6
## 334  3 5770  4
## 335  3 5810  2
## 336  3 5810  2
## 337  3 5870  3
## 338  3 5830  2
## 341  5 5780  4
## 342  3 5810  3
## 343  4 5760  0
## 344  7 5680  0
## 345  5 5750  0
## 348  3 5750  0
## 349  2 5720  0
## 350  5 5760  3
## 351  3 5780  0
## 352  4 5660  4
## 355  6 5680  3
## 356  3 5650  5
## 357  4 5710  4
## 358  3 5680  4
## 362  2 5730  3
## 363  3 5690  3
## 364  5 5650  3
## 365  1 5550  4
target <- clean_data$V4
boruta_result <- Boruta(features, target, doTrace = 2)
##  1. run of importance source...
##  2. run of importance source...
##  3. run of importance source...
##  4. run of importance source...
##  5. run of importance source...
##  6. run of importance source...
##  7. run of importance source...
##  8. run of importance source...
##  9. run of importance source...
## After 9 iterations, +0.34 secs:
##  confirmed 2 attributes: V4, V5;
##  still have 1 attribute left.
##  10. run of importance source...
##  11. run of importance source...
##  12. run of importance source...
## After 12 iterations, +0.45 secs:
##  confirmed 1 attribute: V6;
##  no more attributes left.
boruta_result
## Boruta performed 12 iterations in 0.4484859 secs.
##  3 attributes confirmed important: V4, V5, V6;
##  No attributes deemed unimportant.
plot(boruta_result, main = "Boruta Feature Importance", col=c("#f15596", "#7891e2", "#9a63e3"))

Из графика можно сделать вывод, что признак V4 наиболее важен для признака V4, когда как V5 и V6 находится немного ближе к искусственным значениям, а зачит может иметь менее важную роль.

Теперь выберем целевой переменной V1.Из графика можно сделать вывод, что признаки V4 и V5 наиболее важны для признака V4, когда как V5 находится немного ближе к искусственным значениям, а зачит может иметь менее важную роль.

target <- clean_data$V1
boruta_result <- Boruta(features, target, doTrace = 2)
##  1. run of importance source...
##  2. run of importance source...
##  3. run of importance source...
##  4. run of importance source...
##  5. run of importance source...
##  6. run of importance source...
##  7. run of importance source...
##  8. run of importance source...
##  9. run of importance source...
## After 9 iterations, +0.49 secs:
##  confirmed 3 attributes: V4, V5, V6;
##  no more attributes left.
boruta_result
## Boruta performed 9 iterations in 0.4894519 secs.
##  3 attributes confirmed important: V4, V5, V6;
##  No attributes deemed unimportant.
plot(boruta_result, main = "Boruta Feature Importance", col=c("#f15596", "#7891e2", "#9a63e3"))