Работа с пакетами CARET и BORUTA на языке R
Elena Fedoseeva
2026-03-07
Задание 1
Установить пакет CARET, выполнить команду names(getModelInfo()), ознакомиться со списком доступных методов выбора признаков. Выполните графический разведочный анализ данных с использование функции featurePlot() для набора данных из справочного файла пакета CARET: x <- matrix(rnorm(505),ncol=5) y <- factor(rep(c(“A”, “B”), 25)) Сохранить полученные графики в .jpg файлы. Сделать выводы.
library(caret)## Loading required package: ggplot2## Loading required package: latticenames(getModelInfo())## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"x <- matrix(rnorm(50*5),ncol=5)
y <- factor(rep(c("A", "B"), 25))
# Базовый вызов featurePlot - Показывает попарные зависимости между признаками
featurePlot(x, y)
# По умолчанию строит scatterplot матрицу
# Показывает попарные зависимости между признаками с раскраской по классам
featurePlot(x, y, plot = "pairs")
# График плотности распределения (density)
# Показывает наложение распределений классов A и B для каждого признака
featurePlot(x, y, plot = "density")
jpeg("featurePlot.jpg")
featurePlot(x, y)
jpeg("featurePlot_pairs.jpg")
featurePlot(x, y, plot = "pairs")
jpeg("featurePlot_density.jpg")
featurePlot(x, y, plot = "density")Задание 2
С использование функций из пакета Fselector [2] определить важность признаков для решения задачи классификации. Использовать набор data(iris). Сделать выводы.
library(FSelector)
data(iris)
head(iris)## Sepal.Length Sepal.Width Petal.Length Petal.Width Species
## 1 5.1 3.5 1.4 0.2 setosa
## 2 4.9 3.0 1.4 0.2 setosa
## 3 4.7 3.2 1.3 0.2 setosa
## 4 4.6 3.1 1.5 0.2 setosa
## 5 5.0 3.6 1.4 0.2 setosa
## 6 5.4 3.9 1.7 0.4 setosaПрименяется функция information.gain() для вычисления важности признаков. Этот метод оценивает, насколько много информации о целевом классе (Species) дает каждый признак.
inf <- information.gain(Species ~ ., data=iris)
inf## attr_importance
## Sepal.Length 0.4521286
## Sepal.Width 0.2672750
## Petal.Length 0.9402853
## Petal.Width 0.9554360# Вывод результатов: таблица с одним столбцом attr_importance
# Признаки с наибольшим IG вносят наибольший вклад в предсказание вида ирисаВыводы:
Petal.Width и Petal.Length имеют наибольший Information Gain (близки к 1)
Sepal.Width имеет наименьшее значение — слабо помогает различать виды
Для классификации достаточно двух признаков лепестков, что упрощает модель
Задание 3
С использованием функции discretize() из пакета arules выполните преобразование непрерывной переменной в категориальную [3] различными методами: «interval» (равная ширина интервала), «frequency» (равная частота), «cluster» (кластеризация) и «fixed» (категории задают границы интервалов). Используйте набор данных iris. Сделайте выводы
library(arules)## Loading required package: Matrix##
## Attaching package: 'arules'## The following objects are masked from 'package:base':
##
## abbreviate, writedata(iris)
# Метод 1: "interval" — равная ширина интервала
# Диапазон значений Sepal.Width делится на 3 интервала одинаковой ширины
# Простой и интерпретируемый метод, но может создавать неравномерно заполненные группы
iris_interval <- discretize(iris$Petal.Width, method="interval", breaks=3)
print(iris_interval)## [1] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [8] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [15] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [22] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [29] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [36] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [43] [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9) [0.1,0.9)
## [50] [0.1,0.9) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [57] [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [64] [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [71] [1.7,2.5] [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [78] [1.7,2.5] [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [85] [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [92] [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7) [0.9,1.7)
## [99] [0.9,1.7) [0.9,1.7) [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [106] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [113] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [120] [0.9,1.7) [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [127] [1.7,2.5] [1.7,2.5] [1.7,2.5] [0.9,1.7) [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [134] [0.9,1.7) [0.9,1.7) [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [141] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## [148] [1.7,2.5] [1.7,2.5] [1.7,2.5]
## attr(,"discretized:breaks")
## [1] 0.1 0.9 1.7 2.5
## attr(,"discretized:method")
## [1] interval
## Levels: [0.1,0.9) [0.9,1.7) [1.7,2.5]# Метод 2: "frequency" — равная частота
# Границы подбираются так, чтобы в каждом интервале было ~одинаковое число наблюдений
# Полезен для алгоритмов, чувствительных к дисбалансу классов
iris_frequency <- discretize(iris$Petal.Width, method="frequency", breaks=3)
print(iris_frequency)## [1] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [7] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [13] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [19] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [25] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [31] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [37] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [43] [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867) [0.1,0.867)
## [49] [0.1,0.867) [0.1,0.867) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6)
## [55] [0.867,1.6) [0.867,1.6) [1.6,2.5] [0.867,1.6) [0.867,1.6) [0.867,1.6)
## [61] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6)
## [67] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [1.6,2.5] [0.867,1.6)
## [73] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [1.6,2.5]
## [79] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [1.6,2.5]
## [85] [0.867,1.6) [1.6,2.5] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6)
## [91] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6)
## [97] [0.867,1.6) [0.867,1.6) [0.867,1.6) [0.867,1.6) [1.6,2.5] [1.6,2.5]
## [103] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5]
## [109] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5]
## [115] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [0.867,1.6)
## [121] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5]
## [127] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5]
## [133] [1.6,2.5] [0.867,1.6) [0.867,1.6) [1.6,2.5] [1.6,2.5] [1.6,2.5]
## [139] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5]
## [145] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5] [1.6,2.5]
## attr(,"discretized:breaks")
## [1] 0.1000000 0.8666667 1.6000000 2.5000000
## attr(,"discretized:method")
## [1] frequency
## Levels: [0.1,0.867) [0.867,1.6) [1.6,2.5]# Метод 3: "cluster" — кластеризация k-means
# Границы определяются центрами кластеров, найденных алгоритмом k-means
# Учитывает естественную структуру данных, но границы сложнее интерпретировать
iris_cluster <- discretize(iris$Petal.Width, method="cluster", breaks=3)
print(iris_cluster)## [1] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [6] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [11] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [16] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [21] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [26] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [31] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [36] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [41] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [46] [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792) [0.1,0.792)
## [51] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [56] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [61] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [66] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [71] [1.71,2.5] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [76] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [81] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [86] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [91] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [96] [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71) [0.792,1.71)
## [101] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5]
## [106] [1.71,2.5] [0.792,1.71) [1.71,2.5] [1.71,2.5] [1.71,2.5]
## [111] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5]
## [116] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [0.792,1.71)
## [121] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5]
## [126] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [0.792,1.71)
## [131] [1.71,2.5] [1.71,2.5] [1.71,2.5] [0.792,1.71) [0.792,1.71)
## [136] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5]
## [141] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5]
## [146] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5] [1.71,2.5]
## attr(,"discretized:breaks")
## [1] 0.1000000 0.7915185 1.7054750 2.5000000
## attr(,"discretized:method")
## [1] cluster
## Levels: [0.1,0.792) [0.792,1.71) [1.71,2.5]# Метод 4: "fixed" — фиксированные границы, заданные пользователем
# -Inf и Inf используются как крайние границы
# Категории отражают предметную логику: узкие (<2.5), средние (2.5-3.5), широкие (>3.5)
iris_fixed <- discretize(iris$Petal.Width, method = "fixed", breaks = c(-Inf, 2.5, 3.5, Inf))
print(iris_fixed)## [1] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [7] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [13] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [19] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [25] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [31] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [37] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [43] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [49] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [55] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [61] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [67] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [73] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [79] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [85] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [91] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [97] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [2.5,3.5) [-Inf,2.5)
## [103] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [109] [-Inf,2.5) [2.5,3.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [115] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [121] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [127] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [133] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [139] [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## [145] [2.5,3.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5) [-Inf,2.5)
## attr(,"discretized:breaks")
## [1] -Inf 2.5 3.5 Inf
## attr(,"discretized:method")
## [1] fixed
## Levels: [-Inf,2.5) [2.5,3.5) [3.5, Inf]# table() показывает частоту наблюдений в каждой категории
# Позволяет сравнить распределение по интервалам
table(iris_interval)## iris_interval
## [0.1,0.9) [0.9,1.7) [1.7,2.5]
## 50 52 48Задание 4
Установите пакет Boruta и проведите выбор признаков для набора данных data(“Ozone”) [4, 5, 6]. Построить график boxplot, сделать выводы.
library(Boruta)
library(mlbench)
set.seed (100)
data("Ozone")
# V5 — целевая переменная (влажность на авиабазе Sandberg)
Ozone <- Ozone[complete.cases(Ozone$V5),]
# Отбор строк, где V5 не содержит NA (полные наблюдения по целевой переменной)
# complete.cases() проверяет отсутствие пропущенных значений в указанном столбце
boruta_result <- Boruta(V5 ~ ., data=Ozone)
# Запуск алгоритма Boruta
# Алгоритм создаёт "теневые" признаки (случайные копии исходных)
# и сравнивает важность реальных признаков с теневыми
print(boruta_result)## Boruta performed 84 iterations in 20.63126 secs.
## 5 attributes confirmed important: V1, V10, V12, V8, V9;
## 7 attributes confirmed unimportant: V11, V13, V2, V3, V4 and 2 more;# Визуализация результатов Boruta
# sort=FALSE сохраняет исходный порядок признаков
# Зелёный — Confirmed (важный признак)
# Жёлтый — Tentative (требует дополнительного анализа)
# Красный — Rejected (незначимый признак)
# Синий — теневые признаки (shadowMin, shadowMean, shadowMax)
# Признак важен, если его важность стабильно выше важности теневых признаков
plot(boruta_result, sort=FALSE)
Выводы:
Подтверждённые признаки (Confirmed): V1, V8, V9, V10, V12
Отклонённые признаки (Rejected): V2, V3, V4, V6, V7, V11, V13. Их важность не превышает максимальную важность теневых признаков.
Синие (shadow features) показывают распределение “случайной” важности — это базовый уровень шума
Признаки выше синих — значимы
Признаки ниже синих — неинформативны (их вклад сравним со случайным шумом)
Boruta автоматически определил, что только температурные показатели с ближайших станций важны для прогноза влажности
Это согласуется с физикой процесса: температура и влажность связаны обратной зависимостью