Лабораторная работа №2
Работа с пакетами CARET и BORUTA на языке R
Соломон Нелли Аликовна, 233-331
2026-10-15
Задание 1
1.1. Установить пакет CARET.
library(caret)## Загрузка требуемого пакета: ggplot2## Загрузка требуемого пакета: lattice1.2. Выполнить команду names(getModelInfo()), ознакомиться со списком доступных методов выбора признаков.
Команда names(getModelInfo()) выводит полный список идентификаторов всех прогнозных моделей, доступных в библиотеке машинного обучения caret.
names(getModelInfo())## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"1.3. Выполните графический разведочный анализ данных с использование функции featurePlot() для набора данных из справочного файла пакета CARET.
# Фиксируем начальное состояние генератора, чтобы при повторе получить те же данные
set.seed(42)
# Генерируем 250 значений и заполняем ими матрицу 50 * 5
x <- matrix(rnorm(50*5),ncol=5)
# Создаем 50 меток для классов A и B
y <- factor(rep(c("A", "B"), 25))
# Именование столбцов
colnames(x) <- paste0("X", 1:5)Матрица диаграмм рассеяния
На графиках показаны попарные зависимости пяти признаков Х1-Х5. Точки классов A и B распределены хаотично, существенно перекрываются. Значимые корреляционные связи визуально не выявляются. Четкого разделения объектов по классам A и B нет, поэтому отдельные пары признаков малопригодны для классификации.
featurePlot(x, y, plot = "pairs")
Диаграммы размаха
Диаграммы показывают распределение значений каждого признака для классов A и B. Медианы преимущественно расположены около нуля. Для некоторых признаков наблюдаются отдельные выбросы. Существенного разделения классов по отдельным признакам не обнаружено. Наблюдаемые различия могут быть обусловлены случайными колебаниями данных.
featurePlot(x = x, y = y, plot = "box")
Графики плотности
Графики отображают распределения пяти признаков для каждого класса. Большинство распределений приблизительно колоколообразные, с максимумами около нуля. Кривые классов A и B значительно перекрываются, хотя наблюдаются различия в высоте и положении отдельных пиков.Распределения признаков в обоих классах в целом схожи. Выраженных различий, позволяющих надежно классифицировать объекты, не выявлено.
featurePlot(x = x, y = y, plot = "density")
Вывод: в результате графического разведочного анализа установлено, что из-за случайной генерации признаков исследуемый набор данных не содержит устойчивых закономерностей, пригодных для классификации объектов.
Задание 2
С использование функций из пакета Fselector определить важность признаков для решения задачи классификации. Использовать набор data(iris). Сделать выводы.
library(FSelector)data(iris)
# Выводит структуру набора данных: количество наблюдений, число переменных, их названия и типы
str(iris)## 'data.frame': 150 obs. of 5 variables:
## $ Sepal.Length: num 5.1 4.9 4.7 4.6 5 5.4 4.6 5 4.4 4.9 ...
## $ Sepal.Width : num 3.5 3 3.2 3.1 3.6 3.9 3.4 3.4 2.9 3.1 ...
## $ Petal.Length: num 1.4 1.4 1.3 1.5 1.4 1.7 1.4 1.5 1.4 1.5 ...
## $ Petal.Width : num 0.2 0.2 0.2 0.2 0.2 0.4 0.3 0.2 0.2 0.1 ...
## $ Species : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...# Выводит основные показатели для каждого числового признака
summary(iris)## Sepal.Length Sepal.Width Petal.Length Petal.Width
## Min. :4.300 Min. :2.000 Min. :1.000 Min. :0.100
## 1st Qu.:5.100 1st Qu.:2.800 1st Qu.:1.600 1st Qu.:0.300
## Median :5.800 Median :3.000 Median :4.350 Median :1.300
## Mean :5.843 Mean :3.057 Mean :3.758 Mean :1.199
## 3rd Qu.:6.400 3rd Qu.:3.300 3rd Qu.:5.100 3rd Qu.:1.800
## Max. :7.900 Max. :4.400 Max. :6.900 Max. :2.500
## Species
## setosa :50
## versicolor:50
## virginica :50
##
##
## # Вычисляем важность признаков методом Information Gain
print(information.gain(Species ~ ., data = iris))## attr_importance
## Sepal.Length 0.4521286
## Sepal.Width 0.2672750
## Petal.Length 0.9402853
## Petal.Width 0.9554360Получается, что Petal.Length (длина лепестка) и Petal.Width (ширина лепестка) - наиболее информативные признаки, позволяющие эффективно различать виды ирисов. Sepal.Length (длина чашелистика) обладает меньшей информативностью, а Sepal.Width (ширина чашелистика) - минимальной.
Вывод: в ходе работы с использованием пакета FSelector проведена оценка важности признаков набора данных iris методом информационного выигрыша (Information Gain). Установлено, что наибольшую значимость для классификации имеют характеристики лепестков (Petal.Length и Petal.Width), тогда как характеристики чашелистиков менее информативны.
Задание 3
С использованием функции discretize() из пакета arules выполните преобразование непрерывной переменной в категориальную [3] различными методами: «interval» (равная ширина интервала), «frequency» (равная частота), «cluster» (кластеризация) и «fixed» (категории задают границы интервалов). Используйте набор данных iris. Сделайте выводы.
library(arules)## Загрузка требуемого пакета: Matrix##
## Присоединяю пакет: 'arules'## Следующие объекты скрыты от 'package:base':
##
## abbreviate, writedata(iris)
# Выбираем длину лепестка
x <- iris$Petal.Lengthinterval - равная ширина интервалов:
весь диапазон делится на интервалы одинаковой числовой ширины.
# Делим диапазон значений на 3 равных интервала
interval <- discretize(x, method = "interval", breaks = 3)
# Выводим количество значений в категориях
table(interval)## interval
## [1,2.97) [2.97,4.93) [4.93,6.9]
## 50 54 46frequency - равная частота: границы
выбираются по квантилям, чтобы распределить примерно одинаковое число
наблюдений по категориям.
# Делим значения на 3 группы примерно равной численности
frequency <- discretize(x, method = "frequency", breaks = 3)
# Выводим количество значений в категориях
table(frequency)## frequency
## [1,2.63) [2.63,4.9) [4.9,6.9]
## 50 49 51cluster - границы определяются
кластеризацией значений методом k-means.
# Фиксируем генератор случайных чисел
set.seed(42)
# Делим значения на 3 группы методом k-means
cluster <- discretize(x, method = "cluster", breaks = 3)
# Выводим количество значений в категориях
table(cluster)## cluster
## [1,2.85) [2.85,4.89) [4.89,6.9]
## 50 49 51fixed - интервалы задаются
пользователем вручную.
# Самостоятельно задаем границы трех категорий
fixed <- discretize(x, method = "fixed",
breaks = c(1, 3, 5, 7),
labels = c("Маленький", "Средний", "Большой"))
# Выводим количество значений в категориях
table(fixed)## fixed
## Маленький Средний Большой
## 50 54 46Вывод: в ходе работы выполнена дискретизация числового признака Petal.Length набора данных iris четырьмя методами пакета arules: interval, frequency, cluster и fixed. Методы отличаются способом определения границ категорий. Дискретизация позволяет преобразовать числовые признаки в категориальные для дальнейшего анализа и классификации, однако она может приводить к потере части исходной информации. Выбор метода зависит от распределения данных и целей исследования.
Задание 4
4.1. Установите пакет Boruta и проведите выбор признаков для набора данных data(“Ozone”).
library(Boruta)
library(mlbench)# Загружаем набор данных
data("Ozone")
# Удаляем строки с пропущенными значениями
ozone <- na.omit(Ozone)
# Просматриваем структуру данных
str(ozone)## 'data.frame': 203 obs. of 13 variables:
## $ V1 : Factor w/ 12 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 1 1 ...
## $ V2 : Factor w/ 31 levels "1","2","3","4",..: 5 6 7 8 9 12 13 14 15 16 ...
## $ V3 : Factor w/ 7 levels "1","2","3","4",..: 1 2 3 4 5 1 2 3 4 5 ...
## $ V4 : num 5 6 4 4 6 6 5 4 4 7 ...
## $ V5 : num 5760 5720 5790 5790 5700 5720 5760 5780 5830 5870 ...
## $ V6 : num 3 4 6 3 3 3 6 6 3 2 ...
## $ V7 : num 51 69 19 25 73 44 33 19 19 19 ...
## $ V8 : num 54 35 45 55 41 51 51 54 58 61 ...
## $ V9 : num 45.3 49.6 46.4 52.7 48 ...
## $ V10: num 1450 1568 2631 554 2083 ...
## $ V11: num 25 15 -33 -28 23 9 -44 -44 -53 -67 ...
## $ V12: num 57 53.8 54.1 64.8 52.5 ...
## $ V13: num 60 60 100 250 120 150 40 200 250 200 ...
## - attr(*, "na.action")= 'omit' Named int [1:163] 1 2 3 4 10 11 17 18 20 24 ...
## ..- attr(*, "names")= chr [1:163] "1" "2" "3" "4" ...# Фиксируем случайность для воспроизводимости
set.seed(42)
# Запускаем алгоритм Boruta
result <- Boruta(V4 ~ ., data = ozone, maxRuns = 100)
# Выводим результат отбора
print(result)## Boruta performed 21 iterations in 0.4078789 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;# Выводим количество признаков по категориям
table(result$finalDecision)##
## Tentative Confirmed Rejected
## 0 9 34.2. Построить график boxplot, сделать выводы.
# Строим диаграмму важности признаков
plot(result,
main = "Важность признаков Ozone",
xlab = "Признаки",
ylab = "Важность",
las = 2,
cex.axis = 0.8)
# Выводим только подтвержденные важные признаки
getSelectedAttributes(result)## [1] "V1" "V5" "V7" "V8" "V9" "V10" "V11" "V12" "V13"Вывод: в ходе работы с использованием пакета Boruta проведен отбор значимых признаков набора данных Ozone. Алгоритм оценил важность переменных относительно случайных теневых признаков и распределил их по категориям Confirmed, Rejected и Tentative. Данный алгоритм позволяет определить признаки, наиболее полезные для прогнозирования концентрации озона, и исключить переменные, значимость которых не подтверждена. Это может упростить модель и уменьшить количество используемых признаков без существенной потери прогностической информации.Построенная диаграмма boxplot позволяет наглядно сравнить важность признаков и выделить наиболее информативные переменные.