Анализ данных, лабораторная работа №2 “Работа с пакетами CARET и BORUTA на языке R”
Гринко Ярослав
2026-05-29
Введение
Этот отчет показывает ход и результаты выполнения лабораторной работы №2 по дисциплине “Анализ данных”.
Задание 1. Пакет CARET
Установить пакет CARET, выполнить команду names(getModelInfo()), ознакомиться со списком доступных методов выбора признаков. Выполните графический разведочный анализ данных с использование функции featurePlot() для набора данных из справочного файла пакета CARET:
x <- matrix(rnorm(50*5),ncol=5)
y <- factor(rep(c(“A”, “B”), 25))
# Устанавливаем и загружаем пакет caret
library(caret)## Загрузка требуемого пакета: ggplot2## Загрузка требуемого пакета: lattice# Смотрим все доступные методы машинного обучения в пакете caret
# Это просто список названий ~200 методов (lm, rf, knn, svm и др.)
names(getModelInfo())## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"# Создаём случайные данные для примера:
# x — матрица 50 строк и 5 столбцов со случайными числами (нормальное распределение)
# y — фактор (категориальная переменная) из меток "A" и "B", чередующихся 25 раз
x <- matrix(rnorm(50*5), ncol = 5)
y <- factor(rep(c("A", "B"), 25))
# --- График 1: Box plot ---
# Показывает распределение каждого признака (V1-V5) для классов A и B
# Если ящики A и B сильно перекрываются — признак плохо разделяет классы
featurePlot(x, y,
plot = "box",
main = "Box plot: распределение признаков по классам")
# --- График 2: Density plot ---
# Показывает кривые плотности распределения для A и B по каждому признаку
# Если кривые A и B совпадают — признак не помогает в классификации
featurePlot(x, y,
plot = "density",
main = "Density plot: плотность распределения по классам",
auto.key = list(columns = 2))
# --- График 3: Pairs plot ---
# Показывает попарные зависимости между признаками
# Помогает увидеть корреляции и кластеры классов A и B
featurePlot(x, y,
plot = "pairs",
main = "Pairs plot: попарные зависимости признаков",
auto.key = list(columns = 2))
Вывод:
Данные сгенерированы случайно, поэтому классы A и B
Неотличимы — все признаки бесполезны для классификации.
На box plot ящики классов A и B сильно перекрываются.
На density plot кривые почти совпадают.
Это ожидаемый результат для случайных данных.
Задание 2. FSelector на iris
С использование функций из пакета Fselector [2] определить важность признаков для решения задачи классификации. Использовать набор data(iris). Сделать выводы.
library(FSelector)
# Загружаем встроенный датасет iris
# 150 цветков ириса, 4 признака (длина/ширина лепестков и чашелистиков)
# Целевая переменная: Species (3 вида: setosa, versicolor, virginica)
data(iris)
# --- Метод 1: Information Gain (информационный выигрыш) ---
# Показывает насколько каждый признак уменьшает неопределённость
# при предсказании вида цветка
# Значение близкое к 1 = признак очень важен
# Значение близкое к 0 = признак бесполезен
weights_ig <- information.gain(Species ~ ., iris)
print(weights_ig)## attr_importance
## Sepal.Length 0.4521286
## Sepal.Width 0.2672750
## Petal.Length 0.9402853
## Petal.Width 0.9554360# --- Метод 2: Gain Ratio ---
# Улучшенная версия Information Gain
# Учитывает количество уникальных значений признака
# Нормализует оценку, чтобы не завышать важность признаков с множеством значений
weights_gr <- gain.ratio(Species ~ ., iris)
print(weights_gr)## attr_importance
## Sepal.Length 0.4196464
## Sepal.Width 0.2472972
## Petal.Length 0.8584937
## Petal.Width 0.8713692# --- Метод 3: Chi-Squared (хи-квадрат) ---
# Статистический тест независимости
# Проверяет есть ли статистически значимая связь между признаком и классом
weights_chi <- chi.squared(Species ~ ., iris)
print(weights_chi)## attr_importance
## Sepal.Length 0.6288067
## Sepal.Width 0.4922162
## Petal.Length 0.9346311
## Petal.Width 0.9432359# --- Выбираем топ-2 самых важных признака по Information Gain ---
top_features <- cutoff.k(weights_ig, 2)
print(top_features)## [1] "Petal.Width" "Petal.Length"Вывод:
Все три метода единогласно показывают:
1. Petal.Width (~0.95) — САМЫЙ важный признак
2. Petal.Length (~0.94) — второй по важности
3. Sepal.Length (~0.45) — средняя важность
4. Sepal.Width (~0.27) — НАИМЕНЕЕ важный признак
Это значит: для определения вида ириса нужно смотреть
прежде всего на лепестки (Petal), а не на чашелистики (Sepal).
Ширина чашелистика (Sepal.Width) почти не помогает классификации.
Задание 3. Дискретизация с arules
С использованием функции discretize() из пакета arules выполните преобразование непрерывной переменной в категориальную [3] различными методами: «interval» (равная ширина интервала), «frequency» (равная частота), «cluster» (кластеризация) и «fixed» (категории задают границы интервалов). Используйте набор данных iris. Сделайте выводы
library(arules)## Загрузка требуемого пакета: Matrix##
## Присоединяю пакет: 'arules'## Следующие объекты скрыты от 'package:base':
##
## abbreviate, writedata(iris)
# Работаем с переменной Sepal.Length (длина чашелистика)
# Это непрерывная переменная — значения от 4.3 до 7.9
# Наша задача: разбить её на 4 категории разными способами
# Посмотрим на исходные данные
summary(iris$Sepal.Length)## Min. 1st Qu. Median Mean 3rd Qu. Max.
## 4.300 5.100 5.800 5.843 6.400 7.900# --- Метод 1: interval (равная ширина интервала) ---
# Весь диапазон делится на 4 равных по ширине интервала
# Например: [4.3-5.35), [5.35-6.4), [6.4-7.45), [7.45-7.9]
# Минус: в некоторых интервалах может быть мало объектов
disc_interval <- discretize(iris$Sepal.Length, method = "interval", breaks = 4)
cat("=== Метод INTERVAL (равная ширина) ===\n")## === Метод INTERVAL (равная ширина) ===table(disc_interval)## disc_interval
## [4.3,5.2) [5.2,6.1) [6.1,7) [7,7.9]
## 41 48 48 13# --- Метод 2: frequency (равная частота) ---
# Интервалы подбираются так, чтобы в каждом было примерно одинаковое
# количество объектов (150/4 = ~37-38 объектов в каждом интервале)
# Плюс: равномерное распределение объектов по категориям
disc_freq <- discretize(iris$Sepal.Length, method = "frequency", breaks = 4)
cat("=== Метод FREQUENCY (равная частота) ===\n")## === Метод FREQUENCY (равная частота) ===table(disc_freq)## disc_freq
## [4.3,5.1) [5.1,5.8) [5.8,6.4) [6.4,7.9]
## 32 41 35 42# --- Метод 3: cluster (кластеризация k-means) ---
# Алгоритм сам находит естественные группировки в данных
# Интервалы определяются по реальной структуре данных
# Плюс: учитывает реальное распределение данных
disc_cluster <- discretize(iris$Sepal.Length, method = "cluster", breaks = 4)
cat("=== Метод CLUSTER (кластеризация) ===\n")## === Метод CLUSTER (кластеризация) ===table(disc_cluster)## disc_cluster
## [4.3,5.26) [5.26,5.95) [5.95,6.68) [6.68,7.9]
## 45 38 39 28# --- Метод 4: fixed (фиксированные границы) ---
# Мы сами задаём границы интервалов вручную
# -Inf и Inf = захватываем все крайние значения
# Используется когда границы имеют смысловое значение
disc_fixed <- discretize(iris$Sepal.Length, method = "fixed",
breaks = c(-Inf, 5.0, 6.0, 7.0, Inf))
cat("=== Метод FIXED (фиксированные границы) ===\n")## === Метод FIXED (фиксированные границы) ===cat("Границы: (-Inf, 5.0], (5.0, 6.0], (6.0, 7.0], (7.0, Inf)\n")## Границы: (-Inf, 5.0], (5.0, 6.0], (6.0, 7.0], (7.0, Inf)table(disc_fixed)## disc_fixed
## [-Inf,5) [5,6) [6,7) [7, Inf]
## 22 61 54 13Вывод:
- INTERVAL: простой метод, но распределение по категориям
может быть очень неравномерным
- FREQUENCY: гарантирует ~равное число объектов в каждой
категории, удобно для дальнейшего анализа
- CLUSTER: наиболее “умный” метод, находит естественные
группы в данных, хорошо отражает реальную структуру
- FIXED: полный контроль, но нужно знать предметную область
чтобы правильно задать границы
Задание 4. Boruta на Ozone
Установите пакет Boruta и проведите выбор признаков для набора данных data(“Ozone”) [4, 5, 6]. Построить график boxplot, сделать выводы.
library(Boruta)
library(mlbench)
# Загружаем датасет Ozone
# Данные о концентрации озона в Лос-Анджелесе
# V4 — уровень озона (целевая переменная)
# V1-V13 — различные метеорологические факторы
data("Ozone")
# Смотрим структуру данных
str(Ozone)## 'data.frame': 366 obs. of 13 variables:
## $ V1 : Factor w/ 12 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 1 1 ...
## $ V2 : Factor w/ 31 levels "1","2","3","4",..: 1 2 3 4 5 6 7 8 9 10 ...
## $ V3 : Factor w/ 7 levels "1","2","3","4",..: 4 5 6 7 1 2 3 4 5 6 ...
## $ V4 : num 3 3 3 5 5 6 4 4 6 7 ...
## $ V5 : num 5480 5660 5710 5700 5760 5720 5790 5790 5700 5700 ...
## $ V6 : num 8 6 4 3 3 4 6 3 3 3 ...
## $ V7 : num 20 NA 28 37 51 69 19 25 73 59 ...
## $ V8 : num NA 38 40 45 54 35 45 55 41 44 ...
## $ V9 : num NA NA NA NA 45.3 ...
## $ V10: num 5000 NA 2693 590 1450 ...
## $ V11: num -15 -14 -25 -24 25 15 -33 -28 23 -2 ...
## $ V12: num 30.6 NA 47.7 55 57 ...
## $ V13: num 200 300 250 100 60 60 100 250 120 120 ...summary(Ozone)## V1 V2 V3 V4 V5
## 1 : 31 1 : 12 1:52 Min. : 1.00 Min. :5320
## 3 : 31 2 : 12 2:52 1st Qu.: 5.00 1st Qu.:5700
## 5 : 31 3 : 12 3:52 Median : 9.00 Median :5770
## 7 : 31 4 : 12 4:53 Mean :11.53 Mean :5753
## 8 : 31 5 : 12 5:53 3rd Qu.:16.00 3rd Qu.:5830
## 10 : 31 6 : 12 6:52 Max. :38.00 Max. :5950
## (Other):180 (Other):294 7:52 NAs :5 NAs :12
## V6 V7 V8 V9
## Min. : 0.000 Min. :19.00 Min. :25.00 Min. :27.68
## 1st Qu.: 3.000 1st Qu.:49.00 1st Qu.:51.00 1st Qu.:49.73
## Median : 5.000 Median :65.00 Median :62.00 Median :57.02
## Mean : 4.869 Mean :58.48 Mean :61.91 Mean :56.85
## 3rd Qu.: 6.000 3rd Qu.:73.00 3rd Qu.:72.00 3rd Qu.:66.11
## Max. :11.000 Max. :93.00 Max. :93.00 Max. :82.58
## NAs :15 NAs :2 NAs :139
## V10 V11 V12 V13
## Min. : 111 Min. :-69.0 Min. :27.50 Min. : 0.0
## 1st Qu.: 890 1st Qu.:-10.0 1st Qu.:51.26 1st Qu.: 70.0
## Median :2125 Median : 24.0 Median :62.24 Median :110.0
## Mean :2591 Mean : 17.8 Mean :60.93 Mean :123.3
## 3rd Qu.:5000 3rd Qu.: 45.0 3rd Qu.:70.52 3rd Qu.:150.0
## Max. :5000 Max. :107.0 Max. :91.76 Max. :500.0
## NAs :15 NAs :1 NAs :14# Удаляем строки с пропущенными значениями (NA)
# Boruta не работает с NA
Ozone_clean <- na.omit(Ozone)
cat("Строк до очистки:", nrow(Ozone), "\n")## Строк до очистки: 366cat("Строк после очистки:", nrow(Ozone_clean), "\n")## Строк после очистки: 203# --- Запускаем алгоритм Boruta ---
# Boruta работает так:
# 1. Создаёт "теневые" копии всех признаков (перемешивает значения случайно)
# 2. Строит случайный лес на реальных + теневых признаках
# 3. Сравнивает важность реальных признаков с важностью теневых
# 4. Если реальный признак важнее лучшего теневого — он "Confirmed" (важный)
# 5. Если хуже — "Rejected" (неважный)
# 6. Если неясно — "Tentative" (неопределённый)
# doTrace=2 — показывает прогресс выполнения
set.seed(42) # фиксируем случайность для воспроизводимости
boruta_result <- Boruta(V4 ~ ., data = Ozone_clean, doTrace = 2)## 1. run of importance source...## 2. run of importance source...## 3. run of importance source...## 4. run of importance source...## 5. run of importance source...## 6. run of importance source...## 7. run of importance source...## 8. run of importance source...## 9. run of importance source...## 10. run of importance source...## 11. run of importance source...## After 11 iterations, +0.15 secs:## confirmed 9 attributes: V1, V10, V11, V12, V13 and 4 more;## rejected 2 attributes: V2, V3;## still have 1 attribute left.## 12. run of importance source...## 13. run of importance source...## 14. run of importance source...## 15. run of importance source...## 16. run of importance source...## 17. run of importance source...## 18. run of importance source...## 19. run of importance source...## 20. run of importance source...## 21. run of importance source...## After 21 iterations, +0.27 secs:## rejected 1 attribute: V6;## no more attributes left.# Смотрим результат
print(boruta_result)## Boruta performed 21 iterations in 0.2755611 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;# Решаем судьбу "Tentative" признаков
# TentativeRoughFix принимает окончательное решение для неопределённых признаков
boruta_final <- TentativeRoughFix(boruta_result)## Warning in TentativeRoughFix(boruta_result): There are no Tentative attributes!
## Returning original object.print(boruta_final)## Boruta performed 21 iterations in 0.2755611 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;# Список только важных признаков
cat("\nВАЖНЫЕ ПРИЗНАКИ:\n")##
## ВАЖНЫЕ ПРИЗНАКИ:print(getSelectedAttributes(boruta_final, withTentative = FALSE))## [1] "V1" "V5" "V7" "V8" "V9" "V10" "V11" "V12" "V13"# --- Строим график boxplot ---
# Зелёные ящики = важные признаки (Confirmed)
# Красные ящики = неважные признаки (Rejected)
# Жёлтые ящики = неопределённые (Tentative)
# Синие ящики = теневые признаки (shadowMin, shadowMean, shadowMax)
# Чем выше ящик — тем важнее признак
plot(boruta_result,
xlab = "Признаки",
ylab = "Важность (Mean Decrease Accuracy)",
main = "Boruta: важность признаков для предсказания уровня озона",
cex.axis = 0.7) # уменьшаем шрифт осей чтобы подписи влезли
Вывод:
Boruta определил какие метеорологические факторы влияют
на уровень озона. Признаки выше синей линии shadowMax
считаются важными (зелёные).
Метод надёжен т.к. сравнивает с реальным случайным шумом,
а не с произвольным порогом.
Это помогает убрать лишние признаки и упростить модель
без потери качества предсказания.