Lab_work_2
Abdulboriy Isamidinov
2026-02-04
Задание 1: Пакет CARET и разведочный анализ
Для начала установим пакет и изучим доступные модели.
Шаг 1.1: Установка и список моделей
# Установка
if(!require(caret)) install.packages("caret", dependencies = TRUE)## Загрузка требуемого пакета: caret## Warning: пакет 'caret' был собран под R версии 4.5.2## Загрузка требуемого пакета: ggplot2## Загрузка требуемого пакета: latticelibrary(caret)
# Получение списка всех доступных методов
models <- names(getModelInfo())
print(models)## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"length(models)## [1] 239Шаг 1.2. Графический разведочный анализ данных
Выполним визуализацию признаков для искусственно сгенерированного набора данных. Мы создаем матрицу из 5 случайных переменных и целевую переменную с двумя классами (A и B).
# Генерация данных
set.seed(123)
x <- matrix(rnorm(50*5), ncol=5)
colnames(x) <- c("Признак_1", "Признак_2", "Признак_3", "Признак_4", "Признак_5")
y <- factor(rep(c("A", "B"), 25))
# Построение матрицы рассеяния
featurePlot(x = x, y = y, plot = "pairs")
# Сохранение графика в файл
jpeg("feature_plot_output.jpg", width = 800, height = 800)
featurePlot(x = x, y = y, plot = "pairs")
dev.off()## png
## 2Задание 2. Определение важности признаков с помощью FSelector
На этом этапе мы используем классический датасет iris,
который содержит данные о длине и ширине чашелистиков
(Sepal) и лепестков (Petal) для трех видов
ирисов. Наша цель — определить, какие из этих четырех параметров
наиболее важны для классификации.
# Установка и загрузка пакета
if(!require(FSelector)) install.packages("FSelector")## Загрузка требуемого пакета: FSelector## Warning: пакет 'FSelector' был собран под R версии 4.5.2library(FSelector)
# Загрузка данных
data(iris)
# Вычисление важности признаков с помощью Gain Ratio (коэффициент усиления информации)
weights <- gain.ratio(Species ~ ., iris)
# Печать весов
print(weights)## attr_importance
## Sepal.Length 0.4196464
## Sepal.Width 0.2472972
## Petal.Length 0.8584937
## Petal.Width 0.8713692# Выбор наиболее важных признаков (топ-2)
subset <- cutoff.k(weights, 2)
print(paste("Лучшие признаки:", paste(subset, collapse = ", ")))## [1] "Лучшие признаки: Petal.Width, Petal.Length"Чтобы выводы были наглядными, добавим небольшую визуализацию весов
# Превратим результаты в удобный формат для построения графика
weights$feature <- rownames(weights)
# Сортировка по весу
weights <- weights[order(weights$attr_importance, decreasing = TRUE), ]
# столбчатый график
barplot(weights$attr_importance, names.arg = weights$feature,
main = "Важность признаков (FSelector / Gain Ratio)",
col = "lightblue", las = 2, ylab = "Importance")
Задание 3. Преобразование непрерывных переменных в категориальные
Для выполнения этого задания воспользуемся пакетом
arules. Мы возьмем переменную Sepal.Length из
набора данных iris и разобьем её на 3 категории (интервала)
разными методами.
# Установка и загрузка пакета
if(!require(arules)) install.packages("arules")## Загрузка требуемого пакета: arules## Warning: пакет 'arules' был собран под R версии 4.5.2## Загрузка требуемого пакета: Matrix##
## Присоединяю пакет: 'arules'## Следующие объекты скрыты от 'package:base':
##
## abbreviate, writelibrary(arules)
# Выбираем переменную для экспериментов
sepal_length <- iris$Sepal.Length
# Применяем разные методы дискретизации
d_interval <- discretize(sepal_length, method = "interval", breaks = 3)
d_frequency <- discretize(sepal_length, method = "frequency", breaks = 3)
d_cluster <- discretize(sepal_length, method = "cluster", breaks = 3)
d_fixed <- discretize(sepal_length, method = "fixed", breaks = c(4, 5.5, 7, 8))
# Сравним результаты (выведем количество элементов в каждой категории)
results <- data.frame(
Interval = table(d_interval),
Frequency = table(d_frequency),
Cluster = table(d_cluster),
Fixed = table(d_fixed)
)
print(results)## Interval.d_interval Interval.Freq Frequency.d_frequency Frequency.Freq
## 1 [4.3,5.5) 52 [4.3,5.4) 46
## 2 [5.5,6.7) 70 [5.4,6.3) 53
## 3 [6.7,7.9] 28 [6.3,7.9] 51
## Cluster.d_cluster Cluster.Freq Fixed.d_fixed Fixed.Freq
## 1 [4.3,5.45) 52 [4,5.5) 52
## 2 [5.45,6.46) 63 [5.5,7) 85
## 3 [6.46,7.9] 35 [7,8] 13Чтобы наглядно увидеть разницу между подходами, построим графики:
par(mfrow = c(2, 2)) # Разделим экран на 4 части
plot(d_interval, main = "Method: Interval (Равная ширина)")
plot(d_frequency, main = "Method: Frequency (Равная частота)")
plot(d_cluster, main = "Method: Cluster (Кластеризация)")
plot(d_fixed, main = "Method: Fixed (Заданные границы)")
par(mfrow = c(1, 1)) # Возвращаем настройки графика в нормуЗадание 4. Проведение выбора признаков с помощью Boruta
Для анализа используем набор данных Ozone из пакета
mlbench. Нам нужно определить, какие факторы окружающей
среды действительно влияют на концентрацию озона.
# Установка и загрузка пакетов
if(!require(Boruta)) install.packages("Boruta")## Загрузка требуемого пакета: Boruta## Warning: пакет 'Boruta' был собран под R версии 4.5.2if(!require(mlbench)) install.packages("mlbench")## Загрузка требуемого пакета: mlbench## Warning: пакет 'mlbench' был собран под R версии 4.5.2library(Boruta)
library(mlbench)
# Загрузка данных Ozone
data("Ozone")
# Удаляем строки с пропущенными значениями (NA), так как Boruta их не любит
ozone_clean <- na.omit(Ozone)
# Выполняем алгоритм Boruta
# V4 — это целевая переменная (концентрация озона)
set.seed(123)
boruta_output <- Boruta(V4 ~ ., data = ozone_clean, doTrace = 0)
# Вывод результатов
print(boruta_output)## Boruta performed 24 iterations in 2.462612 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;# Построение графика boxplot
plot(boruta_output, cex.axis = 0.7, las = 2, xlab = "", main = "Важность признаков в наборе Ozone")