Лабораторная Работа #2
Дмитрий Марков
2026-10-18
Цель работы
Изучить возможности пакетов caret,
FSelector, arules и Boruta для
визуального анализа данных, оценки важности признаков, дискретизации
числовых переменных и отбора значимых признаков.
1. Пакет caret
1.1. Список моделей
library(caret)
library(FSelector)
library(arules)
library(Boruta)
library(mlbench)
library(randomForest)
library(knitr)
names(getModelInfo())## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"1.2. Создание данных и визуализация
set.seed(123)
x <- matrix(rnorm(50 * 5), ncol = 5)
y <- factor(rep(c("A", "B"), 25))
colnames(x) <- paste0("Feature", 1:5)
dim(x)## [1] 50 5table(y)## y
## A B
## 25 25featurePlot(x = x, y = y, plot = "pairs")
featurePlot(x = x, y = y, plot = "box")
featurePlot(x = x, y = y, plot = "density")
Вывод. В итоге был изучен список моделей, доступных в пакете caret. Для пяти числовых признаков и двух классов были сгенерированы искусственные данные. С помощью featurePlot() построены графики попарных зависимостей, распределений по классам и плотностей.
2. Оценка важности признаков с FSelector
data(iris)
importance <- information.gain(Species ~ ., data = iris)
importance_sorted <- importance[
order(importance$attr_importance, decreasing = TRUE),
,
drop = FALSE
]
importance_sorted## attr_importance
## Petal.Width 0.9554360
## Petal.Length 0.9402853
## Sepal.Length 0.4521286
## Sepal.Width 0.2672750barplot(
importance_sorted$attr_importance,
names.arg = rownames(importance_sorted),
las = 2,
col = "lightblue",
main = "Важность признаков Iris",
ylab = "Information Gain",
cex.names = 0.8
)
Вывод. С помощью пакета FSelector была рассчитана важность признаков набора iris относительно целевой переменной Species. Результаты отсортированы и представлены на столбчатой диаграмме. Чем выше значение Information Gain, тем больше информации соответствующий признак предоставляет для различения классов
3. Дискретизация с помощью arules
petal <- iris$Petal.Length
disc_interval <- discretize(petal, method = "interval", breaks = 3)
disc_frequency <- discretize(petal, method = "frequency", breaks = 3)
set.seed(123)
disc_cluster <- discretize(petal, method = "cluster", breaks = 3)
disc_fixed <- discretize(
petal,
method = "fixed",
breaks = c(-Inf, 2, 5, Inf),
labels = c("Короткий", "Средний", "Длинный")
)
list(
Interval = table(disc_interval),
Frequency = table(disc_frequency),
Cluster = table(disc_cluster),
Fixed = table(disc_fixed)
)## $Interval
## disc_interval
## [1,2.97) [2.97,4.93) [4.93,6.9]
## 50 54 46
##
## $Frequency
## disc_frequency
## [1,2.63) [2.63,4.9) [4.9,6.9]
## 50 49 51
##
## $Cluster
## disc_cluster
## [1,2.85) [2.85,4.89) [4.89,6.9]
## 50 49 51
##
## $Fixed
## disc_fixed
## Короткий Средний Длинный
## 50 54 46par(mfrow = c(2, 2), mar = c(5, 4, 3, 1))
barplot(table(disc_interval), main = "Interval", las = 2)
barplot(table(disc_frequency), main = "Frequency", las = 2)
barplot(table(disc_cluster), main = "Cluster", las = 2)
barplot(table(disc_fixed), main = "Fixed", las = 2)
par(mfrow = c(1, 1))Вывод. С помощью функции discretize() пакета arules числовой признак Petal.Length был преобразован в категории четырьмя методами. interval использует интервалы одинаковой ширины, frequency стремится распределить наблюдения по группам с близким количеством объектов, cluster учитывает группировку значений, а fixed использует заданные пользователем границы. Сравнение таблиц частот позволяет увидеть, как выбор метода влияет на распределение объектов по категориям.
4. Отбор признаков с помощью Boruta
data("Ozone", package = "mlbench")
ozo <- na.omit(Ozone)
dim(ozo)## [1] 203 13colSums(is.na(ozo))## V1 V2 V3 V4 V5 V6 V7 V8 V9 V10 V11 V12 V13
## 0 0 0 0 0 0 0 0 0 0 0 0 0set.seed(123)
boruta_result <- Boruta(
V4 ~ .,
data = ozo,
maxRuns = 100,
doTrace = 0
)
print(boruta_result)## Boruta performed 18 iterations in 0.2198081 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;attStats(boruta_result)## meanImp medianImp minImp maxImp normHits decision
## V1 0.40660229 0.39874710 0.37208192 0.50361585 1.00000000 Confirmed
## V2 0.04391890 0.03169822 -0.02604472 0.13137821 0.11111111 Rejected
## V3 -0.03235907 -0.04528594 -0.08039941 0.03178173 0.00000000 Rejected
## V5 0.37961385 0.37663333 0.33809868 0.42147363 1.00000000 Confirmed
## V6 0.04740489 0.05979747 -0.01572443 0.12718160 0.05555556 Rejected
## V7 0.51883205 0.50588169 0.46725744 0.59114026 1.00000000 Confirmed
## V8 0.77086858 0.76889989 0.73251688 0.81327051 1.00000000 Confirmed
## V9 0.86915268 0.86432645 0.84273725 0.92413075 1.00000000 Confirmed
## V10 0.42389058 0.41739463 0.38164901 0.49245967 1.00000000 Confirmed
## V11 0.55143690 0.54721914 0.49482770 0.61161304 1.00000000 Confirmed
## V12 0.66051279 0.65832222 0.60234621 0.73958611 1.00000000 Confirmed
## V13 0.42761454 0.42057856 0.38618408 0.46920282 1.00000000 ConfirmedgetSelectedAttributes(boruta_result, withTentative = FALSE)## [1] "V1" "V5" "V7" "V8" "V9" "V10" "V11" "V12" "V13"plot(
boruta_result,
las = 2,
cex.axis = 0.8,
main = "Boruta: важность признаков"
)
Вывод. Для набора данных Ozone был применён алгоритм Boruta с целевой переменной V4. Были удалены строки с пропущенными значениями. По результатам алгоритма признаки получили статусы Confirmed, Rejected Визуализация важности позволяет оценить, какие переменные алгоритм считает значимыми по сравнению со случайными теневыми признаками.
Общий вывод
В ходе лабораторной работы были изучены инструменты анализа данных в
R. С помощью caret выполнена визуализация признаков, с
помощью FSelector оценена их важность, с помощью
arules проведена дискретизация числовых значений, а с
помощью Boruta выполнен отбор признаков. Полученные
результаты демонстрируют различные способы предварительного анализа
данных перед построением моделей машинного обучения.