Лабораторная работа
Юлия
2026-09-01
1. Графический разведочный анализ данных с использованием CARET
Установка и подключение пакета
library(caret)## Загрузка требуемого пакета: ggplot2## Загрузка требуемого пакета: latticeПросмотр доступных методов
names(getModelInfo())## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"Команда names(getModelInfo()) позволяет ознакомиться со
списком доступных методов, представленных в пакете
caret.
Создание данных
x <- matrix(rnorm(50 * 5), ncol = 5)
y <- factor(rep(c("A", "B"), 25))Матрица диаграмм рассеяния
featurePlot(x, y, plot = "pairs")
На рисунке представлена матрица диаграмм рассеяния для пяти признаков V1–V5. Точки двух классов в значительной степени перемешаны. Выраженного разделения между классами не наблюдается.
Это объясняется тем, что данные были сгенерированы случайным образом
с помощью функции rnorm().
Графики плотности
featurePlot(x, y, plot = "density")
Для признаков наблюдается значительное перекрытие распределений классов A и B. Выраженных различий, позволяющих уверенно разделить классы, не наблюдается.
Диаграммы размаха
featurePlot(x, y, plot = "box")
Диаграммы размаха показывают значительное перекрытие значений признаков для классов A и B. Существенного разделения классов не наблюдается.
Вывод по заданию 1
Графический разведочный анализ показал отсутствие выраженного разделения между классами A и B. Это связано со случайным характером сгенерированных данных.
2. Определение важности признаков
Загрузка данных
library(FSelectorRcpp)
data(iris)
head(iris)## Sepal.Length Sepal.Width Petal.Length Petal.Width Species
## 1 5.1 3.5 1.4 0.2 setosa
## 2 4.9 3.0 1.4 0.2 setosa
## 3 4.7 3.2 1.3 0.2 setosa
## 4 4.6 3.1 1.5 0.2 setosa
## 5 5.0 3.6 1.4 0.2 setosa
## 6 5.4 3.9 1.7 0.4 setosastr(iris)## 'data.frame': 150 obs. of 5 variables:
## $ Sepal.Length: num 5.1 4.9 4.7 4.6 5 5.4 4.6 5 4.4 4.9 ...
## $ Sepal.Width : num 3.5 3 3.2 3.1 3.6 3.9 3.4 3.4 2.9 3.1 ...
## $ Petal.Length: num 1.4 1.4 1.3 1.5 1.4 1.7 1.4 1.5 1.4 1.5 ...
## $ Petal.Width : num 0.2 0.2 0.2 0.2 0.2 0.4 0.3 0.2 0.2 0.1 ...
## $ Species : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...Для анализа используется набор данных iris. Целевой
переменной является Species, а признаками —
Sepal.Length, Sepal.Width,
Petal.Length и Petal.Width.
Information Gain
importance <- information_gain(Species ~ ., data = iris)
importance## attributes importance
## 1 Sepal.Length 0.4521286
## 2 Sepal.Width 0.2672750
## 3 Petal.Length 0.9402853
## 4 Petal.Width 0.9554360Сортировка признаков
importance_sorted <- importance[order(-importance$importance),]
importance_sorted## attributes importance
## 4 Petal.Width 0.9554360
## 3 Petal.Length 0.9402853
## 1 Sepal.Length 0.4521286
## 2 Sepal.Width 0.2672750Наиболее важными признаками являются Petal.Width и
Petal.Length.
График важности признаков
barplot(importance_sorted$importance,
names.arg = importance_sorted$attributes,
las = 2,
main = "Важность признаков для классификации",
xlab = "Признаки",
ylab = "Information Gain")
Наибольшие значения Information Gain имеют Petal.Width и
Petal.Length. Наименьшую информативность имеет
Sepal.Width.
Вывод по заданию 2
Наиболее информативными признаками для классификации видов ирисов
являются Petal.Width и Petal.Length.
Следовательно, характеристики лепестков имеют большее значение для
определения вида ириса, чем характеристики чашелистиков.
3. Дискретизация данных
Подготовка данных
library(arules)## Загрузка требуемого пакета: Matrix##
## Присоединяю пакет: 'arules'## Следующий объект скрыт от 'package:FSelectorRcpp':
##
## discretize## Следующие объекты скрыты от 'package:base':
##
## abbreviate, writedata(iris)
summary(iris$Sepal.Length)## Min. 1st Qu. Median Mean 3rd Qu. Max.
## 4.300 5.100 5.800 5.843 6.400 7.900Для дискретизации используется непрерывная переменная
Sepal.Length.
Метод interval
iris_interval <- discretize(
iris$Sepal.Length,
method = "interval",
breaks = 3
)
table(iris_interval)## iris_interval
## [4.3,5.5) [5.5,6.7) [6.7,7.9]
## 52 70 28Метод interval разделяет диапазон значений на интервалы
одинаковой ширины.
Метод frequency
iris_frequency <- discretize(
iris$Sepal.Length,
method = "frequency",
breaks = 3
)
table(iris_frequency)## iris_frequency
## [4.3,5.4) [5.4,6.3) [6.3,7.9]
## 46 53 51Метод frequency формирует группы с примерно одинаковым
количеством наблюдений.
Метод cluster
iris_cluster <- discretize(
iris$Sepal.Length,
method = "cluster",
breaks = 3
)
table(iris_cluster)## iris_cluster
## [4.3,5.33) [5.33,6.27) [6.27,7.9]
## 46 53 51Метод cluster автоматически определяет группы значений
на основе кластеризации.
Метод fixed
iris_fixed <- discretize(
iris$Sepal.Length,
method = "fixed",
breaks = c(4.3, 5.5, 6.5, 7.9)
)
table(iris_fixed)## iris_fixed
## [4.3,5.5) [5.5,6.5) [6.5,7.9]
## 52 63 35Метод fixed позволяет самостоятельно задавать границы
интервалов.
Сравнение результатов
head(data.frame(
Sepal.Length = iris$Sepal.Length,
interval = iris_interval,
frequency = iris_frequency,
cluster = iris_cluster,
fixed = iris_fixed
))## Sepal.Length interval frequency cluster fixed
## 1 5.1 [4.3,5.5) [4.3,5.4) [4.3,5.33) [4.3,5.5)
## 2 4.9 [4.3,5.5) [4.3,5.4) [4.3,5.33) [4.3,5.5)
## 3 4.7 [4.3,5.5) [4.3,5.4) [4.3,5.33) [4.3,5.5)
## 4 4.6 [4.3,5.5) [4.3,5.4) [4.3,5.33) [4.3,5.5)
## 5 5.0 [4.3,5.5) [4.3,5.4) [4.3,5.33) [4.3,5.5)
## 6 5.4 [4.3,5.5) [5.4,6.3) [5.33,6.27) [4.3,5.5)Вывод по заданию 3
Для переменной Sepal.Length были применены четыре метода
дискретизации: interval, frequency,
cluster и fixed. Каждый метод формирует
категории по собственному принципу, поэтому полученные интервалы
различаются.
4. Выбор признаков методом Boruta
Установка и подключение пакетов
library(Boruta)
library(mlbench)Загрузка данных
data("Ozone")
head(Ozone)## V1 V2 V3 V4 V5 V6 V7 V8 V9 V10 V11 V12 V13
## 1 1 1 4 3 5480 8 20 NA NA 5000 -15 30.56 200
## 2 1 2 5 3 5660 6 NA 38 NA NA -14 NA 300
## 3 1 3 6 3 5710 4 28 40 NA 2693 -25 47.66 250
## 4 1 4 7 5 5700 3 37 45 NA 590 -24 55.04 100
## 5 1 5 1 5 5760 3 51 54 45.32 1450 25 57.02 60
## 6 1 6 2 6 5720 4 69 35 49.64 1568 15 53.78 60str(Ozone)## 'data.frame': 366 obs. of 13 variables:
## $ V1 : Factor w/ 12 levels "1","2","3","4",..: 1 1 1 1 1 1 1 1 1 1 ...
## $ V2 : Factor w/ 31 levels "1","2","3","4",..: 1 2 3 4 5 6 7 8 9 10 ...
## $ V3 : Factor w/ 7 levels "1","2","3","4",..: 4 5 6 7 1 2 3 4 5 6 ...
## $ V4 : num 3 3 3 5 5 6 4 4 6 7 ...
## $ V5 : num 5480 5660 5710 5700 5760 5720 5790 5790 5700 5700 ...
## $ V6 : num 8 6 4 3 3 4 6 3 3 3 ...
## $ V7 : num 20 NA 28 37 51 69 19 25 73 59 ...
## $ V8 : num NA 38 40 45 54 35 45 55 41 44 ...
## $ V9 : num NA NA NA NA 45.3 ...
## $ V10: num 5000 NA 2693 590 1450 ...
## $ V11: num -15 -14 -25 -24 25 15 -33 -28 23 -2 ...
## $ V12: num 30.6 NA 47.7 55 57 ...
## $ V13: num 200 300 250 100 60 60 100 250 120 120 ...В качестве целевой переменной используется V4, остальные
переменные рассматриваются как потенциальные признаки.
Удаление пропущенных значений
Ozone_clean <- na.omit(Ozone)
dim(Ozone_clean)## [1] 203 13Проведение отбора признаков
set.seed(123)
Boruta_Ozone <- Boruta(
V4 ~ .,
data = Ozone_clean,
doTrace = 0
)
Boruta_Ozone## Boruta performed 18 iterations in 0.287668 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;Статистика важности признаков
attStats(Boruta_Ozone)## meanImp medianImp minImp maxImp normHits decision
## V1 0.40660229 0.39874710 0.37208192 0.50361585 1.00000000 Confirmed
## V2 0.04391890 0.03169822 -0.02604472 0.13137821 0.11111111 Rejected
## V3 -0.03235907 -0.04528594 -0.08039941 0.03178173 0.00000000 Rejected
## V5 0.37961385 0.37663333 0.33809868 0.42147363 1.00000000 Confirmed
## V6 0.04740489 0.05979747 -0.01572443 0.12718160 0.05555556 Rejected
## V7 0.51883205 0.50588169 0.46725744 0.59114026 1.00000000 Confirmed
## V8 0.77086858 0.76889989 0.73251688 0.81327051 1.00000000 Confirmed
## V9 0.86915268 0.86432645 0.84273725 0.92413075 1.00000000 Confirmed
## V10 0.42389058 0.41739463 0.38164901 0.49245967 1.00000000 Confirmed
## V11 0.55143690 0.54721914 0.49482770 0.61161304 1.00000000 Confirmed
## V12 0.66051279 0.65832222 0.60234621 0.73958611 1.00000000 Confirmed
## V13 0.42761454 0.42057856 0.38618408 0.46920282 1.00000000 ConfirmedПо результатам алгоритма подтверждены как значимые признаки
V1, V5, V7, V8,
V9, V10, V11, V12 и
V13.
Признаки V2, V3 и V6 были
отклонены как неинформативные.
Наибольшую среднюю важность имеют V9, V8 и
V12.
Boxplot Boruta
plot(Boruta_Ozone)
На графике представлены распределения значений важности признаков. Алгоритм сравнивает важность исходных признаков с важностью случайных теневых признаков.
Зелёным цветом обозначены подтверждённые значимые признаки, красным — отклонённые признаки, синим — признаки с неопределённым статусом.
Вывод по заданию 4
В результате работы алгоритма Boruta подтверждены девять
информативных признаков: V1, V5,
V7, V8, V9, V10,
V11, V12 и V13.
Признаки V2, V3 и V6 были
отклонены. Наиболее высокую важность имеют V9,
V8 и V12.
Общий вывод
В ходе лабораторной работы были изучены методы анализа и отбора
признаков. С помощью пакета caret выполнен графический
разведочный анализ данных. С использованием Information Gain определена
важность признаков набора iris. С помощью пакета
arules выполнена дискретизация непрерывной переменной
различными методами. Алгоритм Boruta позволил выделить информативные
признаки набора Ozone и исключить признаки с низкой
значимостью.