2laba
2026-08-27
Задание 1
x <- matrix(rnorm(50*5), ncol=5) y <- factor(rep(c(“A”,“B”), 25))
library(caret)## Загрузка требуемого пакета: ggplot2## Загрузка требуемого пакета: latticenames(getModelInfo())## [1] "ada" "AdaBag" "AdaBoost.M1"
## [4] "adaboost" "amdai" "ANFIS"
## [7] "avNNet" "awnb" "awtan"
## [10] "bag" "bagEarth" "bagEarthGCV"
## [13] "bagFDA" "bagFDAGCV" "bam"
## [16] "bartMachine" "bayesglm" "binda"
## [19] "blackboost" "blasso" "blassoAveraged"
## [22] "bridge" "brnn" "BstLm"
## [25] "bstSm" "bstTree" "C5.0"
## [28] "C5.0Cost" "C5.0Rules" "C5.0Tree"
## [31] "cforest" "chaid" "CSimca"
## [34] "ctree" "ctree2" "cubist"
## [37] "dda" "deepboost" "DENFIS"
## [40] "dnn" "dwdLinear" "dwdPoly"
## [43] "dwdRadial" "earth" "elm"
## [46] "enet" "evtree" "extraTrees"
## [49] "fda" "FH.GBML" "FIR.DM"
## [52] "foba" "FRBCS.CHI" "FRBCS.W"
## [55] "FS.HGD" "gam" "gamboost"
## [58] "gamLoess" "gamSpline" "gaussprLinear"
## [61] "gaussprPoly" "gaussprRadial" "gbm_h2o"
## [64] "gbm" "gcvEarth" "GFS.FR.MOGUL"
## [67] "GFS.LT.RS" "GFS.THRIFT" "glm.nb"
## [70] "glm" "glmboost" "glmnet_h2o"
## [73] "glmnet" "glmStepAIC" "gpls"
## [76] "hda" "hdda" "hdrda"
## [79] "HYFIS" "icr" "J48"
## [82] "JRip" "kernelpls" "kknn"
## [85] "knn" "krlsPoly" "krlsRadial"
## [88] "lars" "lars2" "lasso"
## [91] "lda" "lda2" "leapBackward"
## [94] "leapForward" "leapSeq" "Linda"
## [97] "lm" "lmStepAIC" "LMT"
## [100] "loclda" "logicBag" "LogitBoost"
## [103] "logreg" "lssvmLinear" "lssvmPoly"
## [106] "lssvmRadial" "lvq" "M5"
## [109] "M5Rules" "manb" "mda"
## [112] "Mlda" "mlp" "mlpKerasDecay"
## [115] "mlpKerasDecayCost" "mlpKerasDropout" "mlpKerasDropoutCost"
## [118] "mlpML" "mlpSGD" "mlpWeightDecay"
## [121] "mlpWeightDecayML" "monmlp" "msaenet"
## [124] "multinom" "mxnet" "mxnetAdam"
## [127] "naive_bayes" "nb" "nbDiscrete"
## [130] "nbSearch" "neuralnet" "nnet"
## [133] "nnls" "nodeHarvest" "null"
## [136] "OneR" "ordinalNet" "ordinalRF"
## [139] "ORFlog" "ORFpls" "ORFridge"
## [142] "ORFsvm" "ownn" "pam"
## [145] "parRF" "PART" "partDSA"
## [148] "pcaNNet" "pcr" "pda"
## [151] "pda2" "penalized" "PenalizedLDA"
## [154] "plr" "pls" "plsRglm"
## [157] "polr" "ppr" "pre"
## [160] "PRIM" "protoclass" "qda"
## [163] "QdaCov" "qrf" "qrnn"
## [166] "randomGLM" "ranger" "rbf"
## [169] "rbfDDA" "Rborist" "rda"
## [172] "regLogistic" "relaxo" "rf"
## [175] "rFerns" "RFlda" "rfRules"
## [178] "ridge" "rlda" "rlm"
## [181] "rmda" "rocc" "rotationForest"
## [184] "rotationForestCp" "rpart" "rpart1SE"
## [187] "rpart2" "rpartCost" "rpartScore"
## [190] "rqlasso" "rqnc" "RRF"
## [193] "RRFglobal" "rrlda" "RSimca"
## [196] "rvmLinear" "rvmPoly" "rvmRadial"
## [199] "SBC" "sda" "sdwd"
## [202] "simpls" "SLAVE" "slda"
## [205] "smda" "snn" "sparseLDA"
## [208] "spikeslab" "spls" "stepLDA"
## [211] "stepQDA" "superpc" "svmBoundrangeString"
## [214] "svmExpoString" "svmLinear" "svmLinear2"
## [217] "svmLinear3" "svmLinearWeights" "svmLinearWeights2"
## [220] "svmPoly" "svmRadial" "svmRadialCost"
## [223] "svmRadialSigma" "svmRadialWeights" "svmSpectrumString"
## [226] "tan" "tanSearch" "treebag"
## [229] "vbmpRadial" "vglmAdjCat" "vglmContRatio"
## [232] "vglmCumulative" "widekernelpls" "WM"
## [235] "wsrf" "xgbDART" "xgbLinear"
## [238] "xgbTree" "xyf"set.seed(1)
x <- matrix(rnorm(50*5), ncol=5)
y <- factor(rep(c("A","B"), 25))p1 <- featurePlot(x = x, y = y, plot = "box")
p1
jpeg("plot_boxplot.jpg", width = 900, height = 700); print(p1); dev.off()## png
## 2p2 <- featurePlot(x = x, y = y, plot = "density")
p2
jpeg("plot_density.jpg", width = 900, height = 700); print(p2); dev.off()## png
## 2p3 <- featurePlot(x = x, y = y, plot = "pairs")
p3
jpeg("plot_pairs.jpg", width = 900, height = 700); print(p3); dev.off()## png
## 2Задание 2
library(FSelectorRcpp)
data(iris)
# 1) информационный выигрыш
w1 <- information_gain(Species ~ ., iris, type = "infogain")
print(w1)## attributes importance
## 1 Sepal.Length 0.4521286
## 2 Sepal.Width 0.2672750
## 3 Petal.Length 0.9402853
## 4 Petal.Width 0.9554360# 2) нормированный выигрыш
w2 <- information_gain(Species ~ ., iris, type = "gainratio")
print(w2)## attributes importance
## 1 Sepal.Length 0.4196464
## 2 Sepal.Width 0.2472972
## 3 Petal.Length 0.8584937
## 4 Petal.Width 0.8713692# 3) симметричная неопределённость
w3 <- information_gain(Species ~ ., iris, type = "symuncert")
print(w3)## attributes importance
## 1 Sepal.Length 0.4155563
## 2 Sepal.Width 0.2452743
## 3 Petal.Length 0.8571872
## 4 Petal.Width 0.8705214Сводная таблица важностей
imp <- data.frame(
feature = w1$attributes,
info.gain = round(w1$importance, 3),
gain.ratio = round(w2$importance, 3),
sym.unc = round(w3$importance, 3)
)
imp[order(-imp$info.gain), ]## feature info.gain gain.ratio sym.unc
## 4 Petal.Width 0.955 0.871 0.871
## 3 Petal.Length 0.940 0.858 0.857
## 1 Sepal.Length 0.452 0.420 0.416
## 2 Sepal.Width 0.267 0.247 0.245# Топ-3 признака по Information Gain
imp[order(-imp$info.gain), ][1:3, ]## feature info.gain gain.ratio sym.unc
## 4 Petal.Width 0.955 0.871 0.871
## 3 Petal.Length 0.940 0.858 0.857
## 1 Sepal.Length 0.452 0.420 0.416#Краткий вывод: Все методы показали, что главные признаки — Petal.Length и Petal.Width, а Sepal.Width лишний в классификации.Задание 3
library(arules)## Загрузка требуемого пакета: Matrix##
## Присоединяю пакет: 'arules'## Следующий объект скрыт от 'package:FSelectorRcpp':
##
## discretize## Следующие объекты скрыты от 'package:base':
##
## abbreviate, writedata(iris)
petal <- iris$Petal.Length
# 1) равная ширина интервала
d1 <- arules::discretize(petal, method = "interval", breaks = 4)
# 2) равная частота
d2 <- arules::discretize(petal, method = "frequency", breaks = 4)
# 3) кластеризация
d3 <- arules::discretize(petal, method = "cluster", breaks = 4)
# 4) границы заданы вручную
d4 <- arules::discretize(petal, method = "fixed", breaks = c(0, 2, 4, 5, 8))
table(d1); table(d2); table(d3); table(d4)## d1
## [1,2.48) [2.48,3.95) [3.95,5.43) [5.43,6.9]
## 50 11 61 28## d2
## [1,1.6) [1.6,4.35) [4.35,5.1) [5.1,6.9]
## 37 38 33 42## d3
## [1,2.79) [2.79,4.62) [4.62,5.62) [5.62,6.9]
## 50 40 41 19## d4
## [0,2) [2,4) [4,5) [5,8]
## 50 11 43 46Сравнение по категориямдля распределений
par(mfrow = c(2, 2))
plot(d1, main = "interval"); plot(d2, main = "frequency")
plot(d3, main = "cluster"); plot(d4, main = "fixed")
Вывод: interval даёт равные по ширине,
но неравные по наполнению категории (распределение скошено);
frequency — равное число объектов в каждой категории, но
разная ширина интервалов; cluster выделяет естественные
сгущения данных; fixed позволяет задать предметные пороги
вручную. Выбор метода зависит от задачи: для поиска ассоциативных правил
лучше frequency, при наличии экспертных порогов —
fixed.
Задание 4
library(Boruta)
data(Ozone, package = "mlbench")
Ozone <- na.omit(Ozone)
set.seed(123)
bor <- Boruta(V4 ~ ., data = Ozone, doTrace = 0)
bor #итог## Boruta performed 18 iterations in 0.2284472 secs.
## 9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
## 3 attributes confirmed unimportant: V2, V3, V6;гистограмма важностей признаков
plot(bor, xlab = "Признаки", las = 2)
#История важностей по шагам/по итерациям
plotImpHistory(bor)
Вывод: Boruta (обёртка над случайным лесом с «теневыми» признаками) выделяет подтверждённые (зелёные) признаки, важность которых значимо выше теневых: это прежде всего температура (V8, V9) и влажность, влияющие на концентрацию озона. Красные признаки (V2 и др.) не отличаются от шума и могут быть исключены из модели. Гистограмма же наглядно показывает разрыв между важностью подтверждённых и отклонённых признаков.