1. Задание 1

Формулировка задания:
> Установить пакет CARET, выполнить команду names(getModelInfo()), ознакомиться со списком доступных методов выбора признаков. Выполнить графический разведочный анализ данных с использованием функции featurePlot() для набора данных:
> r > x <- matrix(rnorm(50*5), ncol=5) > y <- factor(rep(c("A", "B"), 25)) >
> Сохранить полученные графики в *.jpg файлы. Сделать выводы.

set.seed(123)
x <- matrix(rnorm(50*5), ncol=5)
y <- factor(rep(c("A", "B"), 25))
colnames(x) <- paste0("Var", 1:5)

# Список доступных моделей
names(getModelInfo())
##   [1] "ada"                 "AdaBag"              "AdaBoost.M1"        
##   [4] "adaboost"            "amdai"               "ANFIS"              
##   [7] "avNNet"              "awnb"                "awtan"              
##  [10] "bag"                 "bagEarth"            "bagEarthGCV"        
##  [13] "bagFDA"              "bagFDAGCV"           "bam"                
##  [16] "bartMachine"         "bayesglm"            "binda"              
##  [19] "blackboost"          "blasso"              "blassoAveraged"     
##  [22] "bridge"              "brnn"                "BstLm"              
##  [25] "bstSm"               "bstTree"             "C5.0"               
##  [28] "C5.0Cost"            "C5.0Rules"           "C5.0Tree"           
##  [31] "cforest"             "chaid"               "CSimca"             
##  [34] "ctree"               "ctree2"              "cubist"             
##  [37] "dda"                 "deepboost"           "DENFIS"             
##  [40] "dnn"                 "dwdLinear"           "dwdPoly"            
##  [43] "dwdRadial"           "earth"               "elm"                
##  [46] "enet"                "evtree"              "extraTrees"         
##  [49] "fda"                 "FH.GBML"             "FIR.DM"             
##  [52] "foba"                "FRBCS.CHI"           "FRBCS.W"            
##  [55] "FS.HGD"              "gam"                 "gamboost"           
##  [58] "gamLoess"            "gamSpline"           "gaussprLinear"      
##  [61] "gaussprPoly"         "gaussprRadial"       "gbm_h2o"            
##  [64] "gbm"                 "gcvEarth"            "GFS.FR.MOGUL"       
##  [67] "GFS.LT.RS"           "GFS.THRIFT"          "glm.nb"             
##  [70] "glm"                 "glmboost"            "glmnet_h2o"         
##  [73] "glmnet"              "glmStepAIC"          "gpls"               
##  [76] "hda"                 "hdda"                "hdrda"              
##  [79] "HYFIS"               "icr"                 "J48"                
##  [82] "JRip"                "kernelpls"           "kknn"               
##  [85] "knn"                 "krlsPoly"            "krlsRadial"         
##  [88] "lars"                "lars2"               "lasso"              
##  [91] "lda"                 "lda2"                "leapBackward"       
##  [94] "leapForward"         "leapSeq"             "Linda"              
##  [97] "lm"                  "lmStepAIC"           "LMT"                
## [100] "loclda"              "logicBag"            "LogitBoost"         
## [103] "logreg"              "lssvmLinear"         "lssvmPoly"          
## [106] "lssvmRadial"         "lvq"                 "M5"                 
## [109] "M5Rules"             "manb"                "mda"                
## [112] "Mlda"                "mlp"                 "mlpKerasDecay"      
## [115] "mlpKerasDecayCost"   "mlpKerasDropout"     "mlpKerasDropoutCost"
## [118] "mlpML"               "mlpSGD"              "mlpWeightDecay"     
## [121] "mlpWeightDecayML"    "monmlp"              "msaenet"            
## [124] "multinom"            "mxnet"               "mxnetAdam"          
## [127] "naive_bayes"         "nb"                  "nbDiscrete"         
## [130] "nbSearch"            "neuralnet"           "nnet"               
## [133] "nnls"                "nodeHarvest"         "null"               
## [136] "OneR"                "ordinalNet"          "ordinalRF"          
## [139] "ORFlog"              "ORFpls"              "ORFridge"           
## [142] "ORFsvm"              "ownn"                "pam"                
## [145] "parRF"               "PART"                "partDSA"            
## [148] "pcaNNet"             "pcr"                 "pda"                
## [151] "pda2"                "penalized"           "PenalizedLDA"       
## [154] "plr"                 "pls"                 "plsRglm"            
## [157] "polr"                "ppr"                 "pre"                
## [160] "PRIM"                "protoclass"          "qda"                
## [163] "QdaCov"              "qrf"                 "qrnn"               
## [166] "randomGLM"           "ranger"              "rbf"                
## [169] "rbfDDA"              "Rborist"             "rda"                
## [172] "regLogistic"         "relaxo"              "rf"                 
## [175] "rFerns"              "RFlda"               "rfRules"            
## [178] "ridge"               "rlda"                "rlm"                
## [181] "rmda"                "rocc"                "rotationForest"     
## [184] "rotationForestCp"    "rpart"               "rpart1SE"           
## [187] "rpart2"              "rpartCost"           "rpartScore"         
## [190] "rqlasso"             "rqnc"                "RRF"                
## [193] "RRFglobal"           "rrlda"               "RSimca"             
## [196] "rvmLinear"           "rvmPoly"             "rvmRadial"          
## [199] "SBC"                 "sda"                 "sdwd"               
## [202] "simpls"              "SLAVE"               "slda"               
## [205] "smda"                "snn"                 "sparseLDA"          
## [208] "spikeslab"           "spls"                "stepLDA"            
## [211] "stepQDA"             "superpc"             "svmBoundrangeString"
## [214] "svmExpoString"       "svmLinear"           "svmLinear2"         
## [217] "svmLinear3"          "svmLinearWeights"    "svmLinearWeights2"  
## [220] "svmPoly"             "svmRadial"           "svmRadialCost"      
## [223] "svmRadialSigma"      "svmRadialWeights"    "svmSpectrumString"  
## [226] "tan"                 "tanSearch"           "treebag"            
## [229] "vbmpRadial"          "vglmAdjCat"          "vglmContRatio"      
## [232] "vglmCumulative"      "widekernelpls"       "WM"                 
## [235] "wsrf"                "xgbDART"             "xgbLinear"          
## [238] "xgbTree"             "xyf"
# Построение графиков
featurePlot(x, y, plot="density")

featurePlot(x, y, plot="box")

featurePlot(x, y, plot="pairs")

Выводы:
- Данные сгенерированы случайно
- Классы A и B сильно перекрываются
- Явных информативных признаков визуально нет

2. Задание 2

Формулировка задания:
> С использованием функций из пакета FSelector определить важность признаков для решения задачи классификации. Использовать набор data(iris). Сделать выводы.

data(iris)
weights <- information.gain(Species ~ ., iris)
weights[order(-weights$attr_importance), ]
## [1] 0.9554360 0.9402853 0.4521286 0.2672750

Выводы:
- Наиболее информативные признаки: Petal.Length, Petal.Width
- Sepal.Length и Sepal.Width менее значимы
- Метод позволяет количественно оценить влияние каждого признака на классификацию

3. Задание 3

Формулировка задания:
> С использованием функции discretize() из пакета arules выполнить преобразование непрерывной переменной в категориальную различными методами: «interval» (равная ширина интервала), «frequency» (равная частота), «cluster» (кластеризация) и «fixed» (категории задают границы интервалов). Использовать набор данных iris. Сделать выводы.

# interval — равная ширина интервалов
disc_interval <- discretize(iris$Sepal.Length, method="interval", categories=3)

# frequency — равное количество наблюдений
disc_frequency <- discretize(iris$Sepal.Length, method="frequency", categories=3)

# cluster — кластеризация
disc_cluster <- discretize(iris$Sepal.Length, method="cluster", categories=3)

# fixed — вручную заданные интервалы
disc_fixed <- discretize(iris$Sepal.Length, method="fixed", breaks=c(4,5,6,8))

table(disc_interval)
## disc_interval
## [4.3,5.5) [5.5,6.7) [6.7,7.9] 
##        52        70        28
table(disc_frequency)
## disc_frequency
## [4.3,5.4) [5.4,6.3) [6.3,7.9] 
##        46        53        51
table(disc_cluster)
## disc_cluster
##  [4.3,5.42) [5.42,6.39)  [6.39,7.9] 
##          52          56          42
table(disc_fixed)
## disc_fixed
## [4,5) [5,6) [6,8] 
##    22    61    67

Выводы:
- interval — равная ширина интервалов
- frequency — равное количество объектов
- cluster — интервалы по естественным группам данных
- fixed — вручную заданные интервалы

4. Задание 4 — Boruta

Формулировка задания:
> Установите пакет Boruta и проведите выбор признаков для набора данных data("Ozone"). Построить график boxplot, сделать выводы.

library(Boruta)
library(mlbench)

# Загружаем набор данных
data("Ozone")

# Убираем строки с пропущенными значениями
Ozone_clean <- na.omit(Ozone)

# Boruta: используем V4 как целевой признак
set.seed(123)
boruta_output <- Boruta(V4 ~ ., data = Ozone_clean, doTrace = 2)

# Результаты
print(boruta_output)
## Boruta performed 24 iterations in 1.212439 secs.
##  9 attributes confirmed important: V1, V10, V11, V12, V13 and 4 more;
##  3 attributes confirmed unimportant: V2, V3, V6;
# Boxplot для всех признаков (стандартный Boruta plot)
plot(boruta_output, las=2, cex.axis=0.7)

# Дополнительно: пример boxplot для V1 против целевой переменной V4
boxplot(Ozone_clean$V4 ~ Ozone_clean$V1, 
        main="Boxplot V4 по признаку V1", xlab="V1", ylab="V4 (Ozone)")

Выводы:
- Boruta определил важные признаки для предсказания V4.
- Confirmed — признаки, которые действительно влияют на целевую переменную.
- Rejected — признаки, которые статистически не значимы.
- Boxplot позволяет визуально оценить распределение V4 относительно отдельных признаков.
- Метод Boruta полезен для отбора признаков и подготовки данных для классификации.

5. Общие выводы

Формулировка задания: > Всю представленную работу собрать в единый файл Rmarkdown. Опубликовать его на RPubs, в качестве отчета о лабораторной работе представить ссылку на полученный файл.

Выполнение задания:
Все предыдущие задания были оформлены в этом RMarkdown документе и успешно скомпилированы в HTML.
Документ опубликован на RPubs