Teoría

El paquete CARET (Clasificación And Regression Training) es un paquete integral con una amplia variedad de algoritmos para el aprendizaje automático.

instalar paquetes y llamar librerias

Llamar librerías

library(caret)
## Loading required package: ggplot2
## Loading required package: lattice
library(ggplot2)
library(lattice)
library(datasets)
library(DataExplorer)
library(kernlab)
## 
## Attaching package: 'kernlab'
## The following object is masked from 'package:ggplot2':
## 
##     alpha

crear la base de datos

df <- data.frame(iris)

crear la base de datos

summary(df)
##   Sepal.Length    Sepal.Width     Petal.Length    Petal.Width   
##  Min.   :4.300   Min.   :2.000   Min.   :1.000   Min.   :0.100  
##  1st Qu.:5.100   1st Qu.:2.800   1st Qu.:1.600   1st Qu.:0.300  
##  Median :5.800   Median :3.000   Median :4.350   Median :1.300  
##  Mean   :5.843   Mean   :3.057   Mean   :3.758   Mean   :1.199  
##  3rd Qu.:6.400   3rd Qu.:3.300   3rd Qu.:5.100   3rd Qu.:1.800  
##  Max.   :7.900   Max.   :4.400   Max.   :6.900   Max.   :2.500  
##        Species  
##  setosa    :50  
##  versicolor:50  
##  virginica :50  
##                 
##                 
## 
str(df)
## 'data.frame':    150 obs. of  5 variables:
##  $ Sepal.Length: num  5.1 4.9 4.7 4.6 5 5.4 4.6 5 4.4 4.9 ...
##  $ Sepal.Width : num  3.5 3 3.2 3.1 3.6 3.9 3.4 3.4 2.9 3.1 ...
##  $ Petal.Length: num  1.4 1.4 1.3 1.5 1.4 1.7 1.4 1.5 1.4 1.5 ...
##  $ Petal.Width : num  0.2 0.2 0.2 0.2 0.2 0.4 0.3 0.2 0.2 0.1 ...
##  $ Species     : Factor w/ 3 levels "setosa","versicolor",..: 1 1 1 1 1 1 1 1 1 1 ...
#create_report(df)
plot_missing(df)

plot_histogram(df)

plot_correlation(df)

NOTA: En modelos de clasificación, la variable que queremos predecir debe tener formato de factor

Partir la base de datos

set.seed(123)
#Normalmente 80-20 0 70-30
renglones_entrenamiento <- createDataPartition(df$Species, p=0.8, list=FALSE)
entrenamiento <- df[renglones_entrenamiento,]
prueba <- df[renglones_entrenamiento,]

Distintos tipos de Método para Modelar

Los métodos más utilizados para modelar aprendizaje son:

  • SVM: support vector machine po Maquina de vectores de Soporte, Hay varios subtipos: Lineal (DVMLinear), Radial (SVMRadial), Polinomico (SvmPoly), etc.
  • Arbol de Decision: rpart
  • Redes neuronales nnet
  • Random Forest o Bosques Aleatorios: rf

Modelo 1. SVM lineal

modelo1 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "svmLinear",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneGrid = data.frame(C = 1)
)

resultado_entrenamiento1 <- predict(modelo1, entrenamiento)
resultado_prueba1 <- predict(modelo1, prueba)

mcre1 <- confusionMatrix(
  resultado_entrenamiento1,
  entrenamiento$Species
)
mcre1
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         0
##   virginica       0          1        40
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9917          
##                  95% CI : (0.9544, 0.9998)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.9875          
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           1.0000
## Specificity                 1.0000            1.0000           0.9875
## Pos Pred Value              1.0000            1.0000           0.9756
## Neg Pred Value              1.0000            0.9877           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3333
## Detection Prevalence        0.3333            0.3250           0.3417
## Balanced Accuracy           1.0000            0.9875           0.9938
mcrp1 <- confusionMatrix(
  resultado_prueba1,
  prueba$Species
)
mcrp1
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         0
##   virginica       0          1        40
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9917          
##                  95% CI : (0.9544, 0.9998)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.9875          
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           1.0000
## Specificity                 1.0000            1.0000           0.9875
## Pos Pred Value              1.0000            1.0000           0.9756
## Neg Pred Value              1.0000            0.9877           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3333
## Detection Prevalence        0.3333            0.3250           0.3417
## Balanced Accuracy           1.0000            0.9875           0.9938

Modelo 2. SVM Radial

modelo2 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "svmRadial",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneGrid = data.frame(sigma = 1, C = 1)
)

resultado_entrenamiento2 <- predict(modelo2, entrenamiento)
resultado_prueba2 <- predict(modelo2, prueba)

# Matriz de confusión de entrenamiento
mcre2 <- confusionMatrix(
  resultado_entrenamiento2,
  entrenamiento$Species
)
mcre2
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         0
##   virginica       0          1        40
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9917          
##                  95% CI : (0.9544, 0.9998)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.9875          
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           1.0000
## Specificity                 1.0000            1.0000           0.9875
## Pos Pred Value              1.0000            1.0000           0.9756
## Neg Pred Value              1.0000            0.9877           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3333
## Detection Prevalence        0.3333            0.3250           0.3417
## Balanced Accuracy           1.0000            0.9875           0.9938
# Matriz de confusión de prueba
mcrp2 <- confusionMatrix(
  resultado_prueba2,
  prueba$Species
)
mcrp2
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         0
##   virginica       0          1        40
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9917          
##                  95% CI : (0.9544, 0.9998)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.9875          
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           1.0000
## Specificity                 1.0000            1.0000           0.9875
## Pos Pred Value              1.0000            1.0000           0.9756
## Neg Pred Value              1.0000            0.9877           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3333
## Detection Prevalence        0.3333            0.3250           0.3417
## Balanced Accuracy           1.0000            0.9875           0.9938

Modelo 3. SVM Polinómico NIR] : < 2.2e-16

Kappa : 0.975

Mcnemar’s Test P-Value : NA

Statistics by Class:

Class: setosa Class: versicolor Class: virginica

Sensitivity 1.0000 0.9500 1.0000

Specificity 1.0000 1.0000 0.9750

Pos Pred Value 1.0000 1.0000 0.9524

Neg Pred Value 1.0000 0.9756 1.0000

Prevalence 0.3333 0.3333 0.3333

Detection Rate 0.3333 0.3167 0.3333

Detection Prevalence 0.3333 0.3167 0.3500

Balanced Accuracy 1.0000 0.9750 0.9875


``` r
# Matriz de confusión de prueba
mcrp3 <- confusionMatrix(
  resultado_prueba3,
  prueba$Species
)
mcrp3
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         38         0
##   virginica       0          2        40
## 
## Overall Statistics
##                                          
##                Accuracy : 0.9833         
##                  95% CI : (0.9411, 0.998)
##     No Information Rate : 0.3333         
##     P-Value [Acc > NIR] : < 2.2e-16      
##                                          
##                   Kappa : 0.975          
##                                          
##  Mcnemar's Test P-Value : NA             
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9500           1.0000
## Specificity                 1.0000            1.0000           0.9750
## Pos Pred Value              1.0000            1.0000           0.9524
## Neg Pred Value              1.0000            0.9756           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3167           0.3333
## Detection Prevalence        0.3333            0.3167           0.3500
## Balanced Accuracy           1.0000            0.9750           0.9875

Modelo 4. Árbol de Desición

modelo4 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "rpart",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
 tuneLength = 10
  )

resultado_entrenamiento4 <- predict(modelo4, entrenamiento)
resultado_prueba4 <- predict(modelo4, prueba)

# Matriz de confusión de entrenamiento
mcre4 <- confusionMatrix(
  resultado_entrenamiento4,
  entrenamiento$Species
)
mcre4
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         3
##   virginica       0          1        37
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9667          
##                  95% CI : (0.9169, 0.9908)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.95            
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           0.9250
## Specificity                 1.0000            0.9625           0.9875
## Pos Pred Value              1.0000            0.9286           0.9737
## Neg Pred Value              1.0000            0.9872           0.9634
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3083
## Detection Prevalence        0.3333            0.3500           0.3167
## Balanced Accuracy           1.0000            0.9688           0.9563
# Matriz de confusión de prueba
mcrp4 <- confusionMatrix(
  resultado_prueba4,
  prueba$Species
)
mcrp4
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         3
##   virginica       0          1        37
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9667          
##                  95% CI : (0.9169, 0.9908)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.95            
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           0.9250
## Specificity                 1.0000            0.9625           0.9875
## Pos Pred Value              1.0000            0.9286           0.9737
## Neg Pred Value              1.0000            0.9872           0.9634
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3083
## Detection Prevalence        0.3333            0.3500           0.3167
## Balanced Accuracy           1.0000            0.9688           0.9563

Modelo 5. Bosques Aleatorios

modelo5 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "rf",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
 tuneGrid = expand.grid(mtry=c(2,4,6))
  )

resultado_entrenamiento5 <- predict(modelo5, entrenamiento)
resultado_prueba5 <- predict(modelo4, prueba)

# Matriz de confusión de entrenamiento
mcre5 <- confusionMatrix(
  resultado_entrenamiento5,
  entrenamiento$Species
)
mcre5
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         40         0
##   virginica       0          0        40
## 
## Overall Statistics
##                                      
##                Accuracy : 1          
##                  95% CI : (0.9697, 1)
##     No Information Rate : 0.3333     
##     P-Value [Acc > NIR] : < 2.2e-16  
##                                      
##                   Kappa : 1          
##                                      
##  Mcnemar's Test P-Value : NA         
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            1.0000           1.0000
## Specificity                 1.0000            1.0000           1.0000
## Pos Pred Value              1.0000            1.0000           1.0000
## Neg Pred Value              1.0000            1.0000           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3333           0.3333
## Detection Prevalence        0.3333            0.3333           0.3333
## Balanced Accuracy           1.0000            1.0000           1.0000
# Matriz de confusión de prueba
mcrp5 <- confusionMatrix(
  resultado_prueba5,
  prueba$Species
)
mcrp5
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         39         3
##   virginica       0          1        37
## 
## Overall Statistics
##                                           
##                Accuracy : 0.9667          
##                  95% CI : (0.9169, 0.9908)
##     No Information Rate : 0.3333          
##     P-Value [Acc > NIR] : < 2.2e-16       
##                                           
##                   Kappa : 0.95            
##                                           
##  Mcnemar's Test P-Value : NA              
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9750           0.9250
## Specificity                 1.0000            0.9625           0.9875
## Pos Pred Value              1.0000            0.9286           0.9737
## Neg Pred Value              1.0000            0.9872           0.9634
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3250           0.3083
## Detection Prevalence        0.3333            0.3500           0.3167
## Balanced Accuracy           1.0000            0.9688           0.9563

Modelo 6. Redes Neuronales

modelo6 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "nnet",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneLength = 10,
  trace = FALSE
)

resultado_entrenamiento6 <- predict(modelo6, entrenamiento)
resultado_prueba6 <- predict(modelo6, prueba)

# Matriz de confusión de entrenamiento
mcre6 <- confusionMatrix(
  resultado_entrenamiento6,
  entrenamiento$Species
)
mcre6
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         38         0
##   virginica       0          2        40
## 
## Overall Statistics
##                                          
##                Accuracy : 0.9833         
##                  95% CI : (0.9411, 0.998)
##     No Information Rate : 0.3333         
##     P-Value [Acc > NIR] : < 2.2e-16      
##                                          
##                   Kappa : 0.975          
##                                          
##  Mcnemar's Test P-Value : NA             
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9500           1.0000
## Specificity                 1.0000            1.0000           0.9750
## Pos Pred Value              1.0000            1.0000           0.9524
## Neg Pred Value              1.0000            0.9756           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3167           0.3333
## Detection Prevalence        0.3333            0.3167           0.3500
## Balanced Accuracy           1.0000            0.9750           0.9875
# Matriz de confusión de prueba
mcrp6 <- confusionMatrix(
  resultado_prueba6,
  prueba$Species
)
mcrp6
## Confusion Matrix and Statistics
## 
##             Reference
## Prediction   setosa versicolor virginica
##   setosa         40          0         0
##   versicolor      0         38         0
##   virginica       0          2        40
## 
## Overall Statistics
##                                          
##                Accuracy : 0.9833         
##                  95% CI : (0.9411, 0.998)
##     No Information Rate : 0.3333         
##     P-Value [Acc > NIR] : < 2.2e-16      
##                                          
##                   Kappa : 0.975          
##                                          
##  Mcnemar's Test P-Value : NA             
## 
## Statistics by Class:
## 
##                      Class: setosa Class: versicolor Class: virginica
## Sensitivity                 1.0000            0.9500           1.0000
## Specificity                 1.0000            1.0000           0.9750
## Pos Pred Value              1.0000            1.0000           0.9524
## Neg Pred Value              1.0000            0.9756           1.0000
## Prevalence                  0.3333            0.3333           0.3333
## Detection Rate              0.3333            0.3167           0.3333
## Detection Prevalence        0.3333            0.3167           0.3500
## Balanced Accuracy           1.0000            0.9750           0.9875

Tabla de Resultados

resultados <- data.frame(
  "svmLinear" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "svmRadial" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "SvmPoly" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "rpart" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "rf" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "nnet" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"])
)

rownames(resultados) <- c("Exactitud del Entrenamiento", "Exactitud de la prueba")

Conclusiones

En conclusion, el modelo de Redes Neuronales es el recomendado para la clasificacion de lirios.

---
title: "CARET - Iris"
author: "Kamilah Chaidez A01741943"
date: "2026-08-26"
output:
  html_document:
    toc: true
    toc_float: true
    code_download: true
    theme: sandstone
---
<center>

![](https://raw.githubusercontent.com/JoePortilla/IrisDataset-EDA/main/img/iris_flowers.png)

</center>

# <span style="color:dark">Teoría</span>
El paquete **CARET (Clasificación And Regression Training)** es un paquete integral con una amplia variedad de algoritmos para el aprendizaje automático.

# <span style="color:dark">instalar paquetes y llamar librerias</span>
# <span style="color:dark">Llamar librerías</span>

```{r}
library(caret)
library(ggplot2)
library(lattice)
library(datasets)
library(DataExplorer)
library(kernlab)
```
# <span style="color:dark">crear la base de datos</span>
```{r}
df <- data.frame(iris)
```


# <span style="color:dark">crear la base de datos</span>
```{r}
summary(df)
str(df)
#create_report(df)
plot_missing(df)
plot_histogram(df)
plot_correlation(df)
```
**NOTA: En modelos de clasificación, la variable que queremos predecir debe tener formato de factor**


# <span style="color:dark">Partir la base de datos</span>
```{r}
set.seed(123)
#Normalmente 80-20 0 70-30
renglones_entrenamiento <- createDataPartition(df$Species, p=0.8, list=FALSE)
entrenamiento <- df[renglones_entrenamiento,]
prueba <- df[renglones_entrenamiento,]
```


# <span style="color:dark">Distintos tipos de Método para Modelar</span>
Los métodos más utilizados para modelar aprendizaje son:

* **SVM**: *support vector machine* po Maquina de vectores de Soporte, Hay varios subtipos: Lineal (DVMLinear), Radial (SVMRadial), Polinomico
(SvmPoly), etc.
* **Arbol de Decision**: rpart
* **Redes neuronales** nnet
* **Random Forest** o Bosques Aleatorios: rf

# <span style="color:dark">Modelo 1. SVM lineal</span>
```{r, message=FALSE, warning=FALSE}
modelo1 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "svmLinear",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneGrid = data.frame(C = 1)
)

resultado_entrenamiento1 <- predict(modelo1, entrenamiento)
resultado_prueba1 <- predict(modelo1, prueba)

mcre1 <- confusionMatrix(
  resultado_entrenamiento1,
  entrenamiento$Species
)
mcre1

mcrp1 <- confusionMatrix(
  resultado_prueba1,
  prueba$Species
)
mcrp1
```
# <span style="color:dark">Modelo 2. SVM Radial</span>

```{r, message=FALSE, warning=FALSE}
modelo2 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "svmRadial",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneGrid = data.frame(sigma = 1, C = 1)
)

resultado_entrenamiento2 <- predict(modelo2, entrenamiento)
resultado_prueba2 <- predict(modelo2, prueba)

# Matriz de confusión de entrenamiento
mcre2 <- confusionMatrix(
  resultado_entrenamiento2,
  entrenamiento$Species
)
mcre2

# Matriz de confusión de prueba
mcrp2 <- confusionMatrix(
  resultado_prueba2,
  prueba$Species
)
mcrp2
```
# <span style="color:dark">Modelo 3. SVM Polinómico</span
```{r, message=FALSE, warning=FALSE}
modelo3 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "svmPoly",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneGrid = data.frame(
    degree = 2,
    scale = 1,
    C = 1
  )
)

resultado_entrenamiento3 <- predict(modelo3, entrenamiento)
resultado_prueba3 <- predict(modelo3, prueba)

# Matriz de confusión de entrenamiento
mcre3 <- confusionMatrix(
  resultado_entrenamiento3,
  entrenamiento$Species
)
mcre3

# Matriz de confusión de prueba
mcrp3 <- confusionMatrix(
  resultado_prueba3,
  prueba$Species
)
mcrp3
```

# <span style="color:dark">Modelo 4. Árbol de Desición</span>

```{r, message=FALSE, warning=FALSE}
modelo4 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "rpart",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
 tuneLength = 10
  )

resultado_entrenamiento4 <- predict(modelo4, entrenamiento)
resultado_prueba4 <- predict(modelo4, prueba)

# Matriz de confusión de entrenamiento
mcre4 <- confusionMatrix(
  resultado_entrenamiento4,
  entrenamiento$Species
)
mcre4

# Matriz de confusión de prueba
mcrp4 <- confusionMatrix(
  resultado_prueba4,
  prueba$Species
)
mcrp4
```
# <span style="color:dark">Modelo 5. Bosques Aleatorios</span>

```{r, message=FALSE, warning=FALSE}
modelo5 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "rf",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
 tuneGrid = expand.grid(mtry=c(2,4,6))
  )

resultado_entrenamiento5 <- predict(modelo5, entrenamiento)
resultado_prueba5 <- predict(modelo4, prueba)

# Matriz de confusión de entrenamiento
mcre5 <- confusionMatrix(
  resultado_entrenamiento5,
  entrenamiento$Species
)
mcre5

# Matriz de confusión de prueba
mcrp5 <- confusionMatrix(
  resultado_prueba5,
  prueba$Species
)
mcrp5
```
# <span style="color:dark">Modelo 6. Redes Neuronales</span>
```{r, message=FALSE, warning=FALSE}
modelo6 <- train(
  Species ~ ., 
  data = entrenamiento,
  method = "nnet",
  preProcess = c("scale", "center"),
  trControl = trainControl(method = "cv", number = 10),
  tuneLength = 10,
  trace = FALSE
)

resultado_entrenamiento6 <- predict(modelo6, entrenamiento)
resultado_prueba6 <- predict(modelo6, prueba)

# Matriz de confusión de entrenamiento
mcre6 <- confusionMatrix(
  resultado_entrenamiento6,
  entrenamiento$Species
)
mcre6

# Matriz de confusión de prueba
mcrp6 <- confusionMatrix(
  resultado_prueba6,
  prueba$Species
)
mcrp6
```
# <span style="color:dark">Tabla de Resultados</span>
```{r}
resultados <- data.frame(
  "svmLinear" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "svmRadial" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "SvmPoly" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "rpart" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "rf" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"]),
  "nnet" =c(mcre1$overall["Accurancy"], mcrp1$overall["Acucurary"])
)

rownames(resultados) <- c("Exactitud del Entrenamiento", "Exactitud de la prueba")
```

# <span style="color:dark">Conclusiones</span>
En conclusion, el modelo de **Redes Neuronales** es el recomendado para la clasificacion de lirios.