Analiza danych samochodowych

Projekt zaliczeniowy

Założenia

Projekt polega na wykonaniu analizy jednego z ogólnodostępnych zbiorów danych metodami studiowanymi na zajęciach. Zbiór danych powinien zawierać co najmniej około 200 obserwacji dotyczących co najmniej kilkunastu zmiennych. Analiza powinna dotyczyć odpowiednio określonego problemu regresji lub klasyfikacji. Analiza powinna obejmować:

• ocenę jakości predykcji zbudowanych modeli, czyli oszacowanie błędu testowego predykcji metodą zbioru walidacyjnego lub metodą walidacji krzyżowej;
• ocenę istotności każdego z predyktorów;
• ranking ważności predyktorów - o ile model na to pozwala;
• ocenę charakteru (dodatni/ujemny) i wielkości (o ile jednostek zmienia się zmienna odpowiedzi przy jednostkowej zmianie predyktora) wpływu istotnych predyktorów na odpowiedź - o ile model na to pozwala.

Rozważany problem powinien być przeanalizowany przy pomocy następujących modeli:

• model liniowy lub logistyczny,
• lasso,
• drzewo decyzyjne (odpowiednio przycięte, jeśli się da),
• las losowy.

Końcowy dokument może mieć format R Markdown lub podobny.

Wczytanie danych i przygotowanie danych

df <- read.csv("dataset/cars-simple.csv")
head(df)

#summary(df)

Wizualizacja danych

# Histogram ceny\
ggplot(df, aes(x = price)) +
  geom_histogram(binwidth = 1000, fill = "skyblue", color = "black") +
  labs(title = "Rozkład cen samochodów")

# Wykres zależności roku produkcji od przebiegu
ggplot(df, aes(x = year, y = odometer)) +
  geom_point() +
  geom_smooth(method = "lm", se = FALSE, color = "red") +
  labs(title = "Zależność roku produkcji od przebiegu", x = "Rok produkcji", y = "Przebieg")

# Wykres zależności roku produkcji od ceny
ggplot(df, aes(x = year, y = price)) +
  geom_point() +
  geom_smooth(method = "lm", se = FALSE, color = "red") +
  labs(title = "Zależność roku produkcji od ceny", x = "Rok produkcji", y = "Cena")

Model liniowy

subset <- df[c("price", "year", "odometer")]
# Fit linear regression model with price as the response variable and year and odometer as predictors
lm_compact <- lm(price ~ year + odometer, data = subset)

# Summary of the linear regression model
plot(lm_compact)

# Istotność predyktorów w modelu liniowym
summary(lm_compact)

Call:
lm(formula = price ~ year + odometer, data = subset)

Residuals:
    Min      1Q  Median      3Q     Max 
-3221.5 -1128.3   -44.9   969.4  3278.5 

Coefficients:
              Estimate Std. Error t value Pr(>|t|)    
(Intercept) -3.328e+06  5.060e+05  -6.577 1.86e-08 ***
year         1.662e+03  2.504e+02   6.637 1.48e-08 ***
odometer    -5.760e-02  2.649e-02  -2.174    0.034 *  
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 1600 on 55 degrees of freedom
Multiple R-squared:  0.9451,    Adjusted R-squared:  0.9431 
F-statistic: 473.7 on 2 and 55 DF,  p-value: < 2.2e-16

Ocena jakości predykcji

# Przykładowa walidacja krzyżowa dla modelu liniowego
library(caret)

# Przygotowanie danych do walidacji krzyżowej
set.seed(123)
indexes <- createDataPartition(df$price, p = 0.7, list = FALSE)
train_data <- df[indexes, ]
test_data <- df[-indexes, ]

# Budowa modelu liniowego na danych treningowych
linear_model <- lm(price ~ year + odometer, data = train_data)

# Predykcja na danych testowych
predictions <- predict(linear_model, newdata = test_data)

# Obliczenie błędu testowego
test_error <- RMSE(predictions, test_data$price)
test_error

[1] 1224.051

# wynik 1224.051 czy jest to akceptowalne???

Lasso

dfSmall <- df[c("price", "year", "odometer")]

x <- model.matrix(price ~ ., data = dfSmall)[,-1]
y <- dfSmall$price
lasso_model <- cv.glmnet(x, y, alpha = 1)
plot(lasso_model)

summary(lasso_model)

           Length Class  Mode     
lambda     55     -none- numeric  
cvm        55     -none- numeric  
cvsd       55     -none- numeric  
cvup       55     -none- numeric  
cvlo       55     -none- numeric  
nzero      55     -none- numeric  
call        4     -none- call     
name        1     -none- character
glmnet.fit 12     elnet  list     
lambda.min  1     -none- numeric  
lambda.1se  1     -none- numeric  
index       2     -none- numeric  

Ocena jakości predykcji

# Przygotowanie danych
set.seed(123)
indexes <- createDataPartition(df$price, p = 0.7, list = FALSE)
train_data <- df[indexes, ]
test_data <- df[-indexes, ]

# Tworzenie macierzy modelowej dla danych treningowych
x_train <- model.matrix(price ~ ., data = train_data)[,-1]

Error in `contrasts<-`(`*tmp*`, value = contr.funs[1 + isOF[nn]]) : 
  contrasts can be applied only to factors with 2 or more levels

Drzewo decyzyjne

tree_model <- rpart(price ~ year + manufacturer + odometer, data = df, method = "anova")
plot(tree_model)

Las losowy

library(randomForest)
random_forest_model <- randomForest(price ~ year + odometer + condition + state, data = df)
print(random_forest_model)

Call:
 randomForest(formula = price ~ year + odometer + condition +      state, data = df) 
               Type of random forest: regression
                     Number of trees: 500
No. of variables tried at each split: 1

          Mean of squared residuals: 2122828
                    % Var explained: 95.2

varImpPlot(random_forest_model)