Regresi Polinomial dengan R

1. Simulasi Data

Data disimulasikan dengan hubungan non-linier (kuadratik) antara x dan y.

set.seed(123)
n <- 100
x <- seq(0, 10, length.out = n)
y <- 5 + 2*x - 0.3*x^2 + rnorm(n, mean = 0, sd = 2)
data <- data.frame(x = x, y = y)

print(data)

##              x           y
## 1    0.0000000  3.87904871
## 2    0.1010101  4.73860431
## 3    0.2020202  8.50921338
## 4    0.3030303  5.71952918
## 5    0.4040404  6.01768168
## 6    0.5050505  9.36370818
## 7    0.6060606  7.02376079
## 8    0.7070707  3.73403425
## 9    0.8080808  5.04655753
## 10   0.9090909  5.67892399
## 11   1.0101010  9.16227440
## 12   1.1111111  7.57147951
## 13   1.2121212  7.78501398
## 14   1.3131313  7.33033390
## 15   1.4141414  6.11666178
## 16   1.5151515 10.91542407
## 17   1.6161616  8.44443068
## 18   1.7171717  3.61650551
## 19   1.8181818  9.04733990
## 20   1.9191919  6.78781174
## 21   2.0202020  5.68039177
## 22   2.1212121  7.45661215
## 23   2.2222222  5.91095407
## 24   2.3232323  6.56945966
## 25   2.4242424  6.83532091
## 26   2.5252525  4.76404833
## 27   2.6262626  9.85892273
## 28   2.7272727  8.52988673
## 29   2.8282828  5.98053666
## 30   2.9292929 10.79198858
## 31   3.0303030  9.15871357
## 32   3.1313131  7.73094672
## 33   3.2323232 10.12052374
## 34   3.3333333 10.08960031
## 35   3.4343434  9.97343458
## 36   3.5353535  9.69837019
## 37   3.6363636  9.41362043
## 38   3.7373737  8.16053532
## 39   3.8383838  7.64488520
## 40   3.9393939  7.46219849
## 41   4.0404040  6.79393468
## 42   4.1414141  7.72160040
## 43   4.2424242  5.55460675
## 44   4.3434343 12.36515405
## 45   4.4444444 10.37888696
## 46   4.5454545  5.64634482
## 47   4.6464646  7.01026951
## 48   4.7474747  6.80008384
## 49   4.8484848  9.20455834
## 50   4.9494949  7.38300169
## 51   5.0505051  7.95536675
## 52   5.1515152  7.28450429
## 53   5.2525253  7.14260313
## 54   5.3535354  9.84617304
## 55   5.4545455  6.53192910
## 56   5.5555556  9.88479306
## 57   5.6565657  3.61660520
## 58   5.7575758  7.73947543
## 59   5.8585859  6.66797173
## 60   5.9595960  6.69603986
## 61   6.0606061  6.86120734
## 62   6.1616162  4.92893130
## 63   6.2626263  5.09269145
## 64   6.3636364  3.54136163
## 65   6.4646465  3.24821430
## 66   6.5656566  5.80601657
## 67   6.6666667  5.89641956
## 68   6.7676768  4.90092734
## 69   6.8686869  6.42825088
## 70   6.9696970  8.46656056
## 71   7.0707071  3.16088227
## 72   7.1717172 -0.70496157
## 73   7.2727273  5.68916300
## 74   7.3737374  2.01747237
## 75   7.4747475  1.81192277
## 76   7.5757576  4.98502704
## 77   7.6767677  2.10416075
## 78   7.7777778 -0.03402802
## 79   7.8787879  2.49759319
## 80   7.9797980  1.57866050
## 81   8.0808081  1.58330676
## 82   8.1818182  2.05155254
## 83   8.2828283  0.24276319
## 84   8.3838384  1.96980605
## 85   8.4848485 -0.06907230
## 86   8.5858586  0.72019080
## 87   8.6868687  1.92890913
## 88   8.7878788  0.27807648
## 89   8.8888889 -1.57778910
## 90   8.9898990  1.03192806
## 91   9.0909091  0.37543746
## 92   9.1919192 -0.86678123
## 93   9.2929293 -1.84423840
## 94   9.3939394 -3.94176257
## 95   9.4949495 -0.33501589
## 96   9.5959596 -4.63333215
## 97   9.6969697  0.55923899
## 98   9.7979798 -1.13894159
## 99   9.8989899 -5.07042123
## 100 10.0000000 -7.05284180

Berdasarkan output tersebut, data dibangkitkan sebanyak 100 data dengan menggunakan set.seed(123) agar setiap kali sintaks dijalankan data bangkitan selalu menghasilkan nilai yang sama. Variabel prediktor x dibangkitkan sebanyak 100 data yang memiliki jarak yang sama pada rentang 0 hingga 10. Sementara itu, variabel respon y dibangkitkan berdasarkan fungsi kuadratik (non-linier) dengan persamaan:

\[ y = 5 + 2x - 0.3x^2 + \varepsilon, \quad \varepsilon \sim N(0, 2^2) \] dengan adalah galat yang berdistribusi normal dengan rataan 0 dan simpangan baku 2, atau dapat ditulis \[\quad \varepsilon \sim N(0, 2^2)\].

2. Pencocokan Model

Tiga model dicocokkan sebagai pembanding: linier, polinomial derajat 2, dan derajat 3.

model_linier <- lm(y ~ x, data = data)
model_poli2  <- lm(y ~ poly(x, 2, raw = TRUE), data = data)
model_poli3  <- lm(y ~ poly(x, 3, raw = TRUE), data = data)

summary(model_linier)

## 
## Call:
## lm(formula = y ~ x, data = data)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -7.4317 -1.4051 -0.0466  2.2166  6.6109 
## 
## Coefficients:
##             Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  9.88171    0.55369  17.847   <2e-16 ***
## x           -0.95028    0.09566  -9.934   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 2.789 on 98 degrees of freedom
## Multiple R-squared:  0.5017, Adjusted R-squared:  0.4967 
## F-statistic: 98.68 on 1 and 98 DF,  p-value: < 2.2e-16

Berdasarkan output di atas, dari persamaan model regresi linier yang diperoleh yaitu:

\[ \hat{y} = 9{,}8817 - 0{,}95028x \]

Nilai konstanta sebesar 9,88171 menunjukkan bahwa ketika variabel \(x\) tidak memberikan pengaruh atau bernilai nol, maka nilai variabel \(y\) diperkirakan sebesar 9,88171 satuan. Sementara itu, koefisien regresi \(x\) sebesar −0,95028 menunjukkan bahwa setiap kenaikan satu satuan pada \(x\) akan menyebabkan nilai \(y\) mengalami penurunan sebesar 0,95028 satuan.

Nilai \(R^2\) yang diperoleh sebesar 0,5017. Artinya, variabel \(x\) mampu menjelaskan sekitar 50,17% variasi yang terjadi pada variabel \(y\) melalui model linier yang digunakan. Adapun sebesar 49,83% sisanya dijelaskan oleh faktor-faktor lain di luar model yang belum diketahui.

summary(model_poli2)

## 
## Call:
## lm(formula = y ~ poly(x, 2, raw = TRUE), data = data)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -4.8136 -1.1977 -0.0533  1.3549  4.3891 
## 
## Coefficients:
##                         Estimate Std. Error t value Pr(>|t|)    
## (Intercept)              5.33982    0.53777   9.929   <2e-16 ***
## poly(x, 2, raw = TRUE)1  1.80266    0.24855   7.253    1e-10 ***
## poly(x, 2, raw = TRUE)2 -0.27529    0.02405 -11.447   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 1.829 on 97 degrees of freedom
## Multiple R-squared:  0.788,  Adjusted R-squared:  0.7837 
## F-statistic: 180.3 on 2 and 97 DF,  p-value: < 2.2e-16

Berdasarkan output di atas, dari persamaan model kuadratik (non-linier) yang diperoleh yaitu: \[ \hat{y} = 5{,}33982 + 1{,}80266x - 0{,}27529x^2 \] Nilai konstanta sebesar 5,33982 menunjukkan bahwa ketika variabel \(x = 0\), maka nilai variabel \(y\) diperkirakan sebesar 5,33982 satuan. Koefisien \(x\) sebesar 1,80266 dan koefisien \(x^2\) sebesar −0,27529 secara bersama-sama membentuk hubungan kuadratik antara variabel \(x\) dan \(y\). Koefisien positif pada \(x\) menunjukkan adanya kecenderungan peningkatan nilai \(y\), sedangkan koefisien negatif pada \(x^2\) menyebabkan kurva berbentuk melengkung ke bawah atau seperti U terbalik. Dengan demikian, pada nilai \(x\) yang semakin besar, peningkatan nilai \(y\) akan semakin kecil.

Nilai \(R^2\) sebesar 0,788 menunjukkan bahwa sekitar 78,8% variasi pada variabel \(y\) dapat dijelaskan oleh variabel \(x\) dan \(x^2\) melalui model kuadratik. Sementara itu, sebesar 21,2% sisanya dijelaskan oleh faktor-faktor lain di luar model yang belum diketahui.

summary(model_poli3)

## 
## Call:
## lm(formula = y ~ poly(x, 3, raw = TRUE), data = data)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -4.7866 -1.1996 -0.0497  1.3386  4.3777 
## 
## Coefficients:
##                          Estimate Std. Error t value Pr(>|t|)    
## (Intercept)              5.282801   0.708433   7.457 3.93e-11 ***
## poly(x, 3, raw = TRUE)1  1.872854   0.616613   3.037  0.00307 ** 
## poly(x, 3, raw = TRUE)2 -0.292931   0.143693  -2.039  0.04424 *  
## poly(x, 3, raw = TRUE)3  0.001176   0.009443   0.125  0.90117    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 1.838 on 96 degrees of freedom
## Multiple R-squared:  0.7881, Adjusted R-squared:  0.7815 
## F-statistic:   119 on 3 and 96 DF,  p-value: < 2.2e-16

Berdasarkan output di atas, dari persamaan model kubik (non-linier) yang diperoleh yaitu: \[ \hat{y} = 5{,}282801 + 1{,}872854x - 0{,}292931x^2 + 0{,}001176x^3 \] Nilai konstanta sebesar 5,282801 menunjukkan bahwa ketika variabel \(x = 0\), maka nilai variabel \(y\) diperkirakan sebesar 5,282801 satuan. Koefisien \(x\) sebesar 1,872854, koefisien \(x^2\) sebesar −0,292931, dan koefisien \(x^3\) sebesar 0,001176 secara bersama-sama membentuk hubungan kubik antara variabel \(x\) dan \(y\).

Koefisien positif pada \(x\) menunjukkan adanya kecenderungan peningkatan nilai \(y\). Selanjutnya, koefisien negatif pada \(x^2\) menyebabkan kurva cenderung melengkung ke bawah, sedangkan koefisien positif pada \(x^3\) memberikan sedikit perubahan atau penyesuaian terhadap bentuk kurva.

Nilai \(R^2\) sebesar 0,7881 menunjukkan bahwa sekitar 78,81% variasi pada variabel \(y\) dapat dijelaskan oleh variabel \(x\), \(x^2\), dan \(x^3\) melalui model kubik. Sementara itu, sebesar 21,19% sisanya dijelaskan oleh faktor-faktor lain di luar model yang belum diketahui.

3. Perbandingan Model

3.1 Uji ANOVA Bertingkat

anova(model_linier, model_poli2, model_poli3)

## Analysis of Variance Table
## 
## Model 1: y ~ x
## Model 2: y ~ poly(x, 2, raw = TRUE)
## Model 3: y ~ poly(x, 3, raw = TRUE)
##   Res.Df    RSS Df Sum of Sq        F Pr(>F)    
## 1     98 762.42                                 
## 2     97 324.33  1    438.09 129.6931 <2e-16 ***
## 3     96 324.28  1      0.05   0.0155 0.9012    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Berdasarkan hasil uji ANOVA, ketiga model regresi kemudian dibandingkan untuk menentukan model yang paling sesuai. Perbandingan antara model linier dan model kuadratik menunjukkan bahwa penggunaan model kuadratik memberikan perbaikan yang signifikan. Hal ini terlihat dari nilai Residual Sum of Squares (RSS) yang turun cukup besar, yaitu sebesar 438,09, dari 762,42 menjadi 324,33. Selain itu, diperoleh nilai F-statistic sebesar 129,6931 dengan p-value < 2e-16. Nilai tersebut menunjukkan bahwa model kuadratik memberikan peningkatan yang sangat signifikan dibandingkan model linier.

Selanjutnya, perbandingan antara model kuadratik dan model kubik menunjukkan hasil yang berbeda. Penambahan suku \(x^3\) pada model hanya menghasilkan penurunan RSS yang sangat kecil, yaitu sebesar 0,05, dari 324,33 menjadi 324,28. Nilai F-statistic yang diperoleh sebesar 0,0155 dengan p-value sebesar 0,9012. Karena nilai p-value lebih besar dari 0,05, penambahan variabel \(x^3\) dapat dikatakan tidak memberikan pengaruh yang signifikan terhadap peningkatan model.

Oleh karena itu, model kuadratik dipilih sebagai model yang paling baik untuk digunakan. Model ini mampu memberikan hasil yang signifikan dengan bentuk yang lebih sederhana dibandingkan model kubik. Persamaan model kuadratik tersebut adalah

\[ \hat{y} = 5{,}33982 + 1{,}80266x - 0{,}27529x^2 \]

3.2 Perbandingan AIC

AIC(model_linier, model_poli2, model_poli3)

##              df      AIC
## model_linier  3 492.9204
## model_poli2   4 409.4469
## model_poli3   5 411.4307

Berdasarkan hasil nilai AIC, model kuadratik memiliki nilai paling kecil, yaitu sebesar 409,4469. Nilai tersebut lebih rendah dibandingkan model linier yang memiliki AIC sebesar 492,9204 dan model kubik sebesar 411,4307. Oleh karena itu, berdasarkan kriteria AIC, model kuadratik dipilih sebagai model yang paling baik di antara ketiga model tersebut. Persamaan model kuadratik yang terpilih adalah: \[ \hat{y} = 5{,}33982 + 1{,}80266x - 0{,}27529x^2 \]

4. Visualisasi Perbandingan Model

data$pred_linier <- predict(model_linier)
data$pred_poli2  <- predict(model_poli2)
data$pred_poli3  <- predict(model_poli3)

ggplot(data, aes(x = x, y = y)) +
  geom_point(alpha = 0.5) +
  geom_line(aes(y = pred_linier, color = "Linier"), linewidth = 1) +
  geom_line(aes(y = pred_poli2, color = "Polinomial derajat 2"), linewidth = 1) +
  geom_line(aes(y = pred_poli3, color = "Polinomial derajat 3"), linewidth = 1) +
  labs(title = "Perbandingan Regresi Linier vs Polinomial",
       x = "x", y = "y", color = "Model") +
  theme_minimal()

Berdasarkan grafik yang ditampilkan, terlihat adanya perbedaan pola antara ketiga model. Model linier yang ditunjukkan oleh garis merah membentuk garis lurus dengan arah yang cenderung menurun. Berbeda dengan model polinomial derajat 2 dan derajat 3, yang masing-masing ditampilkan dengan garis biru dan hijau. Kedua garis tersebut tampak hampir saling berhimpit dan membentuk pola melengkung yang lebih mengikuti sebaran data.

5. Evaluasi dengan RMSE

rmse <- function(actual, predicted) sqrt(mean((actual - predicted)^2))

data.frame(
  Model = c("Linier", "Polinomial derajat 2", "Polinomial derajat 3"),
  RMSE  = c(rmse(data$y, data$pred_linier),
            rmse(data$y, data$pred_poli2),
            rmse(data$y, data$pred_poli3))
)

##                  Model     RMSE
## 1               Linier 2.761195
## 2 Polinomial derajat 2 1.800917
## 3 Polinomial derajat 3 1.800772

Berdasarkan hasil perhitungan RMSE (Root Mean Square Error), model linier menghasilkan nilai RMSE paling besar, yaitu sebesar 2,761195. Sementara itu, model polinomial derajat 2 dan model polinomial derajat 3 memiliki nilai RMSE yang lebih kecil, yaitu masing-masing sebesar 1,800917 dan 1,800772.

Nilai RMSE pada kedua model polinomial tersebut hampir sama, sehingga dapat menunjukkan bahwa tingkat ketepatan kedua model dalam memprediksi data relatif setara. Oleh karena itu, model polinomial derajat 2 dapat dipilih sebagai model yang lebih optimal karena memberikan tingkat akurasi yang sama dengan model derajat 3, tetapi memiliki bentuk yang lebih sederhana.

6. Pemilihan Derajat Optimal via Cross-Validation

Skema 10-fold cross-validation diulang 5 kali untuk menguji derajat polinomial 1 sampai 6.

library(caret)

set.seed(42)

kontrol <- trainControl(
  method = "repeatedcv",
  number = 10,
  repeats = 5
)

derajat_max <- 6

hasil_cv <- data.frame(
  derajat = integer(),
  RMSE = numeric()
)

for (d in 1:derajat_max) {
  
  data_cv <- data
  
  # Membuat variabel polynomial
  if (d == 1) {
    data_cv$x_poly <- data_cv$x
  } else {
    poly_x <- poly(data_cv$x, degree = d, raw = TRUE)
    
    data_cv$x_poly <- poly_x[, 1]
    
    for (j in 2:d) {
      data_cv[[paste0("x_poly", j)]] <- poly_x[, j]
    }
  }
  
  # Formula sesuai derajat
  if (d == 1) {
    formula_model <- y ~ x_poly
  } else {
    variabel <- paste0("x_poly", 2:d)
    formula_model <- as.formula(
      paste("y ~ x_poly +", paste(variabel, collapse = " + "))
    )
  }
  
  model_cv <- train(
    formula_model,
    data = data_cv,
    method = "lm",
    trControl = kontrol
  )
  
  hasil_cv <- rbind(
    hasil_cv,
    data.frame(
      derajat = d,
      RMSE = min(model_cv$results$RMSE)
    )
  )
}

hasil_cv

##   derajat     RMSE
## 1       1 2.757805
## 2       2 1.825068
## 3       3 1.859968
## 4       4 1.877628
## 5       5 1.871701
## 6       6 1.880719

#diperbaiki yang train nya
set.seed(42)

kontrol <- trainControl(
  method = "repeatedcv",
  number = 10,
  repeats = 5
)

derajat_max <- 6

hasil_cv <- data.frame(
  derajat = integer(),
  RMSE = numeric(),
  RMSE_sd = numeric()
)

for (d in 1:derajat_max) {
  
  set.seed(42)
  
  model_cv <- train(
    as.formula(
      paste0("y ~ poly(x, degree = ", d, ", raw = TRUE)")
    ),
    data = data,
    method = "lm",
    trControl = kontrol
  )
  
  hasil_cv <- rbind(
    hasil_cv,
    data.frame(
      derajat = d,
      RMSE = model_cv$results$RMSE,
      RMSE_sd = model_cv$results$RMSESD
    )
  )
}

hasil_cv

##   derajat     RMSE   RMSE_sd
## 1       1 2.757805 0.5405700
## 2       2 1.831405 0.3724052
## 3       3 1.857737 0.3896257
## 4       4 1.887214 0.4000741
## 5       5 1.901895 0.3919190
## 6       6 1.886359 0.3473092

derajat_optimal <- hasil_cv$derajat[which.min(hasil_cv$RMSE)]
cat("Derajat optimal berdasarkan CV:", derajat_optimal, "\n")

## Derajat optimal berdasarkan CV: 2

ggplot(hasil_cv, aes(x = derajat, y = RMSE)) +
  geom_line(
    color = "steelblue",
    linewidth = 1
  ) +
  geom_point(
    size = 3,
    color = "steelblue"
  ) +
  geom_vline(
    xintercept = derajat_optimal,
    linetype = "dashed",
    color = "firebrick"
  ) +
  scale_x_continuous(
    breaks = 1:derajat_max
  ) +
  labs(
    title = "Pemilihan Derajat Optimal via 10-Fold Cross-Validation",
    x = "Derajat Polinomial",
    y = "RMSE Rata-rata (Validasi Silang)"
  ) +
  theme_minimal()

Berdasarkan hasil 10-Fold Cross-Validation, nilai RMSE paling rendah diperoleh pada model polinomial derajat 2, yaitu sebesar 1,825. Sementara itu, pada model polinomial derajat 3 dan derajat yang lebih tinggi, nilai RMSE justru mengalami peningkatan, sebagaimana terlihat dari pola grafik yang cenderung naik.

Oleh karena itu, model polinomial derajat 2 dapat dianggap sebagai model yang paling optimal karena menghasilkan tingkat kesalahan prediksi paling kecil. Selain memiliki akurasi prediksi yang lebih baik, model ini juga lebih sederhana dibandingkan model dengan derajat polinomial yang lebih tinggi.

7. Model Final

model_final <- lm(y ~ poly(x, derajat_optimal, raw = TRUE), data = data)
summary(model_final)

## 
## Call:
## lm(formula = y ~ poly(x, derajat_optimal, raw = TRUE), data = data)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -4.8136 -1.1977 -0.0533  1.3549  4.3891 
## 
## Coefficients:
##                                       Estimate Std. Error t value Pr(>|t|)    
## (Intercept)                            5.33982    0.53777   9.929   <2e-16 ***
## poly(x, derajat_optimal, raw = TRUE)1  1.80266    0.24855   7.253    1e-10 ***
## poly(x, derajat_optimal, raw = TRUE)2 -0.27529    0.02405 -11.447   <2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 1.829 on 97 degrees of freedom
## Multiple R-squared:  0.788,  Adjusted R-squared:  0.7837 
## F-statistic: 180.3 on 2 and 97 DF,  p-value: < 2.2e-16

Berdasarkan berbagai hasil evaluasi yang telah dilakukan, model polinomial derajat 2 dipilih sebagai model terbaik. Model ini memiliki nilai \(R^2\) yang cukup tinggi, yaitu sebesar 0,788, serta seluruh koefisien regresinya signifikan secara statistik dengan nilai \(p < 0{,}05\). Selain itu, model polinomial derajat 2 juga menghasilkan nilai AIC dan RMSE yang paling rendah dibandingkan model lainnya.

Dengan hasil tersebut, model polinomial derajat 2 tidak hanya memiliki kemampuan yang baik dalam menjelaskan dan memprediksi data, tetapi juga memiliki bentuk yang lebih sederhana dibandingkan model dengan derajat yang lebih tinggi. Oleh karena itu, model polinomial derajat 2 dapat ditetapkan sebagai model yang paling optimal.

# Memunculkan nilai y topi (nilai prediksi)

# Menghitung nilai prediksi y
data$y_topi <- predict(model_final)

# Menghitung residual
data$Residual <- residuals(model_final)

# Menampilkan x, y aktual, y prediksi, dan residual
print(data[, c("x", "y", "y_topi", "Residual")])

##              x           y      y_topi     Residual
## 1    0.0000000  3.87904871  5.33982287 -1.460774162
## 2    0.1010101  4.73860431  5.51910079 -0.780496476
## 3    0.2020202  8.50921338  5.69276104  2.816452348
## 4    0.3030303  5.71952918  5.86080361 -0.141274434
## 5    0.4040404  6.01768168  6.02322852 -0.005546837
## 6    0.5050505  9.36370818  6.18003576  3.183672422
## 7    0.6060606  7.02376079  6.33122532  0.692535462
## 8    0.7070707  3.73403425  6.47679722 -2.742762972
## 9    0.8080808  5.04655753  6.61675145 -1.570193912
## 10   0.9090909  5.67892399  6.75108800 -1.072164008
## 11   1.0101010  9.16227440  6.87980689  2.282467513
## 12   1.1111111  7.57147951  7.00290810  0.568571404
## 13   1.2121212  7.78501398  7.12039165  0.664622330
## 14   1.3131313  7.33033390  7.23225752  0.098076385
## 15   1.4141414  6.11666178  7.33850572 -1.221843946
## 16   1.5151515 10.91542407  7.43913626  3.476287814
## 17   1.6161616  8.44443068  7.53414912  0.910281560
## 18   1.7171717  3.61650551  7.62354431 -4.007038800
## 19   1.8181818  9.04733990  7.70732183  1.340018071
## 20   1.9191919  6.78781174  7.78548168 -0.997669946
## 21   2.0202020  5.68039177  7.85802386 -2.177632095
## 22   2.1212121  7.45661215  7.92494837 -0.468336219
## 23   2.2222222  5.91095407  7.98625521 -2.075301147
## 24   2.3232323  6.56945966  8.04194438 -1.472484723
## 25   2.4242424  6.83532091  8.09201588 -1.256694968
## 26   2.5252525  4.76404833  8.13646971 -3.372421376
## 27   2.6262626  9.85892273  8.17530587  1.683616859
## 28   2.7272727  8.52988673  8.20852436  0.321362376
## 29   2.8282828  5.98053666  8.23612517 -2.255588517
## 30   2.9292929 10.79198858  8.25810832  2.533880261
## 31   3.0303030  9.15871357  8.27447380  0.884239771
## 32   3.1313131  7.73094672  8.28522160 -0.554274883
## 33   3.2323232 10.12052374  8.29035174  1.830172006
## 34   3.3333333 10.08960031  8.28986420  1.799736106
## 35   3.4343434  9.97343458  8.28375900  1.689675587
## 36   3.5353535  9.69837019  8.27203612  1.426334071
## 37   3.6363636  9.41362043  8.25469558  1.158924856
## 38   3.7373737  8.16053532  8.23173736 -0.071202041
## 39   3.8383838  7.64488520  8.20316147 -0.558276270
## 40   3.9393939  7.46219849  8.16896791 -0.706769420
## 41   4.0404040  6.79393468  8.12915669 -1.335222006
## 42   4.1414141  7.72160040  8.08372779 -0.362127388
## 43   4.2424242  5.55460675  8.03268122 -2.478074473
## 44   4.3434343 12.36515405  7.97601698  4.389137069
## 45   4.4444444 10.37888696  7.91373507  2.465151889
## 46   4.5454545  5.64634482  7.84583549 -2.199490673
## 47   4.6464646  7.01026951  7.77231824 -0.762048731
## 48   4.7474747  6.80008384  7.69318332 -0.893099475
## 49   4.8484848  9.20455834  7.60843073  1.596127608
## 50   4.9494949  7.38300169  7.51806047 -0.135058776
## 51   5.0505051  7.95536675  7.42207253  0.533294216
## 52   5.1515152  7.28450429  7.32046693 -0.035962646
## 53   5.2525253  7.14260313  7.21324366 -0.070640526
## 54   5.3535354  9.84617304  7.10040271  2.745770326
## 55   5.4545455  6.53192910  6.98194410 -0.450014998
## 56   5.5555556  9.88479306  6.85786782  3.026925244
## 57   5.6565657  3.61660520  6.72817386 -3.111568665
## 58   5.7575758  7.73947543  6.59286224  1.146613197
## 59   5.8585859  6.66797173  6.45193294  0.216038785
## 60   5.9595960  6.69603986  6.30538598  0.390653881
## 61   6.0606061  6.86120734  6.15322134  0.707986002
## 62   6.1616162  4.92893130  5.99543903 -1.066507732
## 63   6.2626263  5.09269145  5.83203905 -0.739347608
## 64   6.3636364  3.54136163  5.66302141 -2.121659776
## 65   6.4646465  3.24821430  5.48838609 -2.240171786
## 66   6.5656566  5.80601657  5.30813310  0.497883473
## 67   6.6666667  5.89641956  5.12226244  0.774157116
## 68   6.7676768  4.90092734  4.93077411 -0.029846772
## 69   6.8686869  6.42825088  4.73366811  1.694582772
## 70   6.9696970  8.46656056  4.53094444  3.935616115
## 71   7.0707071  3.16088227  4.32260310 -1.161720835
## 72   7.1717172 -0.70496157  4.10864409 -4.813605655
## 73   7.2727273  5.68916300  3.88906741  1.800095591
## 74   7.3737374  2.01747237  3.66387306 -1.646400691
## 75   7.4747475  1.81192277  3.43306103 -1.621138260
## 76   7.5757576  4.98502704  3.19663134  1.788395696
## 77   7.6767677  2.10416075  2.95458398 -0.850423227
## 78   7.7777778 -0.03402802  2.70691894 -2.740946961
## 79   7.8787879  2.49759319  2.45363624  0.043956946
## 80   7.9797980  1.57866050  2.19473586 -0.616075370
## 81   8.0808081  1.58330676  1.93021782 -0.346911058
## 82   8.1818182  2.05155254  1.66008210  0.391470433
## 83   8.2828283  0.24276319  1.38432872 -1.141565525
## 84   8.3838384  1.96980605  1.10295766  0.866848389
## 85   8.4848485 -0.06907230  0.81596894 -0.885041233
## 86   8.5858586  0.72019080  0.52336254  0.196828264
## 87   8.6868687  1.92890913  0.22513847  1.703770654
## 88   8.7878788  0.27807648 -0.07870327  0.356779747
## 89   8.8888889 -1.57778910 -0.38816268 -1.189626421
## 90   8.9898990  1.03192806 -0.70323975  1.735167817
## 91   9.0909091  0.37543746 -1.02393450  1.399371968
## 92   9.1919192 -0.86678123 -1.35024692  0.483465697
## 93   9.2929293 -1.84423840 -1.68217701 -0.162061383
## 94   9.3939394 -3.94176257 -2.01972477 -1.922037791
## 95   9.4949495 -0.33501589 -2.36289021  2.027874319
## 96   9.5959596 -4.63333215 -2.71167331 -1.921658846
## 97   9.6969697  0.55923899 -3.06607408  3.625313067
## 98   9.7979798 -1.13894159 -3.42609252  2.287150932
## 99   9.8989899 -5.07042123 -3.79172863 -1.278692593
## 100 10.0000000 -7.05284180 -4.16298242 -2.889859384

Berdasarkan output yang diperoleh, diperoleh nilai variabel \(x\), nilai \(y\) aktual, nilai prediksi \(\hat{y}\) (\(y\) topi), serta nilai residual untuk setiap pengamatan. Nilai \(\hat{y}\) merupakan nilai \(y\) yang diperkirakan berdasarkan model polinomial derajat 2 yang telah dipilih sebagai model terbaik, sedangkan residual menunjukkan selisih antara nilai \(y\) aktual dengan nilai prediksinya.

Sebagai contoh, pada pengamatan pertama dengan nilai \(x = 0\), diperoleh nilai \(y\) aktual sebesar 3,8790, sedangkan nilai prediksi \(\hat{y}\) sebesar 5,3398. Dengan demikian, residual yang diperoleh adalah sebesar −1,4608. Nilai residual negatif menunjukkan bahwa nilai aktual \(y\) lebih kecil dibandingkan nilai yang diprediksi oleh model.

Secara umum, nilai residual pada setiap pengamatan memiliki nilai yang berbeda-beda, baik positif maupun negatif. Residual bernilai positif menunjukkan bahwa nilai aktual lebih besar daripada nilai prediksi, sedangkan residual negatif menunjukkan bahwa nilai aktual lebih kecil daripada nilai prediksi. Selisih tersebut menunjukkan adanya perbedaan antara nilai aktual dan nilai yang dihasilkan oleh model dalam melakukan prediksi.

Catatan

poly(x, derajat, raw = TRUE) digunakan agar koefisien dapat di# langsung sebagai \(\beta_1 x + \beta_2 x^2 + \dots\)
Untuk derajat tinggi (\(\geq 4\)), sebaiknya x distandardisasi terlebih dahulu (scale(x)) agar model lebih stabil secara numerik.
Pertimbangkan aturan one-standard-error rule: pilih derajat terkecil dengan RMSE \(\leq\) (RMSE minimum + 1 SD) untuk model yang lebih sederhana namun performanya setara.