Lembaga : Universitas Islam Negeri Maulana Malik Ibrahim Malang

Fakultas : Sains dan Teknologi

Jurusan : Teknik Informatika

NIM : 230605110044

Dalam optimasi parameter, metode kuadrat dan MLE terkecil yang mungkin digunakan untuk debugging parameter.

Metode Kuadrat Terkecil

Contoh 1:

Terapkan parameter regresi dengan meminimalkan jumlah galat (sisa jumlah kuadrat) pada data berikut! Selanjutnya, bandingkan hasilnya dengan keluaran fungsi LM!

data5=data.frame(x=c(1,2,3,4,5,6),
y=c(1,3,5,6,8,12))

JKG <-function(data, b) {
  with(data, sum((b[1]+b[2]*x-y)^2))
}

hasil1 <-optim(par = c(1,1), fn = JKG, data = data5)
hasil2 <-lm(y~x, data = data5)

plot(data5)
abline(hasil1$par,col=4)

hasil1$par
## [1] -1.266302  2.028449
hasil2$coefficients
## (Intercept)           x 
##   -1.266667    2.028571
hasil1$value
## [1] 2.819048
sum(hasil2$residuals^2)
## [1] 2.819048

Contoh 2 : Mencari penduga parameter untuk

y=1+2x1+3x2+ε

f <- function (para , y, x){
      X <- cbind (1,x)
      yhat <- X %*% as.matrix (para)
      sisa2 <- sum ((y- yhat)^2)
      return (sisa2)
    }

x1 <- runif (10 ,1 ,10)
x2 <- runif (10 ,1 ,10)
galat <- rnorm (10 ,0 ,0.5)
y <- 1 + 2*x1 + 3*x2 + galat

hasil <- optim (c(1 ,1 ,1) ,f,y=y,x= cbind (x1 ,x2))
hasil $par
## [1] 1.499869 2.060748 2.822434
lm(y~x1+x2)
## 
## Call:
## lm(formula = y ~ x1 + x2)
## 
## Coefficients:
## (Intercept)           x1           x2  
##       1.503        2.061        2.821