Universitas : UIN MAULANA MALIK IBRAHIM MALANG
Jurusan : Teknik Informatika
Analisis Regresi merupakan salah satu analisis yang bertujuan untuk mengetahui pengaruh suatu variable terhadap variable lainnya. Dalam analisis regresi variable yang mempengaruhi disebut independent variable dan variable yang dipengaruhi disebut dependent variable. Jika dalam persamaan regresi hanya terdapat satu variable bebas dan satu variable terikat maka disebut persamaan regresi sederhana sedangkan jjika variable bebasnya lebih dari satu maka disebut persamaan regresi berganda.
Regresi linear sederhana seperti : Persamaan Garis Regresi Y= a + b X
Y: variabel dependen
a:konstanta
b:koefisien variabel X
X:variabel independen
Nilai a dan b dapat dihitung dengan rumus:
a = Y- bX
Data Set Linier
y1 <- c (31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 41)
x <- c (46, 45, 49, 58, 44, 63, 47, 61, 53, 53, 42, 67 )
Data Set Linier Ganda
y <- c (43, 26, 39, 38, 37, 33, 54, 27, 38, 36, 25, 33)
X1 <- c (47, 45, 49, 58, 42, 63, 47, 61, 53, 52, 42, 67 )
X2 <- c (7, 6, 13, 9, 16, 8, 15, 12, 17, 9, 11, 11)
length (y)
## [1] 12
length (X1)
## [1] 12
length (X2)
## [1] 12
Analisis Regresi Linier
#analisis Regresilinier
regresi <- lm(y1 ~ x)
summary(regresi)
##
## Call:
## lm(formula = y1 ~ x)
##
## Residuals:
## Min 1Q Median 3Q Max
## -4.5147 -3.0124 0.0596 2.4900 6.0549
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 28.9638 6.6469 4.358 0.00143 **
## x 0.1424 0.1256 1.134 0.28328
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 3.432 on 10 degrees of freedom
## Multiple R-squared: 0.1139, Adjusted R-squared: 0.02532
## F-statistic: 1.286 on 1 and 10 DF, p-value: 0.2833
Analisis Regresi Linier Ganda
#analisis Regresilinier Ganda
r <- lm(y ~ X1 + X2)
summary(r)
##
## Call:
## lm(formula = y ~ X1 + X2)
##
## Residuals:
## Min 1Q Median 3Q Max
## -11.5219 -4.1555 -0.3114 2.5584 14.8015
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 31.66744 18.77363 1.687 0.126
## X1 -0.08871 0.30057 -0.295 0.775
## X2 0.78004 0.70650 1.104 0.298
##
## Residual standard error: 8.247 on 9 degrees of freedom
## Multiple R-squared: 0.1382, Adjusted R-squared: -0.0533
## F-statistic: 0.7217 on 2 and 9 DF, p-value: 0.5121
anova(r)
## Analysis of Variance Table
##
## Response: y
## Df Sum Sq Mean Sq F value Pr(>F)
## X1 1 15.26 15.256 0.2243 0.6470
## X2 1 82.90 82.905 1.2190 0.2982
## Residuals 9 612.09 68.010
INTERPRETASI HASIL ANALISIS REGRESI LINIER GANDA
yprediksi=b0+b1x1+b2x2
Dimana b0 = 19.608816 , b1 = -0.009868 dan b2 = 1.069854,Sehingga Persamaan Regresi
yprediksi = 56.2721 -0.009868 x1 + 1.069854 x2, Kita menggunakan taraf kesignifikanan alpha (a) = 5%.
INTERPRETASI HASIL ANALISIS REGRESI LINIER
Uji F Nilai F -statistic = 11.09 dengan nilai p-value = 0.003733 memberikan informasi tentang kesignifikanan model.
Karena nilai p-value < alpha, ini berarti model signifikan secara statistis.
Pengujian signifikan : p-value < alpha Pengujian tidak signifikan : p-value >= alpha Jadi, penaksiran, peramalan, atau inferensi yang lain dapat dilakukan dengan menggunakan model regresi tersebut karena model signifikan
INTERPRETASI HASIL ANALISIS REGRESI LINIER
Nilai R-squared terletak antara 0 dan 1.
Adjusted R-squared = 0.6471, artinya tinggi dan umur secara bersama sama dapat menjelaskan sekitar 64,71% variasi berat (Y).
Nilai R-squared akan meningkat jika ada penambahan variable independen dalam model. akibatnya, hasil bisa bias jika peneliti menambahkan sembarang peubah independent.
Interpretasinya sama dengan R-squared nilainya dapat naik turun tergantung dari hubungan antara variable independen tambahan dengan variable independennya. Umumnya peneliti menyarankan menggunakan Adjusted R square Jika ingin membandingkan model gunakan Adjusted R square
Hanya peubah x1 yang signifikan karena nilai t value=2.593 dengan nilai p=0,0291 < alpha koefisien regresi untuk X1, yaitu b1=0,4231 dapat diinterpretasi bahwa :
Jika tinggi (X1) bertambah satu cm, maka berat (Y) dapat bertambah sebesar 0,4231 kg untuk anak-anak yang mempunyai umur yang sama