Distribusi Binomial

Distribusi binomial adalah distribusi probabilitas diskrit. Eksperimen Binomial adalah eksperimen yang mempunyai sifat-sifat sebagai berikut:
1. Eksperimen mengandung n percobaan yang identik.
2. Setiap percobaan menghasilkan 2 hasil yang mungkin yang dinamakan sukses (S) dan tidak sukses (F).
3. Untuk tiap percobaan, probabilitas sukses adalah p = P(S) dan probabilitas tidak sukses adalah P(F) = 1 - p = q.
4. Percobaan-percobaan bersifat independen.
5. Variabel random Y adalah banyak sukses yang ditemukan dalam n percobaan.

Keterangan :
B = Probabilitas binomial
x = Jumlah total “keberhasilan” (sukses atau gagal, dll.)
P = Probabilitas keberhasilan pada percobaan individu
n = Jumlah percobaan

n = 4
P = 0.05
x = 3
pbinom(q = x, size = n, p = P, lower.tail = F)

## [1] 6.25e-06

Distribusi Poisson

Distribusi poisson adalah disribusi probabilitas diskrit dari kejadian peristiwa independen dalam suatu interval. Disribusi poisson merupakan model yang baik untuk menentukan distribusi probabilitas dari banyak kecelakaan mobil, kecelakaan dalam industri, dll.

Keterangan :
λ = Kejadian rata-rata per interval
x = Kejadian dalam interval tertentu

p = 0.001
n = 2000
lamda = n*p
x = 3
dpois(x = x, lambda = lamda)

## [1] 0.180447

Distribusi Seragam Kontinu

Distribusi seragam adalah jenis probabilitas dimana semua variabel memiliki probabilitas yang sama. Variabel random Y yang mempunyai disribusi seragam kontinu akan mempunyai fungsi kepadatan probabilitas

Keterangan : θ1 dan θ2 = Parameter dari fungsi kepadatan probabilitas seragam

a = 0
b = 2
runif(1, min = a, max = b)

## [1] 1.447864

Distribusi Eksponensial

Distribusi eksponensial menggambarkan waktu kedatangan urutan peristiwa independen yang berulang secara acak. Variabel random kontinu Y berdistribusi eksponensial dengan parameter β bila fungsi kepadatan probabilitasnya dinyatakan sebagai

n = 3000
x = 1/n
pexp(q = n, rate = x, lower.tail = T, log.p = F)

## [1] 0.6321206

Distribusi Normal

Pada kasus dimana n cukup besar dan p tidak terlalu kecil (tidak mendekati 0, … , 1) maka dilakukan pendekatan memakai distribusi normal (Gauss). Variabel random kontinu Y dinyatakan berdistribusi normal dengan mean μ dan variasi σ^2 jika Y mempunyai fungsi kepadatan probabilitas berbentuk

n = 150
rata = 215
sd = 45
x = 250
pnorm(q = x, mean = rata, sd = sd, lower.tail = F)

## [1] 0.21835

Distribusi Chi-Kuadrat

Distribusi chi-kuadrat biasa digunakan peneliti untuk menguji siginifikansi antara frekuensi yang diamati dengan frekuensi teoritis dan menguji kebebasan antar faktor pada tabel kontingensi. Variabel random Y yang berdistribusi Gamma dengan parameter α = ν/2 dan β = 2 dinamakan variabel random chi-kuadrat dengan derajat bebas ν atau dinotasikan dengan χ2ν.

atau Rumus untuk mengukur perbedaan frekuensi observasi dan frekuensi diharpakan menggunakan rumus dibawah ini.

Rumus Chi-Kuadrat

Keterangan
χ2 = Chi-Square
O = Frekuensi sampel
e = Frekuensi harapan

n = 6
O <- c(36, 42, 48, 31, 35, 48)
e <- rep(240/6, 6)

x = sum((O-e)^2/e)
p = pchisq(q = x, df = n-1, ncp = 0, lower.tail = F)
cat(" x.square =", x,
    "df =", n-1,
    "p-value =", p)

##  x.square = 6.35 df = 5 p-value = 0.2736362

Distribusi Student t

Distribusi t mirip dengan distribusi normal, yang membedakan adalah parameter yang diperlukan hanyalah derajat bebas. Misalkan Z peubah acak normal baku dan V peubah acak chi-square dengan derajat bebas v. Bila Z dan V adalah peubah acak yang independen, maka distribusi dari

mu0 = 145
n = 50
xbar = 150
s = 15
t = (xbar - mu0)/(s/sqrt(n))
p = pt(q = t, df = n-1, lower.tail = F)
cat(" t-value =", t,
    "df =", n-1,
    "p-value =", p)

##  t-value = 2.357023 df = 49 p-value = 0.01123112

Interval Kepercayaan Rata-Rata

Misalkan sebuah populasi berukuran N dengan mean μ dan standar deviasi σ. Lalu, dihitung xbar dari μ dan s dari σ. Untuk memperoleh taksiran interval gunakan derajat kepercayaan yang lebih tinggi.

n = 100
xbar = 112
sigma = 10
sem = sigma/sqrt(n)
E = qnorm(0.975)*sem
int = xbar + c(-E, E)
cat("Rata-Rata =", xbar, "\n",
    "Interval Kepercayaan =", int)

## Rata-Rata = 112 
##  Interval Kepercayaan = 110.04 113.96

data = read.table("Tinggibdn.csv", header=TRUE, sep=";")
t.test(data)

## 
##  One Sample t-test
## 
## data:  data
## t = 7.0865, df = 39, p-value = 1.631e-08
## alternative hypothesis: true mean is not equal to 0
## 95 percent confidence interval:
##   60.52426 108.87574
## sample estimates:
## mean of x 
##      84.7

zstar = qnorm(0.975)
sigma = 9.48
E = 1.2
zstar^2*sigma^2/E^2

## [1] 239.7454

Interval Kepercayaan Populasi

Misalkan populasi berdistribusi binom berukuran N, terdapat proporsi π kejadian A. Maka interval kepercayaan untuk taksiran π dengan koefisien kepercayaan y% yaitu :

dengan p = x/n dan q = 1 - p.

Misalkan kita ingin menaksir ada berapa persen anggota masyarakat berumur 15 tahun keatas yang termasuk ke dalam golongan A. Untuk ini sampel acak berukuran n = 1200 diambil yang menghasilkan 504 tergolong kategori A.

n = 1200
p = 504/n
SE = sqrt(p*(1-p)/n)
E = qnorm(0.975)*SE
int = p + c(-E, E)
cat("Proporsi =", p, "\n",
    "Interval Kepercayaan =", int)

## Proporsi = 0.42 
##  Interval Kepercayaan = 0.3920748 0.4479252

Jadi, didapat dari 95% interval kepercayaan untuk proporsi masyarakat golongan A 0,42 adalah 0,392 < π < 0,448.

zstar = qnorm(0.975)
p = 0.42
E = 0.0278
zstar^2*p*(1-p)/E^2

## [1] 1210.832

One-Tailed

Pada uji satu arah, bila hipotesis nol H0: θ = θ0 dilawan dengan Hipotesis alternatif H1: θ > θ0 atau H1: θ < θ0 . Uji satu arah ditandai dengan adanya satu daerah penolakan hipotesis nol yang bergantung pada nilai kritis tertentu.

Two-Tailed

Pada uji dua arah bila hipotesis nol H0: θ = θ0 dilawan dengan hipotesis alternatif H1 : θ ≠ θ0. Uji dua arah ditandai dengan adanya dua daerah penolakan hipotesis nol yang juga bergantung pada nilai kritis tertentu. Nilai kritis ini diperoleh dari tabel untuk nilai α/2 yang telah dipilih sebelumnya.

Two-Tailed Rata-Rata diketahui Standar Deviasi

Hipotesis nol dari uji dua arah populasi rata-rata μ μ dan σ dapat dinyatakan sebagai berikut:

Mari kita definisikan statistik pengujian z dalam hal rata-rata sampel, ukuran sampel dan standar deviasi populasi σ :

Two-Tailed Rata-Rata tidak diketahui Standar Deviasi

Hipotesis nol dari uji dua arah populasi rata-rata μ dan tidak diketahui σ dapat dinyatakan sebagai berikut:

Mari kita definisikan statistik pengujian t dalam hal rata-rata sampel, ukuran sampel dan standar deviasi sampel s:

Two-Tailed Proporsi

Hipotesis nol dari uji dua arah tentang proporsi populasi dapat dinyatakan sebagai berikut:

mana p0 adalah nilai hipotesis dari proporsi populasi sebenarnya p. Mari kita definisikan statistik pengujian z dalam hal proporsi sampel dan ukuran sampel:

A/B Testing

A/B testing adalah cari untuk membandingkan dua versi dari sesuatu untuk melihat mana yang bekerja lebih baik. Keuntungan menggunakan A/B testing bagi para pelaku bisnis adalah mereka mengetahui strategi periklanan dan pemasaran online yang dapat diterapkan pada bisnis mereka. Contoh A/B testing adalah ketika Kamu telah membuat situs web bisnismu sendiri dan ingin membandingkan dua warna berbeda untuk tombol CTA (Call to Action) Kamu.
Dalam hal ini, Kamu dapat membuat situs web dengan dua tombol berbeda. Sekarang bandingkan kedua situs web tersebut. Cari tahu situs web mana yang dikunjungi pengunjung dan lebih sering diklik.

Gambar diatas menyimpulkan dengan menggunakan A/B testing kita dapat melihat perbandingan versi mana yang lebih menguntungkan. Untuk versi A jumlah sign-up ada 50 sedangkan, versi B jumlah sing-up ada 75. Maka, pengujian ini berhasil untuk menentukan mana versi yang terbaik.

Tujuan A/B Testing pada strategi periklanan
1. Meningkatkan Website Traffic
2. Meningkatkan Conversion Rate
3. Menurunkan Bounce Rate
4. Meningkatkan User Engagement

A/A Testing

Pengaturan A/A Testing yang paling khas adalah pemisahan 50/50 antara dua halaman yang identik. Dalam A/B Testing, tujuannya adalah untuk menemukan tingkat konversi yang lebih tinggi sedangkan, dalam A/A Testing, tujuannya untuk memeriksa apakah variasi memiliki peningkatan yang sama.

Chi-Square

Chi-square ( χ2 ) adalah melakukan uji hipotesis untuk proporsi satu atau lebih variabel kategoris multinomial. Statistik pengujian atau Rumus untuk mengukur perbedaan frekuensi observasi dan frekuensi diharpakan menggunakan rumus dibawah ini.

Rumus Chi-Kuadrat

Keterangan
χ2 = Chi-Square
O = Frekuensi sampel
e = Frekuensi harapan

Sign Test

Sign test digunakan untuk memutuskan apakah distribusi binomial memiliki peluang keberhasilan dan kegagalan yang sama.

Sebuah perusahaan minuman ringan telah menemukan minuman baru dan ingin mengetahui apakah itu akan sepopuler minuman favorit yang ada. Untuk tujuan ini, departemen penelitiannya mengatur 18 peserta untuk pengujian rasa. Setiap peserta mencoba kedua minuman secara acak sebelum memberikan pendapatnya. Ternyata 5 peserta lebih menyukai minuman baru, dan sisanya lebih suka yang lama. Pada tingkat signifikansi 05, dapatkah kita menolak anggapan bahwa kedua minuman itu sama-sama populer?

binom.test(5,18)

## 
##  Exact binomial test
## 
## data:  5 and 18
## number of successes = 5, number of trials = 18, p-value = 0.09625
## alternative hypothesis: true probability of success is not equal to 0.5
## 95 percent confidence interval:
##  0.09694921 0.53480197
## sample estimates:
## probability of success 
##              0.2777778

Pada tingkat signifikansi 05, kami tidak menolak anggapan bahwa kedua minuman tersebut sama-sama populer.

Wilcoxon Signed-Rank Test

Dua sampel data dicocokkan jika mereka berasal dari pengamatan berulang dari subjek yang sama. Dengan menggunakan Wilcoxon Signed-Rank Test, kita dapat memutuskan apakah distribusi populasi data yang sesuai identik tanpa mengasumsikan mereka mengikuti distribusi normal.

Mann-Whitney-Wilcoxon Test

Dua sampel data independen jika mereka berasal dari populasi yang berbeda dan sampel tidak saling mempengaruhi. Dengan menggunakan Uji Mann-Whitney-Wilcoxon, kita dapat memutuskan apakah distribusi populasi identik tanpa mengasumsikan mereka mengikuti distribusi normal.

Kruskal-Walls Test

Uji Kruskal-Wallis berdasarkan peringkat adalah alternatif non-parametrik untuk uji ANOVA satu arah, yang memperluas uji Wilcoxon dua sampel dalam situasi di mana ada lebih dari dua kelompok. Kumpulan sampel data bersifat independen jika berasal dari populasi yang tidak terkait dan sampel tidak saling mempengaruhi. Dengan menggunakan Uji Kruskal-Wallis, kita dapat memutuskan apakah distribusi populasi identik tanpa mengasumsikan mereka mengikuti distribusi normal.

Normality Test

Uji kenormalan pada regresi digunakan untuk menguji apakah nilai residual yang dihasilkan dari regresi terdistribusi secara normal atau tidak. Model regresi yang baik adalah yang memiliki nilai residual yang terdistribusi secara normal. Langkah-langkah uji kenormalan :
Langkah 1 : Hipotesis, H0 (berdistribusi Normal) atau H1 (tidak berdistribusi Normal)
Langkah 2 : Tingkat signifikansi (α)
Langkah 3 : Uji statistik
Langkah 4 : Keputusan terima H0 jika p-value > α
Langkah 5 : Kesimpulan

Metode Estimasi Parameter

Koefisien regresi β0 dan β1 merupakan parameter dan nilainya tidak diketahui, tetapi parameter tersebut dapat diestimasikan dari data sampel. Terdapat dua metode estimasi yang biasa digunakan untuk mengestimatinya, yaitu:
a. Ordinary Least Square (OLS)
b. Metode Maksimum Likelihood (MML)

Ordinary Least Square (OLS)

Jika mempunyai sampel berukuran n, yaitu (xi,yi) dimana i = 1,2,…,n dari sebuah populasi, maka:

Dengan,

Error OLS

SSE merupakan jumlah kuadrat kesalahan garis regresi, sehingga :

SSE OLS

untuk menghitung estimasi dari β0 maka gunakan rumus ini

β0 OLS

Sedangkan estimasi dari β1 dapat diperoleh dengan menurunkan error terhadap β1. Sehingga diperoleh:

β1 OLS

Inference about α

Interval kepercayaan untuk α, pada tingkat kepercayaan (1-φ)100% adalah:

Interval Kepercayaan α

Uji hipotesis untuk α digunakan untuk mengetahui apakah garis regresi melalui titik pusat atau tidak.
H0 : α = 0 (garis regresi melalui titik pusat)
H1 : α ≠ 0 (sebaliknya)
Karena H0 : α = 0 maka statistik uji yang digunakan adalah:

Inferensi α

Inference about β

Untuk inferensi tentang β dapat digunakan transformasi. Parameter β berdistribusi t dengan derajat bebas (n-2) adalah:

Interval kepercayaan β

Uji hipotesis untuk β digunakan untuk mengetahui hubungan linear antara variabel depende (Y) dengan variabel independen (X).
H0 : β = 0 (Tidak terdapat hubungan linear antara Y dan X)
H1 : β ≠ 0 (Sebaliknya)
Karena β = 0, maka statistik uji yang digunakan adalah:

Inferensi β

Assumption 1 : Linearity

Pemodelan regresi linier mengasumsikan bahwa hubungan antara hasil dan masing-masing Variabel penjelas adalah linier, namun ini mungkin tidak selalu terjadi.
Misal terdapat dua plot yang menunjukan linear (kiri) dan non-linear (kanan).

Plot Linearity

Pada bagian kanan, menggunakan variabel HourlyWage (Y) dan Age (X). Pada plot terlihat membentuk pola non-linear maka, kita dapat melakukan transformasi hubungan kuadrat log antara HourlyWage dengan Age.
Persamaan sebelum ditransformasi

Persamaan Linearity

Persamaan setelah dilakukan transformasi

Persamaan Log Linearity

Assumption 2 : Normal Distribution of Residuals

Nilai terurut dari residu standar diplot terhadap nilai yang diharapkan dari distribusi normal standar. Jika residu terdistribusi normal, mereka harus lie, approximately, pada diagonal.

Perbandingan Plot

Contoh plot kiri menunjukkan plot untuk regresi linier sederhana dan plot kanan menunjukkan plot untuk regresi linier berganda. Kita dapat melihat bahwa garis menyimpang dari diagonal di plot kiri, sedangkan di contoh plot kanan garis lebih dekat dengan diagonal. Contoh regresi linier berganda di sini memiliki residu yang mengikuti distribusi normal lebih dekat. Kita bisa menggunakan pengujian untuk normalitas seperti statistik Shapiro-Wilk atau Kolmogorov-Smirov.

Plot Lonceng

Pada plot diatas menunjukkan bahwa distibusi normal berbentuk pola lonceng dimana regresi linear berganda lebih baik dalam mengikuti distribusi normal.

Assumption 3 : Homoscedasticity

Homoskedastisitas mengacu pada distribusi residu atau istilah kesalahan. Jika asumsi ini berlaku maka istilah kesalahan memiliki varians konstan – dengan kata lain, kesalahan untuk setiap pengamatan tidak bergantung pada variabel apa pun dalam model.

Assumption 4 : Multicolinearity

Ketika dua variabel penjelas dalam model sangat berkorelasi (dan karena itu dapat digunakan untuk memprediksi satu sama lain), kita mengatakan bahwa mereka collinear.
Dalam model kami, mungkin variabel-variabel ini sebenarnya mewakili faktor-faktor sosial yang sama yang mempengaruhi tingkat penyakit - kita dapat menyelidiki ini dengan menghapus salah satu variabel dan menghasilkan model alternatif.

Assumptions

Pada uji ANOVA juga sama dengan regresi memiliki asumsi pada pengujiannya.
1. Populasi-populasi yang akan diuji berdistribusi normal.
2. Varians untuk masing-masing populasi adalah sama.
3. Sampel tidak berhubungan satu sama lain.
Perhatikan bahwa jika asumsi di atas tidak terpenuhi ada alternatif non-parametrik (uji Kruskal-Wallis) untuk ANOVA satu arah.

ANOVA one-way

Satu faktor tetap (tingkat yang ditetapkan oleh peneliti) yang dapat memiliki jumlah pengamatan yang tidak sama (tidak seimbang) atau sama (seimbang) per kombinasi perlakuan. Analisis varians satu arah, juga dikenal sebagai ANOVA satu faktor, adalah perpanjangan dari uji t dua sampel independen untuk membandingkan rata-rata dalam situasi di mana ada lebih dari dua kelompok. Berikut persamaan ANOVA satu arah:

Persamaan ANOVA one-way

Hipotesis ANOVA satu arah adalah:

Hipotesis ANOVA one-way

Kita kemudian akan menguraikan varians, seperti yang telah kita lihat sebelumnya dalam regresi. Variasi total mengukur seberapa banyak pengamatan bervariasi tentang rata-rata sampel keseluruhan, mengabaikan kelompok.

Varians Total ANOVA

Variasi antara kelompok melihat seberapa jauh rata-rata sampel individu dari rata-rata sampel keseluruhan.

Varians antar Kelompok ANOVA

Terakhir, variasi dalam kelompok mengukur seberapa jauh pengamatan dari rata-rata sampel kelompoknya.

Varians dalam Kelompok ANOVA

Tabel ANOVA satu arah

Tabel ANOVA one-way

ANOVA two-ways

ANOVA dua arah ini digunakan bila sumber keragaman yang terjadi tidak hanya karena satu faktor (perlakuan).Faktor lain yang mungkin menjadi sumber keragaman respon juga harus diperhatikan. Tujuan dan pengujian ANOVA 2 arah ini adalah untuk mengetahui apakah ada pengaruh dari berbagai kriteria yang diuji terhadap hasil yang diinginkan. Misal, seorang manajer teknik menguji apakah ada pengaruh antara jenis pelumas yang dipergunakan pada roda pendorong dengan kecepatan roda pendorong terhadap hasil penganyaman sebuah karung plastik pada mesin circular. Berikut tabel ANOVA dua arah:

Tabel ANOVA two-ways

dimana JKB = SSB, JKK = SSW, dan JKT = SST.

Assumptions

Pada uji RM-ANOVA juga sama dengan ANOVA memiliki asumsi pada pengujiannya.
1. Populasi-populasi yang akan diuji berdistribusi normal.
2. Varians untuk masing-masing populasi adalah sama.
3. Sampel tidak berhubungan satu sama lain.
4. Perbedaan antar kelompok harus sama.
Perhatikan bahwa: Jika asumsi di atas tidak terpenuhi, ada alternatif non-parametrik (uji Friedman) untuk tindakan berulang satu arah ANOVA.

Assumptions

Pada uji Mixed Effects ANOVA juga sama dengan ANOVA memiliki asumsi pada pengujiannya.
1. Populasi-populasi yang akan diuji berdistribusi normal.
2. Varians untuk masing-masing populasi adalah sama.
3. Sampel tidak berhubungan satu sama lain.
4. Perbedaan antar kelompok harus sama.
5. Matriks kovarians harus sama diseluruh sel yang dibentuk oleh faktor antar-subjek.

Assumptions

Pada uji ANCOVA juga sama dengan ANOVA memiliki asumsi pada pengujiannya.
1. Populasi-populasi yang akan diuji berdistribusi normal.
2. Varians untuk masing-masing populasi adalah sama.
3. Sampel tidak berhubungan satu sama lain.
4. Linearitas antara kovariat dan variabel hasil pada setiap tingkat variabel pengelompokan.
5. Kemiringan garis regresi, yang dibentuk oleh kovariat dan variabel hasil, harus sama untuk setiap kelompok.

Assumptions

Pada uji MANOVA juga sama dengan ANOVA memiliki asumsi pada pengujiannya.
1. Populasi-populasi yang akan diuji berdistribusi normal.
2. Varians untuk masing-masing populasi adalah sama.
3. Sampel tidak berhubungan satu sama lain.
4. Linearitas antara semua pasangan variabel dependen, semua pasangan kovariat, dan semua pasangan variabel-kovariat dependen di setiap sel.