PML - Sebaran Bentuk Kuadratik

Video Pembelajaran - P3

Video Pembelajaran dapat diakses melalui link berikut : https://ipb.link/materipml

Sebaran Normal, Chi-Square, dan F

  • Sebaran Normal

    Sebaran normal adalah distribusi probabilitas yang paling sering digunakan dalam statistik. Fungsi kepadatan probabilitasnya ditentukan oleh:

    \[ f(x) = \frac{1}{\sigma \sqrt{2\pi}} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right) \]

    Implementasi R:

  # Menghasilkan distribusi normal
  x <- seq(-4, 4, length=100)
  y <- dnorm(x, mean=0, sd=1)
  plot(x, y, type="l", lwd=2, col="blue", main="Sebaran Normal")

  • Sebaran Chi-Square

    Sebaran Chi-Square muncul dari penjumlahan kuadrat variabel acak yang terdistribusi normal. Untuk derajat kebebasan \(k\), sebaran ini ditulis sebagai:

    \[ \chi^2 = \sum_{i=1}^{k} X_i^2 \]

    Implementasi R:

  # Menghasilkan distribusi Chi-Square
  x <- seq(0, 20, length=100)
  y <- dchisq(x, df=5)
  plot(x, y, type="l", lwd=2, col="red", main="Sebaran Chi-Square (df=5)")

  • Sebaran F

    Sebaran F digunakan untuk membandingkan variasi antara kelompok dan diberikan oleh:

    \[ F = \frac{U_1/d_1}{U_2/d_2} \]

    Implementasi R:

  # Menghasilkan distribusi F
  x <- seq(0, 5, length=100)
  y <- df(x, df1=10, df2=20)
  plot(x, y, type="l", lwd=2, col="green", main="Sebaran F (df1=10, df2=20)")

Bentuk Kuadratik (Quadratic Form)

Bentuk kuadratik melibatkan ekspresi seperti \(Q = \mathbf{x}^\top \mathbf{A} \mathbf{x}\). Dalam konteks statistik, bentuk kuadratik sering muncul dalam analisis varians dan model linear.

\[ Q = \mathbf{x}^\top \mathbf{A} \mathbf{x} \]

Implementasi R:

# Contoh bentuk kuadratik
A <- matrix(c(2, -1, -1, 2), nrow=2)
x <- c(1, 2)
Q <- t(x) %*% A %*% x
Q  # Hasil bentuk kuadratik
##      [,1]
## [1,]    6

Nilai Harapan Vektor Peubah Acak (Expected Value of a Random Vector)

Nilai harapan dari vektor peubah acak adalah vektor yang elemen-elemennya merupakan nilai harapan dari setiap peubah acak dalam vektor tersebut.

\[ \mathbb{E}[\mathbf{X}] = \begin{pmatrix} \mathbb{E}[X_1] \\ \mathbb{E}[X_2] \\ \vdots \\ \mathbb{E}[X_n] \end{pmatrix} \]

Implementasi R:

# Contoh nilai harapan vektor peubah acak
X <- matrix(c(2, 4, 6, 8), nrow=2)
mean_X <- colMeans(X)
mean_X  # Nilai harapan dari vektor peubah acak
## [1] 3 7

Definisi Sebaran Chi-Square Tak Sentral (Non-central Chi-Square Distribution)

Distribusi Chi-Square tak sentral melibatkan parameter non-sentralitas \(\lambda\):

\[ \chi^2(\lambda) = \sum_{i=1}^{k} \left(\frac{Z_i + \mu_i}{\sigma}\right)^2 \]

Implementasi R:

# Sebaran Chi-Square tak sentral
x <- seq(0, 20, length=100)
y <- dchisq(x, df=5, ncp=2)
plot(x, y, type="l", lwd=2, col="purple", main="Sebaran Chi-Square Tak Sentral (df=5, ncp=2)")

Teorema Keaditivan Sebaran Chi-Square (Additivity Theorem for Chi-Square Distribution)

Jika \(X_1, X_2, \dots, X_n\) adalah variabel acak independen yang masing-masing mengikuti sebaran Chi-Square, maka jumlahnya juga mengikuti sebaran Chi-Square:

\[ X = X_1 + X_2 + \dots + X_n \sim \chi^2(k_1 + k_2 + \dots + k_n) \]

Implementasi R:

# Menghitung jumlah distribusi Chi-Square
x1 <- rchisq(100, df=5)
x2 <- rchisq(100, df=5)
x_sum <- x1 + x2
hist(x_sum, breaks=30, col="orange", main="Jumlah Sebaran Chi-Square (df=10)")

Teorema Sebaran Bentuk Kuadratik (Theorem on the Distribution of a Quadratic Form)

Distribusi dari bentuk kuadratik untuk peubah acak normal adalah:

\[ \mathbf{X}^\top \mathbf{A} \mathbf{X} \sim \sum_{i=1}^{n} \lambda_i Z_i^2 \]

Implementasi R:

# Distribusi dari bentuk kuadratik
eigenvalues <- eigen(A)$values
Q_dist <- sum(eigenvalues * rchisq(length(eigenvalues), df=1))
Q_dist
## [1] 2.884467

Definisi Peubah Acak dan Sebaran Normal Ganda (Multivariate Normal Distribution)

Distribusi normal ganda untuk vektor peubah acak \(\mathbf{X}\) dengan mean \(\mathbf{\mu}\) dan kovarians \(\mathbf{\Sigma}\):

\[ f(\mathbf{x}) = \frac{1}{(2\pi)^{n/2} |\mathbf{\Sigma}|^{1/2}} \exp\left(-\frac{1}{2}(\mathbf{x} - \mathbf{\mu})^\top \mathbf{\Sigma}^{-1} (\mathbf{x} - \mathbf{\mu})\right) \]

Implementasi R:

library(MASS)
mu <- c(0, 0)
Sigma <- matrix(c(1, 0.5, 0.5, 1), 2)
mvn_samples <- mvrnorm(1000, mu, Sigma)
plot(mvn_samples, main="Sebaran Normal Ganda")

Latihan Soal

Soal 1:

Jika \(\mathbf{y} \sim N(\mathbf{\mu}, \sigma^2 I_3)\) dan

\[ \mathbf{\mu} = \begin{bmatrix} 2 \\ -3 \\ 4 \end{bmatrix}, \quad \mathbf{A} = \frac{1}{4} \begin{bmatrix} 4 & -2 & -2 \\ -2 & 3 & 1 \\ -2 & 1 & 3 \end{bmatrix}, \quad \text{dan} \quad \mathbf{B} = \begin{bmatrix} 2 & 1 & 0 \\ 1 & 1 & -1 \\ 0 & -1 & 2 \end{bmatrix}, \]

  1. Tentukan sebaran \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\).

  2. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(\frac{\mathbf{y}'\mathbf{B}\mathbf{y}}{\sigma^2}\) bersifat saling bebas?

  3. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(y_1 + y_2 + y_3\) bersifat saling bebas?


Soal 2:

Jika \(\mathbf{y} \sim N(\mathbf{\mu}, \sigma^2 I_3)\) dan

\[ \mathbf{\mu} = \begin{bmatrix} 1 \\ -2 \\ 3 \end{bmatrix}, \quad \mathbf{A} = \frac{1}{2} \begin{bmatrix} 5 & -2 & -3 \\ -2 & 2 & 2 \\ -3 & 2 & 5 \end{bmatrix}, \quad \text{dan} \quad \mathbf{B} = \begin{bmatrix} 1 & 1 & 1 \\ 1 & 0 & -1 \\ 1 & -1 & 0 \end{bmatrix}, \]

  1. Tentukan sebaran \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\).

  2. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(\frac{\mathbf{y}'\mathbf{B}\mathbf{y}}{\sigma^2}\) bersifat saling bebas?

  3. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(y_1 + y_2 + y_3\) bersifat saling bebas?


Soal 3:

Jika \(\mathbf{y} \sim N(\mathbf{\mu}, \sigma^2 I_3)\) dan

\[ \mathbf{\mu} = \begin{bmatrix} -1 \\ 2 \\ -2 \end{bmatrix}, \quad \mathbf{A} = \frac{1}{6} \begin{bmatrix} 7 & -3 & -4 \\ -3 & 4 & 2 \\ -4 & 2 & 7 \end{bmatrix}, \quad \text{dan} \quad \mathbf{B} = \begin{bmatrix} 1 & 2 & 0 \\ 2 & 0 & -2 \\ 0 & -2 & 1 \end{bmatrix}, \]

  1. Tentukan sebaran \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\).

  2. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(\frac{\mathbf{y}'\mathbf{B}\mathbf{y}}{\sigma^2}\) bersifat saling bebas?

  3. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(y_1 + y_2 + y_3\) bersifat saling bebas?


Soal 4:

Jika \(\mathbf{y} \sim N(\mathbf{\mu}, \sigma^2 I_3)\) dan

\[ \mathbf{\mu} = \begin{bmatrix} 3 \\ -1 \\ 1 \end{bmatrix}, \quad \mathbf{A} = \frac{1}{5} \begin{bmatrix} 6 & -4 & -2 \\ -4 & 3 & 1 \\ -2 & 1 & 6 \end{bmatrix}, \quad \text{dan} \quad \mathbf{B} = \begin{bmatrix} 1 & 0 & 1 \\ 0 & 1 & -1 \\ 1 & -1 & 1 \end{bmatrix}, \]

  1. Tentukan sebaran \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\).

  2. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(\frac{\mathbf{y}'\mathbf{B}\mathbf{y}}{\sigma^2}\) bersifat saling bebas?

  3. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(y_1 + y_2 + y_3\) bersifat saling bebas?


Soal 5:

Jika \(\mathbf{y} \sim N(\mathbf{\mu}, \sigma^2 I_3)\) dan

\[ \mathbf{\mu} = \begin{bmatrix} 0 \\ 3 \\ -1 \end{bmatrix}, \quad \mathbf{A} = \frac{1}{3} \begin{bmatrix} 4 & -1 & -3 \\ -1 & 4 & 2 \\ -3 & 2 & 4 \end{bmatrix}, \quad \text{dan} \quad \mathbf{B} = \begin{bmatrix} 2 & 2 & 1 \\ 2 & 1 & -1 \\ 1 & -1 & 2 \end{bmatrix}, \]

  1. Tentukan sebaran \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\).

  2. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(\frac{\mathbf{y}'\mathbf{B}\mathbf{y}}{\sigma^2}\) bersifat saling bebas?

  3. Apakah \(\frac{\mathbf{y}'\mathbf{A}\mathbf{y}}{\sigma^2}\) dan \(y_1 + y_2 + y_3\) bersifat saling bebas?