t-test random simulation

Author

jinya nakamura

Published

March 1, 2024

t-検定(一群)の乱数シミュレーション

乱数シミュレーションで一群のt-検定の仕組みを確認する。

t-検定とは(一群の)

  • 一群のt検定とは平均値の差の検定で、サンプルがあらかじめ指定した平均値の正規分布から採録されたかどうかを検定する方法。
    • あらかじめ指定した平均値を \(\mu_0\) とする。
    • サンプルを \(\{x_1,...,x_N\}\) とする。\(N\)はサンプルサイズ。
    • \(\mu = (1/N)\sum_{i=1}^N x_i\) は一般に \(\mu_0\) とは異なり、\(\mu\) の値が\(\mu_0\) と離れすぎていれば、「このサンプルの母集団の平均値は\(\mu_0\)ではない」と言える。
    • では、どの程度離れていればそれを言えるのか?
  • 言い換えると、
    • 平均が \(\mu_0\) の正規分布(分散未知)からサンプルサイズが\(N\)個のサンプルを採録したとき、その平均値 \(\mu\) とすると、それは \(\mu_0\) からどの程度離れる可能性があるか。
    • 離れる可能性が非常に低い場合は、元々の想定(平均 \(\mu_0\) の分布から採録した)を疑うべきだ。

サンプリングシミュレーション

Code
# 母集団の設定
mu_0 <- 2
sigma_0 <- 3
# サンプルサイズとシミュレーション回数の設定
N <- 5
M <- 10000
  • 平均 \(\mu_0=\) 2、標準偏差 \(\sigma_0 =\) 3 の正規分布 \(N(\mu_0,\sigma_0)\) からサンプルサイズ\(N=\) 5 のサンプルを取って、その平均を取る。
  • これを \(M=\) 10000 回繰り返して、平均(標準化)の分布を観察する。
Code
dat <- matrix(rnorm(N * M, mu_0, sigma_0), M, N)
head(dat,10)
            [,1]        [,2]       [,3]     [,4]       [,5]
 [1,]  7.6059258  2.87151842  3.8852044 1.125070  5.3998543
 [2,] -0.4659238 -3.63945028  3.1364431 1.440101  3.6758788
 [3,]  6.6468801  3.41351195  2.2136588 5.437785 -3.3873553
 [4,]  3.9154179  0.58367972  1.8324283 3.053942 -0.6796194
 [5,]  8.1723696  1.02802570  7.8166190 1.565431  4.4850725
 [6,]  4.7475601  2.18895532 -2.3018243 1.951409 -0.1922436
 [7,]  7.8692288  2.69670357 -1.7589174 4.818484  3.2732397
 [8,] -0.8426056  0.03982016  0.9128203 5.670256  0.3149781
 [9,] -1.2847853  0.55347740  2.4207886 5.588898  1.4267282
[10,] -0.2446480  2.41970829  5.1558508 1.639564  6.0436020

分散が既知の場合

  • 分散が既知、つまり、母集団の分散 \(\sigma_0\) がわかっている場合は、中心極限定理より \(\mu\) の分布は平均\(\mu_0\)、標準偏差が \(\sigma_0/\sqrt(N)\) の正規分布となる。
  • 標準正規分布に変換すれば、\(z = (\mu - \mu_0)/ (\sigma_0 / \sqrt{N})\) が標準正規分布に従う。
  • よって、この \(z\) が \(1.96\) を超える場合、これが想定した母集団 \(N(\mu_0,\sigma_0)\) から得られる確率は5%未満となるので、そもそも \(N(\mu_0,\sigma_0)\) からは取られていないと考える方が妥当だという結論になる。
Code
res_mean <- apply(dat, 1, mean)
res_z <- (res_mean - mu_0) /(sigma_0 / sqrt(N))
w <- max(abs(res_z)) * 1.1
pw <- min(w, 4)
qw <- seq(- w, w, 1 / 20)
h <- dnorm(0, 0, 1)
cg <- list()
hist(res_z, probability = T, breaks = qw
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main = "Histogram of z vs Normal Dist", xlab ="", ylab="")
par(new = T)
plot(x = qw, y = dnorm(qw, 0, 1), type = "l", col = "red"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")

分散が未知の場合

  • 母分散が未知の場合、サンプル平均の分散しかわからないので、z値を真似てt値を \(t = (\mu - \mu_0)/(\sigma\sqrt{N})\) で作る。ただし \(\mu\) と \(\sigma\) はサンプルの平均と標準偏差である。
  • すると、この値は自由度 \(N\) のt分布に従うので、それを確認する。
Code
res_mean <- apply(dat, 1, mean)
res_sigma <- apply(dat, 1, sd)
res_t <- (res_mean - mu_0) / (res_sigma / sqrt(N))
w <- max(abs(res_t)) * 1.1
pw <- min(w, 4)
qw <- seq(- w, w, 1 / 20)
h <- dnorm(0, 0, 1)
hist(res_t, probability = T, breaks = qw
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main = "Hist vs t vs normal", xlab ="", ylab="")
par(new = T)
plot(x = qw, y = dt(qw, N), type = "l"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")
par(new = T)
plot(x = qw, y = dnorm(qw, 0, 1), type = "l", col = "red"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")

  • 赤い線が標準正規分布、黒い線が自由度 \(N=\) 5 の t分布。
  • 特に裾の方を見ると、正規分布の密度よりもt分布の密度の方が大きく、またヒストグラムもt分布の側に近い。
  • 分散既知の場合と違うのは、\(z\) を作る際は母標準偏差 \(\sigma_0\) で割っているのに対し、\(t\) の方はサンプルの標準偏差 \(\sigma\) で割っている点である。

\[ z = \frac{\mu - \mu_0}{\sigma_0 / \sqrt{N}}, ~ t = \frac{\mu - \mu_0}{\sigma\sqrt{N}} \]

  • \(\sigma_0\) は動かないのに対し、\(\sigma\) は毎回変動するので、\(\sigma_0\) よりも小さくなった場合は t値は大きく変動することになる。それが分布の裾が厚くなる原因。
  • \(N\) が大きければ \(\sigma\) の \(\sigma_0\) からの乖離が小さくなるので、t値はz値に近づき、分布も正規分布に近くなる。\(30 < N\) 程度になると両者はほとんど区別が付かない。
Code
N_org <- N
dat_org <- dat
N <- 30
dat <- matrix(rnorm(N * M, mu_0, sigma_0), M, N)
res_mean <- apply(dat, 1, mean)
res_sigma <- apply(dat, 1, sd)
res_t <- (res_mean - mu_0) / (res_sigma / sqrt(N))
w <- max(abs(res_t)) * 1.1
pw <- min(w, 4)
qw <- seq(- w, w, 1 / 20)
h <- dnorm(0, 0, 1)
hist(res_t, probability = T, breaks = qw
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main = paste0("Hist vs t vs normal, N = ",N), xlab ="", ylab="")
par(new = T)
plot(x = qw, y = dt(qw, N), type = "l"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")
par(new = T)
plot(x = qw, y = dnorm(qw, 0, 1), type = "l", col = "red"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")

t分布とは

  • そもそもt分布とは、標準正規分布に従う確率変数 \(X\) と、自由度 \(n\) のカイ二乗分布に従う確率変数 \(Y\) があったとき、次の式で構成された \(T\) が従う分布のこと。 \[ X \sim N(0,1), ~ Y \sim \chi_n^2, ~ T = \frac{X}{\sqrt{Y/n}} \]

  • \(T\) をシミュレーションで作ってみる

    • n を自由度、M をシミュレーション回数とする。
    • sim_x で \(X \sim N(0,1)\) から、sim_y で \(Y \sim \chi_n^2\) からそれぞれ独立にサイズ \(M\) の標本を抽出する。
      • sim_x <- rnorm(n = M, mean = 0, sd = 1)
      • sim_y <- rchisq(n = M, df = n)
    • sim_t を sim_t <- sim_x / sqrt(sim_y / n) で作る。
    • sim_t のヒストグラムとt分布の確率密度関数 dt (黒)、標準正規分布 dnorm(赤)を比較
  • ヒストグラムがt分布の確率密度関数(黒)とほぼ一致していることを確認する。

Code
n <- 2
sim_x <- rnorm(n = M, mean = 0, sd = 1);
sim_y <- rchisq(n = M, df = n);
sim_t <- sim_x / sqrt(sim_y / n);
w <- max(abs(sim_t)) * 1.1
pw <- min(w, 4)
qw <- seq(- w, w, 1 / 20)
h <- dnorm(0, 0, 1)

hist(sim_t, probability = T, breaks = qw
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main =  paste0("T Hist vs t Dist vs normal, n = ",n), xlab ="", ylab="")
par(new = T)
plot(x = qw, y = dt(qw, n), type = "l"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")
par(new = T)
plot(x = qw, y = dnorm(qw, 0, 1), type = "l", col = "red"
     , xlim = c(-pw,pw), ylim = c(0,h*1.2), main="", xlab="",ylab="")