R Notebook

##################################################################################################
# ref : http://www.dodomira.com/2016/04/02/r%EC%9D%84-%EC%82%AC%EC%9A%A9%ED%95%9C-t-test/        #
# t-test                                                                                         #
##################################################################################################
# 1. 두개의 집단에 대한 t-test 를 실시하기 위한 조건 : 등분산성 , 정규성 
a = c(175, 168, 168, 190, 156, 181, 182, 175, 174, 179)
b = c(185, 169, 173, 173, 188, 186, 175, 174, 179, 180)
c = c(1, 2, 3, 4, 5, 6, 7, 8, 9, 10)
#### p-value 가 0.05 보다 크다면, 귀무가설 지지, 귀무가설은 등분산하다 임  
#### p-value 가 0.05 보다 작다면, 귀무가설 기각, 대립가설은 두 집단이 유의미하게 다른 분산을 가짐  
var.test(a,b) # p-value = 0.2834

    F test to compare two variances

data:  a and b
F = 2.1028, num df = 9, denom df = 9, p-value = 0.2834
alternative hypothesis: true ratio of variances is not equal to 1
95 percent confidence interval:
 0.5223017 8.4657950
sample estimates:
ratio of variances 
          2.102784 

var.test(a,c) # p-value = 0.002512

    F test to compare two variances

data:  a and c
F = 9.5224, num df = 9, denom df = 9, p-value = 0.002512
alternative hypothesis: true ratio of variances is not equal to 1
95 percent confidence interval:
  2.365235 38.337224
sample estimates:
ratio of variances 
          9.522424 

qf(.05, length(a) -1, length(b) -1)

[1] 0.3145749

# 스팸밴드 중 스팸유저의 수가 3명, 4명인 집단간의 스팸메세지수의 분산은 등분산이 아니다.
# var.test(filter(cv, usr_cnt == 3)$msg_cnt, filter(cv, usr_cnt == 4)$msg_cnt)  # p-vlaue = 2.826e-05
# 스팸밴드 중 스팸 문구가 3개인 집단과 4개인 집단간의, 스팸메세지수의 분산은 등분산이다.
# var.test(filter(cv, content_cnt == 3)$msg_cnt, filter(cv, content_cnt == 4)$msg_cnt)  # p-value = 0.1217
# 2. independent two sample t-test
#### 서로 다른 두개의 그룹 간 평균의 차이가 유의미 한지 여부를 판단하기 위한 t-test는 독립표본 t-test
#### 수동/자동에 따른 mpg 의 차이가 통계적으로 유의미한가?
automatic_cars_mpg <- mtcars[mtcars$am==1,1 ]
manual_cars_mpg <- mtcars[mtcars$am==0, 1]
#### check first : 등분산성?
var.test(automatic_cars_mpg, manual_cars_mpg) # p-value = 0.06691 > 0.5 , so.. 등분산 

    F test to compare two variances

data:  automatic_cars_mpg and manual_cars_mpg
F = 2.5869, num df = 12, denom df = 18, p-value = 0.06691
alternative hypothesis: true ratio of variances is not equal to 1
95 percent confidence interval:
 0.934280 8.040391
sample estimates:
ratio of variances 
          2.586911 

#### independent two sample t-test 유형 1 문법: t.test(group 1의 관측치, group2의 관측치, t-test 유형, 신뢰범위)
t.test(automatic_cars_mpg, manual_cars_mpg,  paired = FALSE, var.equal = TRUE, conf.level = 0.95)   # p-value : 0.000285 < 0.5 

#### independent two sample t-test 유형 2 문법: t.test(관측치~집단 구분 기준, 데이터프레임, t-test 유형, 신뢰범위)
#### 오토 / 수동 자동차의 mpg 차이는 통계적으로 유의미함 
t.test(mpg ~ am, data = mtcars, var.equal = T, conf.level = .95)   # p-value : 0.000285 < 0.05 

# 3. Paired Sample test
#### 동일한 집단의 전-후 차이 비교 
#### ex> 중간고사 이후 과외를 받은 학생의 점수 변화 
mid = c(16, 20, 21, 22, 23, 22, 27, 25, 27, 28)
final = c(19, 22, 24, 24, 25, 25, 26, 26, 28, 32)
t.test(mid,final, paired=TRUE)   # p-value : 0.001 < 0.5 

# 4. 단일 표본 t-test ( One sample test )
#### 문법: t.test(관측치, alternative = 판별 방향, mu=특정기준, conf.level = 신뢰수준)
#### 학생들의 기말고사 점수가 24점보다 유의하게 높은가?
t.test(final, alternative = "greater", mu = 24, conf.level = .95)  # p-value : 0.1696 > 0.05 , so 유의미하게 높지는 않다. ( 신뢰도 95% 수준 )
t.test(final, alternative = "greater", mu = 23, conf.level = .95)  # p-value : 0.0430 < 0.05 , so 유의미하게 높다. ( 신뢰도 95% 수준 )
t.test(final, alternative = "less", mu = 30, conf.level = .95)     # p-value : 0.0007 < 0.05 , so 유의미하게 낮다. ( 신뢰도 95% 수준 )

library(BSDA)
z.test(final, y = NULL, alternative = "greater", mu = 23, sigma.x = sd(final), sigma.y = NULL, conf.level = 0.95) # p-value : 0.027 

# 번외편. t-statistic formula 와 t-distribution
# Independent Samples Ttest : http://lap.umd.edu/psyc200/handouts/psyc200_0812.pdf
# sample size = 10 , df = 9 인 두개의 샘플 집단을 생각해보자.
size_A <- 10
size_B <- 100
sample_A <- rnorm(size_A)
sample_B <- rnorm(size_B)
# 아래 공식에 따라 t-통계량은 아래와 같이 계산된다. 
print((mean(sample_A)-mean(sample_B)) / sqrt(sd(sample_A)**2/size_A + sd(sample_B)**2/size_B))

[1] -3.690621

print(t.test(sample_A,sample_B)$statistic)

        t 
-3.690621 

# t-statistic 값을 df = 9 에서 1000회 반복해서 구해보자 
tstats = replicate(1000,t.test(rnorm(size_A),rnorm(size_B))$statistic)
range(tstats)

[1] -4.518624  4.709766

# df = 9 에서의 t-distribution 을 그리고, 1000회 반복하여 수행한 t-통계량의 density plot 을 겹쳐보자 
pts = seq(-4.5, 4.5,length=100)
plot(pts,dt(pts, df=size_A+size_B-2), col='red',type='l') # df = df_of_sample_A + df_of_sample_B
lines(density(tstats))

# 위 과정을 반복 수행해보면, t-statistic 값의 확률밀도가, The Student t Distribution 에 근사한다. ( 공식에 따른 값이니까;;;; )
pts = seq(-4.5, 4.5,length=100)
plot(pts,dt(pts, df=size_A + size_B - 2), col='red',type='l') # df = df_of_sample_A + df_of_sample_B
for(i in 0:10) {
  lines(density(replicate(1000,t.test(rnorm(10),rnorm(10))$statistic)))
}