목차


기초 통계 분석

통계학

특정 집단을 대상으로 수행한 조사나 실험을 통해 나온 결과에 대한 요약된 형태의 표현으로 조사나 실험에 의해 확보될 수 있다. 관찰 및 조사로 얻을 수 있는 자료로부터 수치상의 성질, 규칙성 또는 불규칙성을 찾아낸다. 통계적 기법은, 실험 계획, 데이터의 요약이나 해석을 실시하는데 있어서의 근거를 제공하는 학문으로 통계학의 방법을 통해, 실제의 수치들을 왜곡하여 해석하는 것을 막고 연구를 바탕으로 합리적인 의사결정을 하게 한다.

기술통계과 추론통계

  • 추론통계 : 모집단의 일부를 추출하여 표본 내용을 근거로 하여 모집단의 전체 특성을 추측하고 검정(추론)하는 통계적 방법을 다루는 통계
  • 기술통계 : 방대한 자료를 그래프나 몇 개의 숫자로 요약하여, 그 자료의 전반적인 내용을 쉽고 빠르게 파악할 수 있는 기법을 다루는 통계

표본조사(Sample survey)

표본조사 : 집단 모두를 조사하는 총조사는 비용과 시간이 많이 소요되므로 특별한 경우를 제외하고는 집단 전체가 아닌 표본을 조사하게 되는데 이러한 조사를 표본조사라 한다.

모집단(population) : 표본조사에서 조사하고자 하는 대상 집단 전체

원소(element) : 모집단을 구성하는 개체

표본(sample) : 조사하기 위해 뽑은 모집단의 일부

모수(parameter)표본을 통해 구하고자 하는 모집단에 대한 정보

표본추출의 종류

  • 단순랜덤추출법 : N개의 원소로 구성된 모집단에서 n개의 표본을 추출할 때 각 원소에 번호를 부여해 n개를 임의로 선택해 그 해당 번호에 해당하는 원소를 표본으로 추출
  • 계통추출법 : 모집단의 모든 원소에 일련번호를 부여하고 이를 순서대로 나열한 후 N/n씩 n개의 구간으로 나눈다. 첫 구간에서 하나를 임의로 선택한 후에 K개씩 띄어서 표본을 추출
  • 층화추출법 : 상당히 이질적인 원소들로 구성된 모집단에서 각 계층을 고루 대표할 수 있도록 표본을 추출하는 방법
  • 집락추출법 : 모집단의 몇 개의 집락(cluster)이 결합된 형태인 경우 각 집단에서 원소들에게 일련번호를 부여하고 일부 집락을 랜덤으로 선택하고 그 선택된 각 집락에서 표본을 임의로 선택

표본추출 방법에 따른 장단점

  • 단순랜덤추출법 : 모집단에 대한 사전 지식이 필요없으며, 일반화가 용이하나 표본의 규모가 커야하며, 표본오차가 크다는 단점을 지님.
  • 계통추출법 : 표본을 선정하기 쉽고 비용이 적게 들지만, 표본이 주기성을 띄는 경우 문제가 발생
  • 층화추출법 : 표본의 크기가 작아도 대표성이 보장되며, 층별 특수성을 알 수 있으며 비교가 가능하나, 각 층에대한 정보가 필요하고 시간과 비용이 크게 증가
  • 집락추출법 : 광범위한 모집단에 적용이 용이하나 집단 내 이질성 확보가 어렵다는 단점을 지닌다.

표본조사의 측정방법

  • 명목척도 : 이름을 나타내는 척도. 측정 대상이 어떤 집단에 속하는지 분류할 때 사용되는 척도 ex) 성별, 출생지
  • 순서척도 : 관찰대상이 지니는 속성에 따라 순위를 결정하는 척도. ex) 등수
  • 등간(구간)척도 : 관측 대상이 지닌 속성의 차이를 양적으로 측정하기 위해 간격을 균일하게 분할하여 측정하는 척도. 절대적인 원점이 없어 두 관측값 사이의 비율은 의미가 없다. ex) 온도, 지수, 리커트척도
  • 비율척도 : 절대적 기준인 0값이 존재하며 모든 사칙연산이 가능한 등간척도. ex) 무게 나이, 연간소득, 제품가격

참고 : 온도의 0도는 물이 어든 점의 기준일 뿐이지 온도 자체가 존재하지 않는다는 뜻이 아니므로 등간척도에 해당

추론통계(Inferential statistics)

확률 : 특정 사건이 발생할 가능성을 나타내는 척도

통계분석에서 자료를 수집하고 수집된 자료로 부터 어떤 정보를 얻고자 하는 경우에는 수집된 자료가 특정한 확률분포를 따른다고 가정한다.

이산확률분포로는 베르누이, 이항, 기하, 다항, 포아송 분포 등이 있으며, 연속형 분포로는 균일, 정규, 지수, t-분포, \(\chi^2\)분포, F-분포 등이 존재


추정(estimation)과 검정(hypothesis)

  • 점추정(point estimation) : 우리가 알고싶어하는 모수를 표본들을 이용하여 추정하는 것.
  • 구간추정(interval estimation) : 유의수준 하에서 모수가 포함되리라고 여겨지는 신뢰구간을 추정하는 것.
  • 신뢰구간(confidence interval) : 표본 통계량에서 모집단 모수 값이 포함될 가능성이 있는 값의 범위

가설검정(Hypothesis Test)

연구자의 주장이 합리성이 있는가를 검토하는 통계적 방법

  • 귀무가설(null hypothesis) : 연구자가 부정하고자 하는 가설
  • 대립가설(alternative hypothesis) : 연구자의 주장에 대한 가설

검정통계량(test statistic) : 주어진 확률표본에 근거하여 가설검정에 사용되는 통계량

유의수준(significance level) : 귀무가설이 참일 때 귀무가설을 기각할 확률의 크기(1종오류).\(\alpha\)로 표기

기각역(critical region) : 귀무가설을 기각하는 표본공간의 부분집합

가설검정의 순서

유의수준 및 귀무가설, 대립가설 설정
검정통계량의 설정
기각역의 설정
검정통계량 계산
통계적 의사결정

가설검정 자세히

기술통계(Descriptive Statistics)

방대한 자료를 그래프나 몇 개의 숫자로 요약하여, 그 자료의 전반적인 내용을 쉽고 빠르게 파악할 수 있는 기법을 다루는 통계

평균, 중앙값, 표준편차, 분산, 1사분위수, 3사분위수, 최대값, 최소값 등 R에서는 summary라는 함수를 이용해 기초통계량을 확인할 수 있다. 

기본적으로 summary()사용 시 최소값, 최대값, 1,3사분위수, 중앙값, 평균값을 구해준다.

iris data 설명

iris 자료는 R에서 기본으로 제공하는 붓꽃에 대한 자료

변수

  • Sepal.Length : 꽃받침의 길이정보
  • Sepal.Width : 꽃받침의 너비정보
  • Petal.Length : 꽃잎의 길이정보
  • Petal.Width : 꽃잎의 너비정보
  • Species : 꽃의 종류(setosa, versicolor, virginica)
summary(iris)
  Sepal.Length    Sepal.Width     Petal.Length    Petal.Width          Species  
 Min.   :4.300   Min.   :2.000   Min.   :1.000   Min.   :0.100   setosa    :50  
 1st Qu.:5.100   1st Qu.:2.800   1st Qu.:1.600   1st Qu.:0.300   versicolor:50  
 Median :5.800   Median :3.000   Median :4.350   Median :1.300   virginica :50  
 Mean   :5.843   Mean   :3.057   Mean   :3.758   Mean   :1.199                  
 3rd Qu.:6.400   3rd Qu.:3.300   3rd Qu.:5.100   3rd Qu.:1.800                  
 Max.   :7.900   Max.   :4.400   Max.   :6.900   Max.   :2.500                  
mean(iris$Sepal.Length)
[1] 5.843333
median(iris$Sepal.Length)
[1] 5.8
sd(iris$Sepal.Length)
[1] 0.8280661
var(iris$Sepal.Length)
[1] 0.6856935
quantile(iris$Sepal.Length,.25)
25% 
5.1 
quantile(iris$Sepal.Length,.75)
75% 
6.4 
max(iris$Sepal.Length)
[1] 7.9
min(iris$Sepal.Length)
[1] 4.3

인과관계와 상관관계

  • 인과관계 : 원인과 결과의 관계
  • 상관관계 : 두 변수 사이의 관계의 강도. 통계적으로는 두 변수간에 나타나는 선형적 관계

두 변수간의 관계를 알기위해 통계적으로 상관계수를 이용하는데 등간척도 이상으로 측정되는 변수에 대하여는 피어슨 상관계수를 서열척도인 두 변수들 간에는 스피어만 상관계수를 사용한다.

피어슨, 스피어만 상관계수로 구분
    피어슨 상관계수
두 변수 간의 선형관계의 크기를 측정하는 값. 비선형적 상관관계는 나타내지 못함.

스피어만 상관계수
두 변수 간의 비선형적 관계도 나타 낼 수 있는 값
두 변수들을 모두 순위로 변환 시킨 후, 두 순위 사이의 피어슨 상관계수로 정의
library(Hmisc)
#피어슨 상관계수
cor(iris$Sepal.Length,iris$Petal.Length)
[1] 0.8717538
rcorr(as.matrix(iris[,-5]),type='pearson')
             Sepal.Length Sepal.Width Petal.Length Petal.Width
Sepal.Length         1.00       -0.12         0.87        0.82
Sepal.Width         -0.12        1.00        -0.43       -0.37
Petal.Length         0.87       -0.43         1.00        0.96
Petal.Width          0.82       -0.37         0.96        1.00

n= 150 


P
             Sepal.Length Sepal.Width Petal.Length Petal.Width
Sepal.Length              0.1519      0.0000       0.0000     
Sepal.Width  0.1519                   0.0000       0.0000     
Petal.Length 0.0000       0.0000                   0.0000     
Petal.Width  0.0000       0.0000      0.0000                  
#산점도행렬
pairs(iris[,-5])


#스피어만 상관계수
set.seed(1)
data=data.frame(Korea=sample(1:100,10),Math=sample(1:100,10),English=sample(1:100,10),Science=sample(1:100,10))
rcorr(as.matrix(data),type='spearman')
        Korea  Math English Science
Korea    1.00  0.21   -0.33   -0.05
Math     0.21  1.00   -0.37    0.14
English -0.33 -0.37    1.00    0.08
Science -0.05  0.14    0.08    1.00

n= 10 


P
        Korea  Math   English Science
Korea          0.5563 0.3466  0.8810 
Math    0.5563        0.2931  0.7009 
English 0.3466 0.2931         0.8287 
Science 0.8810 0.7009 0.8287         

회귀분석(Regression Analysis)

회귀분석의 가정

선형성 : 독립변수와 종속변수가 서로 선형관계

독립성 : 잔차와 독립변수가 서로 독립

등분산성 : 독립변수의 모든 값에 대해 오차들의 분산이 모두 일정

비상관성(비다중공선성) : 관측치들의 잔차들끼리 서로 상관관계가 없다.

정규성 : 잔차항이 정규분포를 따른다.

회귀분석의 종류

단순회귀 : 설명변수가 1개이며 반응변수와의 관계가 직선 \(Y=\beta_0+\beta_1 X+\epsilon\)

다변량회귀 : 설명변수가 여러개이며 반응변수와의 관계가 선형\(Y=\beta_0+\beta_1 X_1\cdots+\beta_k X_k+\epsilon\)

다항회귀 : 설명변수가 여러개이며 반응변수와의 관계가 1차 이상\(Y=\beta_0+\beta_1 X+\cdots+\beta_{11} X^2+\beta_{12} X_1X_2+\epsilon\)

곡선회귀 : 설명변수가 1개이며 반응변수와의 관계가 곡선\(Y=\beta_0+\beta_1 X+\beta_2 X^2+\epsilon\)

비선형회귀 : 회귀식의 모양이 비선형 관계로 이루어져있는 모형\(Y=\alpha e^{-\beta X}+\epsilon\)

#선형회귀 모형 
fit=lm(Petal.Length~Sepal.Length,data=iris)
#모형에 대한 상세 자료
summary(fit)

Call:
lm(formula = Petal.Length ~ Sepal.Length, data = iris)

Residuals:
     Min       1Q   Median       3Q      Max 
-2.47747 -0.59072 -0.00668  0.60484  2.49512 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept)  -7.10144    0.50666  -14.02   <2e-16 ***
Sepal.Length  1.85843    0.08586   21.65   <2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.8678 on 148 degrees of freedom
Multiple R-squared:   0.76, Adjusted R-squared:  0.7583 
F-statistic: 468.6 on 1 and 148 DF,  p-value: < 2.2e-16
#모형진단
plot(fit)

#실제값과 예측값에대한 선
plot(iris$Sepal.Length,iris$Petal.Length)
abline(fit,col='red')

회귀모형의 진단

이상치(outlier): 회귀모형으로 잘 예측되지 않는 관측치(즉 아주 큰 양수/음수의 residual)

큰지레점(high leverage point): 비정상적인 예측변수의 값에 의한 관측치. 즉 예측변수측의 이상치로 볼 수 있다. 종속변수의 값은 관측치의 영향력을 계산하는 데 사용하지 않는다.

영향관측치(influential observation): 통계 모형 계수 결정에 불균형한 영향을 미치는 관측치로 Cook’s distance라는 통계치로 확인할 수 있다.

library(nortest)
library(car)
Loading required package: carData
#정규성 검정

shapiro.test(fit$residuals)

    Shapiro-Wilk normality test

data:  fit$residuals
W = 0.99437, p-value = 0.831
ad.test(fit$residuals)

    Anderson-Darling normality test

data:  fit$residuals
A = 0.25622, p-value = 0.7197
ks.test(fit$residuals,'pnorm',mean=0,sd=1)
ties should not be present for the Kolmogorov-Smirnov test

    One-sample Kolmogorov-Smirnov test

data:  fit$residuals
D = 0.052636, p-value = 0.8002
alternative hypothesis: two-sided
#등분산 검정
ncvTest(fit)
Non-constant Variance Score Test 
Variance formula: ~ fitted.values 
Chisquare = 2.830956, Df = 1, p = 0.092463
#독립성 검정
durbinWatsonTest(fit)
 lag Autocorrelation D-W Statistic p-value
   1       0.3869188      1.203885       0
 Alternative hypothesis: rho != 0
#이상치, 지레점, 영향치 확인 
car::outlierTest(fit)
No Studentized residuals with Bonferroni p < 0.05
Largest |rstudent|:

다중공선성

독립변수들 간에 강한 상관관계가 나타나는 문제 일반적으로 다중공선성 문제해결을 위해 변수선택법을 활용하거나 주성분회귀분석을 사용한다.

분산팽창요인(Variation inflation factor) : 다중공선성의 정도를 의미하는 값으로 처음 종속변수를 제외한 다음 나머지 변수들에 대하여 다변량 회귀분석을 한 후 \(\frac{1}{1-R_i^2}\)을 계산한 값.

fit=lm(Petal.Length~.,data=iris)
#분산팽창요인
vif(fit)
                  GVIF Df GVIF^(1/(2*Df))
Sepal.Length  3.736705  1        1.933056
Sepal.Width   2.648127  1        1.627307
Petal.Width  18.496973  1        4.300811
Species      28.551416  2        2.311569
colnames(iris)
[1] "Sepal.Length" "Sepal.Width"  "Petal.Length" "Petal.Width"  "Species"     
#분산팽창요인의 계산

fit=lm(Sepal.Length~.,data=iris[,-3])
summary(fit)

Call:
lm(formula = Sepal.Length ~ ., data = iris[, -3])

Residuals:
     Min       1Q   Median       3Q      Max 
-1.23591 -0.23740 -0.02601  0.18813  1.27132 

Coefficients:
                  Estimate Std. Error t value Pr(>|t|)    
(Intercept)         2.5211     0.3939   6.401 2.01e-09 ***
Sepal.Width         0.6982     0.1195   5.843 3.24e-08 ***
Petal.Width         0.3716     0.1983   1.873  0.06302 .  
Speciesversicolor   0.9881     0.2747   3.597  0.00044 ***
Speciesvirginica    1.2376     0.3913   3.162  0.00191 ** 
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.4342 on 145 degrees of freedom
Multiple R-squared:  0.7324,    Adjusted R-squared:  0.725 
F-statistic: 99.21 on 4 and 145 DF,  p-value: < 2.2e-16
#Petal.Length와 Sepal.Length의 분산팽창요인 
1/(1-0.7324)
[1] 3.736921

변수선택법

모형의 유의성이 되는 지표는 AIC, BIC 등이 있다. 값이 작을수록 좋은 모형을 나타내는 지표를 의미한다.

전진선택법(forward selection) : 독립변수 0개부터 시작하여 가장 유의미한 변수들을 하나씩 추가하면서 매번 모형의 유의성을 판단
후진제거법(backward elimination) : 모든 독립변수를 넣고 시작하여 유의미하지 않은 변수들을 하나씩 추가하면서 매번 모형의 유의성을 판단
단계별 변수선택(stepwise method) : 독립변수 0개부터 시작하여 변수 추가와 제거 모두를 고려하여 모형의 유의성을 판단

*AIC(Akaike Information Criterion) : \(-2\log L +2K\)

*BIC(Bayesian Information Criterion) : \(-2\log L +2K\log n\)

(L은 우도함수, k는 상수항을 포함한 독립변수의 개수)

코드

scope는 분석할 때 고려할 변수의 범위를 설정

direction은 변수선택 방법을 설정

#전진선택법
step(lm(Sepal.Length~1,data=iris[,-5]),scope=list(lower=~1,upper=~Sepal.Width+Petal.Length+Petal.Width),
direction ='forward')
Start:  AIC=-55.6
Sepal.Length ~ 1

               Df Sum of Sq     RSS      AIC
+ Petal.Length  1    77.643  24.525 -267.641
+ Petal.Width   1    68.353  33.815 -219.460
+ Sepal.Width   1     1.412 100.756  -55.690
<none>                      102.168  -55.602

Step:  AIC=-267.64
Sepal.Length ~ Petal.Length

              Df Sum of Sq    RSS     AIC
+ Sepal.Width  1    8.1963 16.329 -326.66
+ Petal.Width  1    0.6443 23.881 -269.63
<none>                     24.525 -267.64

Step:  AIC=-326.66
Sepal.Length ~ Petal.Length + Sepal.Width

              Df Sum of Sq    RSS     AIC
+ Petal.Width  1    1.8834 14.445 -343.04
<none>                     16.329 -326.66

Step:  AIC=-343.04
Sepal.Length ~ Petal.Length + Sepal.Width + Petal.Width


Call:
lm(formula = Sepal.Length ~ Petal.Length + Sepal.Width + Petal.Width, 
    data = iris[, -5])

Coefficients:
 (Intercept)  Petal.Length   Sepal.Width   Petal.Width  
      1.8560        0.7091        0.6508       -0.5565  
#후진제거법
step(lm(Sepal.Length~Sepal.Width+Petal.Length+Petal.Width,data=iris[,-5]),scope=list(lower=~1,upper=~Sepal.Width+Petal.Length+Petal.Width),direction ='backward')
Start:  AIC=-343.04
Sepal.Length ~ Sepal.Width + Petal.Length + Petal.Width

               Df Sum of Sq    RSS     AIC
<none>                      14.445 -343.04
- Petal.Width   1    1.8834 16.329 -326.66
- Sepal.Width   1    9.4353 23.881 -269.63
- Petal.Length  1   15.4657 29.911 -235.86

Call:
lm(formula = Sepal.Length ~ Sepal.Width + Petal.Length + Petal.Width, 
    data = iris[, -5])

Coefficients:
 (Intercept)   Sepal.Width  Petal.Length   Petal.Width  
      1.8560        0.6508        0.7091       -0.5565  
#단계별 변수선택법
step(lm(Sepal.Length~1,data=iris[,-5]),scope=list(lower=~1,upper=~Sepal.Width+Petal.Length+Petal.Width),direction ='both')
Start:  AIC=-55.6
Sepal.Length ~ 1

               Df Sum of Sq     RSS      AIC
+ Petal.Length  1    77.643  24.525 -267.641
+ Petal.Width   1    68.353  33.815 -219.460
+ Sepal.Width   1     1.412 100.756  -55.690
<none>                      102.168  -55.602

Step:  AIC=-267.64
Sepal.Length ~ Petal.Length

               Df Sum of Sq     RSS     AIC
+ Sepal.Width   1     8.196  16.329 -326.66
+ Petal.Width   1     0.644  23.881 -269.63
<none>                       24.525 -267.64
- Petal.Length  1    77.643 102.168  -55.60

Step:  AIC=-326.66
Sepal.Length ~ Petal.Length + Sepal.Width

               Df Sum of Sq     RSS     AIC
+ Petal.Width   1     1.883  14.445 -343.04
<none>                       16.329 -326.66
- Sepal.Width   1     8.196  24.525 -267.64
- Petal.Length  1    84.427 100.756  -55.69

Step:  AIC=-343.04
Sepal.Length ~ Petal.Length + Sepal.Width + Petal.Width

               Df Sum of Sq    RSS     AIC
<none>                      14.445 -343.04
- Petal.Width   1    1.8834 16.329 -326.66
- Sepal.Width   1    9.4353 23.881 -269.63
- Petal.Length  1   15.4657 29.911 -235.86

Call:
lm(formula = Sepal.Length ~ Petal.Length + Sepal.Width + Petal.Width, 
    data = iris[, -5])

Coefficients:
 (Intercept)  Petal.Length   Sepal.Width   Petal.Width  
      1.8560        0.7091        0.6508       -0.5565  

주성분분석(Principal Component Analysis)

상관관계가 있는 고차원 자료를 자료의 변동을 최대한 보존하는 저차원 자료로 변환하는 방법. 주성분 분석의 경우 cor matrix혹은 cov matrix에 대하여 고유 벡터를 통해 데이터를 선형변환한다. 따라서 새로운 변수들은 선형 독립이 되나 factor가 존재하는 데이터에 대해서 거리를 구할 수 없다는 단점이 있다.

Propertion of Variance: 분산비율, 각 주성분의 차지하는 비율을 말하며 클 수록 영향을 많이 미친다는 것을 의미한다. Cumulative Proportion: 분산의 누적 합계

prcomp 의 경우 SVD(특이값 분해)를 사용하고, princomp의 경우 스팩트럼 분해를 사용한다는 측면에서 prcomp의 수치 정확도가 더 높다.

data(USArrests)
fit=princomp(USArrests,cor=T)
summary(fit)
Importance of components:
                          Comp.1    Comp.2    Comp.3     Comp.4
Standard deviation     1.5748783 0.9948694 0.5971291 0.41644938
Proportion of Variance 0.6200604 0.2474413 0.0891408 0.04335752
Cumulative Proportion  0.6200604 0.8675017 0.9566425 1.00000000
plot(fit,type='l')

biplot(fit)

다른 차원축소기법

시계열(time series analysis)

과거의 현상들에 대해서 상태와 관계를 규명하는데 사용하거나, 미래에 대한 시나리오를 비교하는데 사용

ex) 어떤 투자자가 높은 수익을 창출하였을 때 그 비결을 규명, 기후변화 시나리오

시계열 가정

정상성(stationarity) : 모든 시점에 대해 일정한 평균을 가지며, 분산은 시점에 의존하지 않는다. 또한 공분산은 단지 시차에만 의존하고 특정 시점에 의존하지 않는다. 이를 만족하면 정상성을 띈다고 한다.

자기회귀모형(Auto Regressive model)

  • 이전의 값이 이후의 값에 영향을 미치고 있는 상황을 고려한 모형. 시점 t에서 얻게 될 평균 값은 시점 t-1에서 얻었던 평균값에 \(\varphi\)를 곱하고 c를 더한것과 같다.

\(Y_t=\sum\varphi _i Y_{t-i}+\epsilon_t\)

이동평균모형(Moving Average model)

시간이 지남에 따라 평균값이 지속적으로 증가하거나 감소하는 경향을 고려한 모형. 전반적 추세를 보는데 유용하다.

\(Y_t=e_t-\theta_1e_{t-1}-\cdots-\theta_qe_{t-q}\)

아르마모형(ARMA model)

이동평균과정과 자기회귀 과정을 합한 모양

\(Y_t=\sum\varphi _i Y_{t-i} +e_t-\theta_1e_{t-1}-\cdots-\theta_qe_{t-q}\)

차분

1차 차분 : \(\nabla Y_t=Y_t-Y_{t-1}\) 2차 차분 : \(\nabla^2Y_t=\nabla(\nabla Y_t)=Y_t-2Y_{t-1}+Y_{t-2}\)

ARIMA(Autoregressive integrated moving average)

차분을 한 자료에 대해 아르마모형을 적용

\(\nabla Y_t = \sum \varphi_i\nabla Y_{t-i}+e^t-\sum \theta_ie_{t-i}\)


분해시계열 : 시계열에 영향을 주는 일반적 요인을 분리해 분석하는 방법

추세요인 : 자료가 어떤 특정한 형태를 취할 경우 추세요인이 있다고 한다. 
ex) 이차식의 형태, 지수적 형태 등
계절요인 : 고정된 주기에 따라 자료가 변화할 경우 계절요인이 있다고 한다.
ex) 월, 사분기 등
순환요인 : 특별한 이유없이 알려지지 않은 주기를 가지고 변화하는 경우 순환요인이 있다고 한다.
불규칙요인 : 세 가지 요인으로 설명할 수 없는 오차의 개념의 요인

code

library(TTR)
library(forecast)
This is forecast 8.7 
  Want to stay up-to-date? Read the Hyndsight blog:
  https://robjhyndman.com/hyndsight/
#항공 여객 데이터
AirPassengers
     Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec
1949 112 118 132 129 121 135 148 148 136 119 104 118
1950 115 126 141 135 125 149 170 170 158 133 114 140
1951 145 150 178 163 172 178 199 199 184 162 146 166
1952 171 180 193 181 183 218 230 242 209 191 172 194
1953 196 196 236 235 229 243 264 272 237 211 180 201
1954 204 188 235 227 234 264 302 293 259 229 203 229
1955 242 233 267 269 270 315 364 347 312 274 237 278
1956 284 277 317 313 318 374 413 405 355 306 271 306
1957 315 301 356 348 355 422 465 467 404 347 305 336
1958 340 318 362 348 363 435 491 505 404 359 310 337
1959 360 342 406 396 420 472 548 559 463 407 362 405
1960 417 391 419 461 472 535 622 606 508 461 390 432
#자료를 시계열자료로 변환
apts <- ts(AirPassengers, frequency = 12)
plot(apts)

# Autocovariance fucntion 
acf(apts)

# partial autocovariance fucntion
pacf(apts)

NA
NA
#최적의 아리마 모형을 찾아줌
auto.arima(AirPassengers)
Series: AirPassengers 
ARIMA(2,1,1)(0,1,0)[12] 

Coefficients:
         ar1     ar2      ma1
      0.5960  0.2143  -0.9819
s.e.  0.0888  0.0880   0.0292

sigma^2 estimated as 132.3:  log likelihood=-504.92
AIC=1017.85   AICc=1018.17   BIC=1029.35
fit=arima(AirPassengers,order=c(2,1,1),seasonal = list(order=c(0,1,0),period=12))
fit.values=forecast(fit)
fit.values
plot(fit.values)

# 분해시계열
f <- decompose(apts)
plot(f)

f2=apts-f$trend
plot(f2)

auto.arima(f2)
Series: f2 
ARIMA(1,0,0)(0,1,0)[12] 

Coefficients:
         ar1
      0.3340
s.e.  0.0864

sigma^2 estimated as 100.1:  log likelihood=-446.21
AIC=896.42   AICc=896.53   BIC=902
fit=arima(f2,order=c(1,0,0),seasonal = list(order=c(0,1,0),period=12))
fit.values=forecast(fit)
fit.values
plot(fit.values)

---
title: "AI 와 Machine Learning을 위한 빅데이터 실습"
output: 
  html_notebook: 
    theme: spacelab
---


****

# 목차

+ [2019-07-17 (오전) : 데이터마이닝 개요와 R 기초 사용법](http://rpubs.com/qkdrk777777/511942)
+ **[2019-07-17 (오후) : 기초 통계분석](http://rpubs.com/qkdrk777777/511941)**
+ [2019-07-18 (오전) : 정형데이터마이닝 - 지도학습](http://rpubs.com/qkdrk777777/511940)
+ [2019-07-18 (오후) : 정형데이터마이닝 - 비지도학습](http://rpubs.com/qkdrk777777/511938)
+ [2019-07-19 (오전) : 비정형데이터마이닝-자료 다루기](http://rpubs.com/qkdrk777777/511937)
+ [2019-07-19 (오후) : 비정형데이터마이닝-텍스트마이닝](http://rpubs.com/qkdrk777777/511198)

***

# 기초 통계 분석{.tabset .tabset-fade .tabset-pills}

### 통계학

특정 집단을 대상으로 수행한 조사나 실험을 통해 나온 결과에 대한 요약된 형태의 표현으로 조사나 실험에 의해 확보될 수 있다.
관찰 및 조사로 얻을 수 있는 **자료로부터 수치상의 성질, 규칙성 또는 불규칙성**을 찾아낸다. 통계적 기법은, 실험 계획, 데이터의 **요약이나 해석을 실시하는데 있어서의 근거를 제공**하는 학문으로 통계학의 방법을 통해, 실제의 수치들을 왜곡하여 해석하는 것을 막고 연구를 바탕으로 합리적인 의사결정을 하게 한다.

### 기술통계과 추론통계

+ 추론통계 : 모집단의 일부를 추출하여 표본 내용을 근거로 하여 모집단의 전체 특성을 추측하고 검정(추론)하는 통계적 방법을 다루는 통계
+ 기술통계 : 방대한 자료를 그래프나 몇 개의 숫자로 요약하여, 그 자료의 전반적인 내용을 쉽고 빠르게 파악할 수 있는 기법을 다루는 통계

## 표본조사(Sample survey)

**표본조사** : 집단 모두를 조사하는 총조사는 **비용과 시간이 많이 소요**되므로 특별한 경우를 제외하고는 집단 **전체가 아닌 표본을 조사**하게 되는데 이러한 조사를 표본조사라 한다.

**모집단**(population) : 표본조사에서 조사하고자 하는 대상 집단 전체

**원소**(element) : 모집단을 구성하는 개체

**표본**(sample) : 조사하기 위해 뽑은 모집단의 일부

**모수**(parameter)표본을 통해 구하고자 하는 모집단에 대한 정보

![](https://t1.daumcdn.net/cfile/tistory/240BBB4F57CC247B23)


### 표본추출의 종류

+ **단순랜덤추출법** : N개의 원소로 구성된 모집단에서 n개의 표본을 추출할 때 각 원소에 번호를 부여해 n개를 임의로 선택해 그 해당 번호에 해당하는 원소를 표본으로 추출
+ **계통추출법** : 모집단의 모든 원소에 일련번호를 부여하고 이를 순서대로 나열한 후 N/n씩 n개의 구간으로 나눈다. 첫 구간에서 하나를 임의로 선택한 후에 **K개씩 띄어서 표본을 추출**
+ **층화추출법** : 상당히 이질적인 원소들로 구성된 모집단에서 **각 계층을 고루 대표할 수 있도록 표본을 추출하는 방법**
+ **집락추출법** : 모집단의 몇 개의 집락(cluster)이 결합된 형태인 경우 각 집단에서 원소들에게 일련번호를 부여하고 **일부 집락을 랜덤으로 선택**하고 그 선택된 각 집락에서 표본을 임의로 선택

![](/cloud/project/캡처17.PNG)


### 표본추출 방법에 따른 장단점

+ 단순랜덤추출법 : 모집단에 대한 사전 지식이 필요없으며, 일반화가 용이하나 표본의 규모가 커야하며, 표본오차가 크다는 단점을 지님.
+ 계통추출법 : 표본을 선정하기 쉽고 비용이 적게 들지만, 표본이 주기성을 띄는 경우 문제가 발생
+ 층화추출법 : 표본의 크기가 작아도 대표성이 보장되며, 층별 특수성을 알 수 있으며 비교가 가능하나, 각 층에대한 정보가 필요하고 시간과 비용이 크게 증가
+ 집락추출법 : 광범위한 모집단에 적용이 용이하나 집단 내 이질성 확보가 어렵다는 단점을 지닌다.


### 표본조사의 측정방법

+ 명목척도 : 이름을 나타내는 척도. 측정 대상이 어떤 집단에 속하는지 분류할 때 사용되는 척도
*ex) 성별, 출생지*
+ 순서척도 : 관찰대상이 지니는 속성에 따라 순위를 결정하는 척도. *ex) 등수*
+ 등간(구간)척도 : 관측 대상이 지닌 속성의 차이를 양적으로 측정하기 위해 간격을 균일하게 분할하여 측정하는 척도. 절대적인 원점이 없어 두 관측값 사이의 비율은 의미가 없다. *ex) 온도, 지수, 리커트척도*
+ 비율척도 : 절대적 기준인 0값이 존재하며 모든 사칙연산이 가능한 등간척도. *ex) 무게 나이, 연간소득, 제품가격*

**참고** : *온도의 0도는 물이 어든 점의 기준일 뿐이지 온도 자체가 존재하지 않는다는 뜻이 아니므로 등간척도에 해당*

## 추론통계(Inferential statistics)

확률 : 특정 사건이 발생할 가능성을 나타내는 척도

통계분석에서 자료를 수집하고 수집된 자료로 부터 어떤 정보를 얻고자 하는 경우에는 수집된 자료가 **특정한 확률분포를 따른다고 가정**한다. 

*이산확률분포로는 베르누이, 이항, 기하, 다항, 포아송 분포 등이 있으며, 연속형 분포로는 균일, 정규, 지수, t-분포, $\chi^2$분포,  F-분포 등이 존재*

***

### 추정(estimation)과 검정(hypothesis)

+ 점추정(point estimation) : 우리가 알고싶어하는 모수를 표본들을 이용하여 추정하는 것.
+ 구간추정(interval estimation) : 유의수준 하에서 모수가 포함되리라고 여겨지는 신뢰구간을 추정하는 것.
+ 신뢰구간(confidence interval) : 표본 통계량에서 모집단 모수 값이 포함될 가능성이 있는 값의 범위

### 가설검정(Hypothesis Test)

연구자의 주장이 합리성이 있는가를 검토하는 통계적 방법

+ 귀무가설(null hypothesis) : 연구자가 부정하고자 하는 가설
+ 대립가설(alternative hypothesis) : 연구자의 주장에 대한 가설

검정통계량(test statistic) : 주어진 확률표본에 근거하여 가설검정에 사용되는 통계량

유의수준(significance level) : 귀무가설이 참일 때 귀무가설을 기각할 확률의 크기(1종오류).$\alpha$로 표기

기각역(critical region) : 귀무가설을 기각하는 표본공간의 부분집합

**가설검정의 순서**

    유의수준 및 귀무가설, 대립가설 설정
    검정통계량의 설정
    기각역의 설정
    검정통계량 계산
    통계적 의사결정

[가설검정 자세히](http://rpubs.com/qkdrk777777/490046)

## 기술통계(Descriptive Statistics)

방대한 자료를 그래프나 몇 개의 숫자로 요약하여, 그 자료의 전반적인 내용을 쉽고 빠르게 파악할 수 있는 기법을 다루는 통계


    평균, 중앙값, 표준편차, 분산, 1사분위수, 3사분위수, 최대값, 최소값 등 R에서는 summary라는 함수를 이용해 기초통계량을 확인할 수 있다. 

    기본적으로 summary()사용 시 최소값, 최대값, 1,3사분위수, 중앙값, 평균값을 구해준다.


### iris data 설명

iris 자료는 R에서 기본으로 제공하는 붓꽃에 대한 자료

**변수**

+ Sepal.Length : 꽃받침의 길이정보
+ Sepal.Width : 꽃받침의 너비정보
+ Petal.Length : 꽃잎의 길이정보
+ Petal.Width : 꽃잎의 너비정보
+ Species : 꽃의 종류(setosa, versicolor, virginica)


```{r}
summary(iris)
mean(iris$Sepal.Length)
median(iris$Sepal.Length)
sd(iris$Sepal.Length)
var(iris$Sepal.Length)
quantile(iris$Sepal.Length,.25)
quantile(iris$Sepal.Length,.75)
max(iris$Sepal.Length)
min(iris$Sepal.Length)
```

***

### 인과관계와 상관관계

+ 인과관계 : 원인과 결과의 관계
+ 상관관계 : 두 변수 사이의 관계의 강도. 통계적으로는 두 변수간에 나타나는 선형적 관계

두 변수간의 관계를 알기위해 통계적으로 상관계수를 이용하는데 등간척도 이상으로 측정되는 변수에 대하여는 피어슨 상관계수를 서열척도인 두 변수들 간에는 스피어만 상관계수를 사용한다.


	피어슨, 스피어만 상관계수로 구분
		피어슨 상관계수
	두 변수 간의 선형관계의 크기를 측정하는 값. 비선형적 상관관계는 나타내지 못함.

	스피어만 상관계수
	두 변수 간의 비선형적 관계도 나타 낼 수 있는 값
	두 변수들을 모두 순위로 변환 시킨 후, 두 순위 사이의 피어슨 상관계수로 정의

```{r}
library(Hmisc)
#피어슨 상관계수
cor(iris$Sepal.Length,iris$Petal.Length)
rcorr(as.matrix(iris[,-5]),type='pearson')

#산점도행렬
pairs(iris[,-5])

#스피어만 상관계수
set.seed(1)
data=data.frame(Korea=sample(1:100,10),Math=sample(1:100,10),English=sample(1:100,10),Science=sample(1:100,10))
rcorr(as.matrix(data),type='spearman')

```


## 회귀분석(Regression Analysis)

회귀분석의 가정

	선형성 : 독립변수와 종속변수가 서로 선형관계

	독립성 : 잔차와 독립변수가 서로 독립

	등분산성 : 독립변수의 모든 값에 대해 오차들의 분산이 모두 일정

	비상관성(비다중공선성) : 관측치들의 잔차들끼리 서로 상관관계가 없다.

	정규성 : 잔차항이 정규분포를 따른다.

### 회귀분석의 종류

단순회귀 : 설명변수가 1개이며 반응변수와의 관계가 직선 $Y=\beta_0+\beta_1 X+\epsilon$

다변량회귀 : 설명변수가 여러개이며 반응변수와의 관계가 선형$Y=\beta_0+\beta_1 X_1\cdots+\beta_k X_k+\epsilon$

다항회귀 : 설명변수가 여러개이며 반응변수와의 관계가 1차 이상$Y=\beta_0+\beta_1 X+\cdots+\beta_{11} X^2+\beta_{12} X_1X_2+\epsilon$

곡선회귀 : 설명변수가 1개이며 반응변수와의 관계가 곡선$Y=\beta_0+\beta_1 X+\beta_2 X^2+\epsilon$

비선형회귀 : 회귀식의 모양이 비선형 관계로 이루어져있는 모형$Y=\alpha e^{-\beta X}+\epsilon$

```{r}
#선형회귀 모형 
fit=lm(Petal.Length~Sepal.Length,data=iris)
#모형에 대한 상세 자료
summary(fit)
#모형진단
plot(fit)
#실제값과 예측값에대한 선
plot(iris$Sepal.Length,iris$Petal.Length)
abline(fit,col='red')
```
### 회귀모형의 진단

이상치(outlier): 회귀모형으로 잘 예측되지 않는 관측치(즉 아주 큰 양수/음수의 residual) 

큰지레점(high leverage point): 비정상적인 예측변수의 값에 의한 관측치. 즉 예측변수측의 이상치로 볼 수 있다. 종속변수의 값은 관측치의 영향력을 계산하는 데 사용하지 않는다.

영향관측치(influential observation): 통계 모형 계수 결정에 불균형한 영향을 미치는 관측치로 Cook’s distance라는 통계치로 확인할 수 있다.

```{r}
library(nortest)
library(car)
#정규성 검정

shapiro.test(fit$residuals)
ad.test(fit$residuals)

ks.test(fit$residuals,'pnorm',mean=0,sd=1)
#등분산 검정
ncvTest(fit)
#독립성 검정
durbinWatsonTest(fit)

#이상치, 지레점, 영향치 확인 
car::outlierTest(fit)

```

### 다중공선성 

독립변수들 간에 강한 상관관계가 나타나는 문제
일반적으로 다중공선성 문제해결을 위해 변수선택법을 활용하거나 주성분회귀분석을 사용한다.

분산팽창요인(Variation inflation factor) : 다중공선성의 정도를 의미하는 값으로 처음 종속변수를 제외한 다음 나머지 변수들에 대하여 다변량 회귀분석을 한 후 $\frac{1}{1-R_i^2}$을 계산한 값.


```{r}
fit=lm(Petal.Length~.,data=iris)
#분산팽창요인
vif(fit)
colnames(iris)
#분산팽창요인의 계산

fit=lm(Sepal.Length~.,data=iris[,-3])
summary(fit)
#Petal.Length와 Sepal.Length의 분산팽창요인 
1/(1-0.7324)

```

### 변수선택법

모형의 유의성이 되는 지표는 AIC, BIC 등이 있다. 값이 작을수록 좋은 모형을 나타내는 지표를 의미한다.

    전진선택법(forward selection) : 독립변수 0개부터 시작하여 가장 유의미한 변수들을 하나씩 추가하면서 매번 모형의 유의성을 판단
    후진제거법(backward elimination) : 모든 독립변수를 넣고 시작하여 유의미하지 않은 변수들을 하나씩 추가하면서 매번 모형의 유의성을 판단
    단계별 변수선택(stepwise method) : 독립변수 0개부터 시작하여 변수 추가와 제거 모두를 고려하여 모형의 유의성을 판단

*AIC(Akaike Information Criterion) : $-2\log L +2K$

*BIC(Bayesian Information Criterion) : $-2\log L +2K\log n$

(L은 우도함수, k는 상수항을 포함한 독립변수의 개수)

### 코드 

*scope는 분석할 때 고려할 변수의 범위를 설정*

*direction은 변수선택 방법을 설정*

```{r}
#전진선택법
step(lm(Sepal.Length~1,data=iris[,-5]),scope=list(lower=~1,upper=~Sepal.Width+Petal.Length+Petal.Width),
direction ='forward')
#후진제거법
step(lm(Sepal.Length~Sepal.Width+Petal.Length+Petal.Width,data=iris[,-5]),scope=list(lower=~1,upper=~Sepal.Width+Petal.Length+Petal.Width),direction ='backward')
#단계별 변수선택법
step(lm(Sepal.Length~1,data=iris[,-5]),scope=list(lower=~1,upper=~Sepal.Width+Petal.Length+Petal.Width),direction ='both')


```

## 주성분분석(Principal Component Analysis)

상관관계가 있는 고차원 자료를 자료의 변동을 최대한 보존하는 저차원 자료로 변환하는 방법.
주성분 분석의 경우 cor matrix혹은 cov matrix에 대하여 고유 벡터를 통해 데이터를 선형변환한다. 따라서 새로운 변수들은 선형 독립이 되나 factor가 존재하는 데이터에 대해서 거리를 구할 수 없다는 단점이 있다.

Propertion of Variance: 분산비율, 각 주성분의 차지하는 비율을 말하며 클 수록 영향을 많이 미친다는 것을 의미한다. Cumulative Proportion: 분산의 누적 합계

prcomp 의 경우 SVD(특이값 분해)를 사용하고, princomp의 경우 스팩트럼 분해를 사용한다는 측면에서 prcomp의 수치 정확도가 더 높다.

```{r}
data(USArrests)
fit=princomp(USArrests,cor=T)
summary(fit)
plot(fit,type='l')
biplot(fit)

```

[다른 차원축소기법](http://rpubs.com/qkdrk777777/503206)

## 시계열(time series analysis)

과거의 현상들에 대해서 상태와 관계를 규명하는데 사용하거나, 미래에 대한 시나리오를 비교하는데 사용

    ex) 어떤 투자자가 높은 수익을 창출하였을 때 그 비결을 규명, 기후변화 시나리오

***

### 시계열 가정

    정상성(stationarity) : 모든 시점에 대해 일정한 평균을 가지며, 분산은 시점에 의존하지 않는다. 또한 공분산은 단지 시차에만 의존하고 특정 시점에 의존하지 않는다. 이를 만족하면 정상성을 띈다고 한다.


***

### 자기회귀모형(Auto Regressive model)
+ 이전의 값이 이후의 값에 영향을 미치고 있는 상황을 고려한 모형. 시점 t에서 얻게 될 평균 값은 시점 t-1에서 얻었던 평균값에 $\varphi$를 곱하고 c를 더한것과 같다. 

$Y_t=\sum\varphi _i Y_{t-i}+\epsilon_t$

### 이동평균모형(Moving Average model)
시간이 지남에 따라 평균값이 지속적으로 증가하거나 감소하는 경향을 고려한 모형. 전반적 추세를 보는데 유용하다.

$Y_t=e_t-\theta_1e_{t-1}-\cdots-\theta_qe_{t-q}$

### 아르마모형(ARMA model) 
이동평균과정과 자기회귀 과정을 합한 모양

$Y_t=\sum\varphi _i Y_{t-i} +e_t-\theta_1e_{t-1}-\cdots-\theta_qe_{t-q}$

### 차분

1차 차분 : $\nabla  Y_t=Y_t-Y_{t-1}$
2차 차분 : $\nabla^2Y_t=\nabla(\nabla Y_t)=Y_t-2Y_{t-1}+Y_{t-2}$

### ARIMA(Autoregressive integrated moving average)
차분을 한 자료에 대해 아르마모형을 적용

$\nabla Y_t = \sum \varphi_i\nabla Y_{t-i}+e^t-\sum \theta_ie_{t-i}$

***

분해시계열 : 시계열에 영향을 주는 일반적 요인을 분리해 분석하는 방법

    추세요인 : 자료가 어떤 특정한 형태를 취할 경우 추세요인이 있다고 한다. 
    ex) 이차식의 형태, 지수적 형태 등
    계절요인 : 고정된 주기에 따라 자료가 변화할 경우 계절요인이 있다고 한다.
    ex) 월, 사분기 등
    순환요인 : 특별한 이유없이 알려지지 않은 주기를 가지고 변화하는 경우 순환요인이 있다고 한다.
    불규칙요인 : 세 가지 요인으로 설명할 수 없는 오차의 개념의 요인

### code

```{r}
library(TTR)
library(forecast)
#항공 여객 데이터
AirPassengers
#자료를 시계열자료로 변환
apts <- ts(AirPassengers, frequency = 12)
plot(apts)
# Autocovariance fucntion 
acf(apts)
# partial autocovariance fucntion
pacf(apts)


```
```{r}
#최적의 아리마 모형 추천
auto.arima(AirPassengers)
fit=arima(AirPassengers,order=c(2,1,1),seasonal = list(order=c(0,1,0),period=12))
fit.values=forecast(fit)
#예측값
fit.values
plot(fit.values)
```


```{r}
# 분해시계열
f <- decompose(apts)
plot(f)
#추세 요인 제거 
f2=apts-f$trend
plot(f2)
auto.arima(f2)
fit=arima(f2,order=c(1,0,0),seasonal = list(order=c(0,1,0),period=12))
fit.values=forecast(fit)
fit.values
plot(fit.values)
```

