1.1. Intelligent Targeting

- What is Marketing?

“The process by which companies create value for customers and build strong customer relationships in order to capture value from customers in return(기업이 고객을 위해 가치를 창출하고, 고객 관계를 구축하여, 고객의 가치를 보상하는 프로세스).” - Kotler and Armstrong (2010)

-> (본인이 생각하는) 마케팅이란 가치 교환의 과정이라고 생각한다. 고객과 기업이 만들어내는 각각의 가치를 어떻게 교환할 것인지, 그 과정을 만들어내는 걸 마케팅이라고한다. 더 간단하게 요약하자면, ’고객의 행동을 이끌어 내는 것이라고 말 할 수 있다. 짧게 요약했지만, 그 안에는 무수히; 많은 과정과 노력이 필요하다. 가치 교환의 과정에서 모든 행동의 주체는 기업이다. 물론 고객의 관점에서 마케팅을 수행해야하지만 기업이 주체가 되어서 해야할 일을 하는 것이 마케팅이다.

- The 4P’s:

마케팅 캠페인은 고객의 요구 사항과 전반적인 만족도에 중점을 둔다. 그럼에도 불구하고 마케팅 캠페인의 성공 여부를 결정하는 다양한 변수가 있다. 캠페인을 할 때 고려해야 할 몇 가지 변수가 있다.

1. Segment of the Population - “마케팅 캠페인이 집단의 어느 대상에 이루어지며 그 이유는 무엇인가?” 이러한 측면은 인구 중 어느 부분이 메시지를 받을 가능성이 가장 높은지를 알려주기 때문에 매우 중요하다.

2. Distribution channel to reach the customer’s place - 캠페인을 최대한 활용하려면 가장 효과적인 전략을 구현해야한다. 인구 중 어느 집단을 다루고, 기업의 메시지를 전달하기 위해 어떤 도구를 사용해야하는가? (예 : 전화, 라디오, TV, 소셜 미디어 등)

3. Price - 잠재 고객에게 제공할 수 있는 가장 좋은 가격은 얼마인가? (은행의 경우, 그들의 주요 관심사는 잠재 고객이 정기예금 계좌를 개설하여 은행의 운영 활동을 계속할 수 있도록 하기 위한 것이므로 필요하지 않다.)

4. Promotional Strategy - 전략이 구현되고 잠재 고객이 어떻게 대응할 것인가이다. 이것은 이전에 했던 실수에 대해 배우고 마케팅 캠페인을 훨씬 효과적으로 만드는 방법을 결정하기 위해 (가능하면)이전 캠페인에 대한 철저한 분석이 있어야 하기 때문에 마케팅 캠페인 분석의 마지막 부분이어야 한다.

1.2. Aim

1) Data Analysis

- 백화점의 고객 매출 데이터를 바탕으로 고객 특성을 분석
    - 고객 프로파일 개발 (현황 파악)
    - 다이렉트 메일 광고 효율성 제고
    - 타겟 메일링에 의한 응답률 제고

2) Data Analytics

- 나이, 성별, 직업, 거주지, 결혼 여부, 등급 등의 고객 정보를 통해 고객의 성별을 예측 (Male / Female)
    - 고객의 과거 이력과 유사한 고객군들의 데이터를 기반으로 해당 고객이 가입할지 예측
    
  - 나이, 성별, 직업, 거주지, 결혼 여부, 등급 등의 고객 정보를 통해 고객의 추후 구매등급을 예측

1.4. Data Description

- Data Files :

• HDS_Cards.tab : 카드정보
• HDS_Customers.tab : 고객정보
• HDS_Jobs.tab : 직업정보
• HDS_Transactions_MG.tab : 구매정보
• mic_engzipcode_DB20050215.xlsx : 우편번호
• HDS-테이블소개.xls : 테이블 딕셔너리

- Data Field :

• age : 나이
• sex : 성별
• region : 거주지
• income : 소득
• married : 결혼 여부

2.1. Import Libraries

- Import Libraries :

suppressPackageStartupMessages({
    
library(data.table)
library(tidyr)
library(lubridate)
library(DT)
library(ggplot2)
library(corrplot)
library(ggthemes)
library(sqldf)

library(readr)
    
library(randomForest)
library(caret)
library(C50)
library(dplyr)
library(kknn)
  
library(ROCR)
    
library(eeptools)
  
library(DescTools)
  
library(kableExtra)
  
library(reshape)
  
#if (!require("kknn")) install.packages("kknn"); library(kknn)
})

rm(list=ls())

fillColor = "#FFA07A"
fillColor2 = "#F1C40F"

- Load Dataset :

# 윈도우 OS에서 전송한 파일이 맥북에서 깨질 경우

read.any <- function(text, sep = "", ...) {
    
encoding <- as.character(guess_encoding(text)[1,1])

setting <- as.character(tools::file_ext(text))

if(sep != "" | !(setting %in% c("csv", "txt")) ) setting <- "custom"

separate <- list(csv = ",", txt = "\n", custom = sep)

result <- read.table(text, sep = separate[[setting]], fileEncoding = encoding, ...)

return(result)
    
}

cs <- read.any('./input/HDS_Customers.tab', sep="\t", header=T, stringsAsFactors = F)
tr <- read.any('./input/HDS_Transactions_MG.tab', sep="\t", header=T, stringsAsFactors = F)

jobs <- read.any('./input/input/HDS_Jobs.tab', sep="\t", header=T, stringsAsFactors = F)
cards <- read.any('./input/input/HDS_Cards.tab', sep="\t", header=T, stringsAsFactors = F)
#addr <- read.any('./input/input/mic_engzipcode_DB20050215.xlsx', sep="\t", header=T, stringsAsFactors = F)

2.2. Peek into the data

- Overview Data :

  - 총 49,995명의 고객

datatable(cs, style="bootstrap", class="table-condensed", options = list(dom = 'tp',scrollX = TRUE))

length(unique(tr$custid))

## [1] 49995

3.1. Sex

- 성별에 따른 평균 나이

r1 <- cs %>%
  group_by(sex) %>%
  summarise(age = round(mean(age)))
r1

## # A tibble: 2 x 2
##     sex   age
##   <dbl> <dbl>
## 1     0    40
## 2     1    35

- 고객 성별 비중

p1 <- ggplot(data = task1, aes(x = as.factor(sex), y = prob)) +
  geom_bar(stat="identity", fill=fillColor2) +
  ggtitle("Customer Rate by Gender") + xlab("Gender") + ylab("Percent (%)") + 
  geom_text(aes(label=paste0(prob, "%", sep="")), vjust=-0.5) + theme_economist() + 
  theme(plot.title=element_text(hjust=0.5), axis.title=element_text(size=12, face="bold"), 
        axis.text.x=element_text(size=12), legend.position="null") +
  scale_x_discrete(breaks=c("0", "1"),
        labels=c("Male", "Female"))

p1

3.4. Job

- 직업에 따른 고객 비율

#prop.table(table(sa_cs$job))

#require(forcats)
#ggplot(sa_cs, aes(fct_infreq(job))) +
#  geom_bar(fill=fillColor2) +
#  ggtitle("Customer Rate by Job") + xlab("Job") + ylab("Freq") + 
#  theme_economist() + 
#  theme(plot.title=element_text(hjust=0.5), axis.title=element_text(size=12, face="bold"), 
#        axis.text.x=element_text(size=12, angle = 90))

task1 <- sqldf("
select 
    job
    , round(100. * freq/tot_freq, 2) as prob
from (
    select
        job
        , count(*) as freq
    from sa_cs
    group by job
    ) as a, (
    select
        count(*) as tot_freq
    from sa_cs 
    ) as b
")
task1

##              job prob
## 1            Art  0.4
## 2        Company  4.4
## 3   Construction  3.2
## 4      Education  7.2
## 5   Entrepreneur 40.6
## 6        Finance  3.8
## 7             IT  3.2
## 8     Laboratory  1.2
## 9       Logistic  1.4
## 10 Manufacturing 17.8
## 11       Medical  4.6
## 12      Official  3.0
## 13         Press  1.2
## 14    Profession  2.8
## 15        Public  3.2
## 16        Retail  2.0

p6 <- ggplot(data =task1, aes(x = reorder(job, prob), y = prob)) +
  geom_bar(stat = "identity", fill = fillColor2) +
  geom_text(aes(x = job, y = 0.05, label = paste0("(",prob, "%)",sep="")),
            hjust=0.5, vjust=.5, size = 2, colour = 'black',
            fontface = 'bold') +
  labs(x = 'Job', 
       y = 'Prob', 
       title = 'Customer Rate by Job') +
  theme_economist() +
  coord_flip()
p6

3.5. Residence

- 거주지에 따른 고객 비율

task2 <- sqldf("

select 
    residence
    , round(100. * freq/tot_freq, 2) as prob
from (
    select
        residence
        , count(*) as freq
    from sa_cs
    group by 1
    ) as a, (
    select count(*) as tot_freq
    from sa_cs ) as b
order by 2 desc
")

task2

##          residence prob
## 1       Gangnam-gu 18.0
## 2        Seocho-gu 10.8
## 3          Mapo-gu  9.4
## 4     Seodaemun-gu  9.4
## 5      Gangdong-gu  9.0
## 6        Songpa-gu  6.6
## 7      Gwangjin-gu  5.8
## 8     Seongdong-gu  4.2
## 9       Yongsan-gu  3.8
## 10      Dongjak-gu  3.2
## 11    Eunpyeong-gu  3.2
## 12    Yangcheon-gu  2.8
## 13       Gwanak-gu  1.8
## 14     Jungnang-gu  1.8
## 15         Jung-gu  1.6
## 16       Jongno-gu  1.2
## 17        Nowon-gu  1.2
## 18 Yeongdeungpo-gu  1.2
## 19   Dongdaemun-gu  1.0
## 20       Dobong-gu  0.8
## 21      Gangbuk-gu  0.8
## 22      Gangseo-gu  0.8
## 23    Geumcheon-gu  0.6
## 24     Seongbuk-gu  0.6
## 25         Guro-gu  0.4

p7 <- ggplot(data = task2, aes(x = reorder(residence, prob), y = prob)) +
  geom_bar(stat = "identity", fill = fillColor2) +
  geom_text(aes(x = residence, y = 0.05, label = paste0("(", prob, "%)", sep = "")),
            hjust = 1, vjust = .5, size = 2, colour = 'black',
            fontface = 'bold') +
  labs(x = "Residence",
       y = "Prob",
       title = "Customer Rate by Residence") +
  theme_economist() +
  coord_flip()
p7

3.6. VIP

- VIP 명단 뽑기

sa_data <- inner_join(sa_cs, sa_tr, by='custid')

sa_data %>%
  group_by(custid) %>%
  summarise(amount = sum(amount), freq = n(), avg_amt = round(amount/freq)) %>%
  arrange(desc(amount)) %>%
  head(10)

## # A tibble: 10 x 4
##    custid   amount  freq avg_amt
##     <int>    <int> <int>   <dbl>
##  1  42800 61672778   250  246691
##  2  15968 44478591   228  195082
##  3  13493 35480804   184  192830
##  4  42322 34305296   172  199449
##  5  48278 31569011   230  137257
##  6  27074 29419710    92  319779
##  7  32232 28308279   268  105628
##  8  33829 26050612   148  176018
##  9  30026 23227040    96  241948
## 10  37340 20128817    94  214136

3.7. Age Group

- 나이대별에 따른 고객 비율

sa_data['age_grp'] <- trunc(sa_data['age'] / 10)*10

table(sa_data['age_grp'])

## 
##   20   30   40   50   60 
## 1570 7580 5967 3248  760

prop.table(table(sa_data['age_grp']))

## 
##         20         30         40         50         60 
## 0.08209150 0.39633987 0.31200000 0.16983007 0.03973856

#task3 <- data.frame(prop.table(table(sa_data['age_grp'])))
#task3

task3 <- sqldf("
select
    age_grp
    , round(100. * freq/tot_freq, 2) as prob
from (
    select age_grp
    , count(*) as freq
    from sa_data
    group by 1
    ) as a, (
    select count (*) as tot_freq
    from sa_data 
     ) as b
")
task3

##   age_grp  prob
## 1      20  8.21
## 2      30 39.63
## 3      40 31.20
## 4      50 16.98
## 5      60  3.97

p8 <- ggplot(data = task3, aes(x = reorder(age_grp, prob), y = prob)) +
  geom_bar(stat="identity", fill=fillColor2) +
  ggtitle("Customer Age Group Distribution") + xlab("Age Group") + ylab("Percent (%)") + 
  #geom_text(aes(label=paste0(round(Freq, 2) * 100, "%")), vjust=-0.5) + theme_economist() + 
  geom_text(aes(label=paste0(prob, "%")), vjust=-0.5) + theme_economist() + 
  theme(plot.title=element_text(hjust=0.5), axis.title=element_text(size=12, face="bold"), 
        axis.text.x=element_text(size=12), legend.position="null")
p8

4.1. v1 : 백화점 고객의 환불행태 (금액, 건수)에 대한 변수 생성

cs <- read.any('./input/HDS_Customers.tab', sep="\t", header=T, stringsAsFactors = F)
tr <- read.any('./input/HDS_Transactions_MG.tab', sep="\t", header=T, stringsAsFactors = F)


cs.v1 = tr %>%
  filter(net_amt < 0) %>%
  group_by(custid) %>%
  summarise(rf_amt = sum(net_amt), rf_cnt = n())

head(cs.v1)

## # A tibble: 6 x 3
##   custid   rf_amt rf_cnt
##    <int>    <int>  <int>
## 1      1  -191920      1
## 2      2  -259350      2
## 3      3 -3849460     15
## 4      6  -221730      4
## 5      8 -1934341     21
## 6      9  -820800      6

4.2. v2 : 백화점 고객의 구매상품 다양성에 대한 변수 생성

cs.v2 = tr %>%
  distinct(custid, brd_nm) %>%
  group_by(custid) %>%
  summarize(buy_brd = n())

head(cs.v2)

## # A tibble: 6 x 2
##   custid buy_brd
##    <int>   <int>
## 1      1      23
## 2      2      16
## 3      3      30
## 4      4       6
## 5      5       4
## 6      6      14

4.3. v3 : 백화점 고객의 내점일수와 평균 구매주기 계산

start_date = ymd(ymd_hms(min(tr$sales_date)))
end_date = ymd(ymd_hms(max(tr$sales_date)))

cs.v3 = tr %>%
  distinct(custid, sales_date) %>%
  group_by(custid) %>%
  summarise(visits = n()) %>% 
  mutate(API = as.integer(end_date - start_date) / visits)

head(cs.v3)

## # A tibble: 6 x 3
##   custid visits    API
##    <int>  <int>  <dbl>
## 1      1     41   8.85
## 2      2     11  33   
## 3      3     27  13.4 
## 4      4      4  90.8 
## 5      5      3 121   
## 6      6     15  24.2

4.4. v4 : 내점 당 구매건수 도출

tmp = tr %>%
  group_by(custid) %>%
  summarise(n = n())

head(tmp)

## # A tibble: 6 x 2
##   custid     n
##    <int> <int>
## 1      1    77
## 2      2    28
## 3      3    68
## 4      4     6
## 5      5     4
## 6      6    29

cs.v4 = inner_join(cs.v3, tmp, by = "custid") %>%
  mutate(NPPV = n / visits) %>%
  select(custid, NPPV)

head(cs.v4)

## # A tibble: 6 x 2
##   custid  NPPV
##    <int> <dbl>
## 1      1  1.88
## 2      2  2.55
## 3      3  2.52
## 4      4  1.5 
## 5      5  1.33
## 6      6  1.93

4.5. v5 : 백화점 고객의 주중/주말 구매패턴에 대한 변수 생성

cs.v5 = tr %>%
  mutate(wk_amt = ifelse(wday(sales_date) %in% 2:6, net_amt, 0), 
                      we_amt = ifelse(wday(sales_date) %in% c(1,7), net_amt, 0)) %>% 
  group_by(custid) %>%
  summarize_each(funs(sum), wk_amt, we_amt) %>%
  mutate(wk_pat = ifelse(wk_amt >= we_amt * 1.5, "주중형", 
                         ifelse(we_amt >= wk_amt * 1.5, "주말형", "유형없음")))

head(cs.v5)

## # A tibble: 6 x 4
##   custid  wk_amt  we_amt wk_pat
##    <int>   <dbl>   <dbl> <chr> 
## 1      1 2590892 1167489 주중형
## 2      2 1735009  326170 주중형
## 3      3 5742729  683320 주중형
## 4      4  254300  127000 주중형
## 5      5  129600   26100 주중형
## 6      6  460900 1556500 주말형

4.6. v6 : 고객의 생일로부터 특정시점의 나이와 연령대를 계산

# v6 고객의 생일로부터 특정시점의 나이와 연령대를 계산
#현재 시점(2018-11-10)을 적용하게 되면, 데이터 기준이 차이나,
#연령대 분류가 영향을 받게 되므로, ppt에 제시된 시점을 사용 (2001-05-01)

cs.v6 = cs %>%
  mutate(age=year('2001-05-01') - year(ymd_hms(birth))) %>%
  mutate(age=ifelse(age < 10 | age > 100, NA, age)) %>%
  mutate(age=ifelse(is.na(age),round(mean(age,na.rm=T)),age)) %>%
  mutate(agegrp=cut(age, c(0,19,29,39,49,59,69,100), labels=F)*10) %>%
  select(custid, age, agegrp)

head(cs.v6)

##   custid age agegrp
## 1      1  36     30
## 2      2  36     30
## 3      3  36     30
## 4      4  19     10
## 5      5  19     10
## 6      6  20     20

tail(cs.v6)

##       custid age agegrp
## 49990  49995  28     20
## 49991  49996  90     70
## 49992  49997  90     70
## 49993  49998  31     30
## 49994  49999  58     50
## 49995  50000  36     30

## parse error 처리 필요 없음. 
sum(is.na(cs.v6))

## [1] 0

4.7. v7 : 백화점 고객의 최근 12개월 구매금액 및 구매횟수에 대한 변수 생성

# v7 : 백화점 고객의 최근 12개월 구매금액 및 구매횟수에 대한 변수 생성
end_date = ymd(ymd_hms(max(tr$sales_date)))
start_date = ymd('20010501') - months(12)

cs.v7.12 <- tr %>% 
  filter(start_date<=sales_date & sales_date<=end_date) %>%
  group_by(custid) %>% 
  summarize(amt12=sum(net_amt), nop12=n())

head(cs.v7.12)

## # A tibble: 6 x 3
##   custid   amt12 nop12
##    <int>   <int> <int>
## 1      1 3758381    77
## 2      2 2061179    28
## 3      3 6426049    68
## 4      4  381300     6
## 5      5  155700     4
## 6      6 2017400    29

# 최근 3개월, 6개월, 12개월 구매 금액 및 횟수 계산 및 병합
# 최근 6개월
start_date = ymd('20010501') - months(6)
cs.v7.06 <- tr %>% 
  filter(start_date<=sales_date & sales_date<=end_date) %>%
  group_by(custid) %>% 
  summarize(amt6=sum(net_amt), nop6=n())
head(cs.v7.06)

## # A tibble: 6 x 3
##   custid    amt6  nop6
##    <int>   <int> <int>
## 1      1 1337108    34
## 2      2  190929     7
## 3      3 4021376    41
## 4      4  381300     6
## 5      5  155700     4
## 6      6  786060    14

# 최근 3개월
start_date <- ymd('20010501') - months(3)
cs.v7.03 <- tr %>% 
  filter(start_date<=sales_date & sales_date<=end_date) %>%
  group_by(custid) %>% 
  summarize(amt3=sum(net_amt), nop3=n())
head(cs.v7.03)

## # A tibble: 6 x 3
##   custid    amt3  nop3
##    <int>   <int> <int>
## 1      1  511654    13
## 2      2  190929     7
## 3      3 3227130    18
## 4      4   89700     2
## 5      5  155700     4
## 6      6   18060     3

# NA => 0 대체 코드 삽입
cs.v7.03[is.na(cs.v7.03$amt3)] = 0
cs.v7.03[is.na(cs.v7.03$nop3)] = 0
# merging cs.v7
cs.v7 <- left_join(cs.v7.12, cs.v7.06) %>% left_join(cs.v7.03)

# NA => 0 대체 코드 삽입
cs.v7$amt3[is.na(cs.v7$amt3)] = 0
cs.v7$nop3[is.na(cs.v7$nop3)] = 0
cs.v7$amt6[is.na(cs.v7$amt6)] = 0
cs.v7$nop6[is.na(cs.v7$nop6)] = 0
cs.v7$amt12[is.na(cs.v7$amt12)] = 0
cs.v7$nop12[is.na(cs.v7$nop12)] = 0

4.8. v8 : 가격 선호도 변수 생성

### 모든 attribute의 값은 string이 아닌 integer value 로 지정. 
## 가격 선호도 변수 (v8) (custsig$pref) 
# cmv = customer mean buying price value
# pref = price preference (0 = "저가", 1 = "중가", 2 ="고가")
cs.v8 = tr %>% filter(net_amt > 0) %>% group_by(custid)

summary(cs.v8$net_amt)

##     Min.  1st Qu.   Median     Mean  3rd Qu.     Max. 
##       50    27000    56050   118554   123300 72000000

medval = as.integer(summary(cs.v8$net_amt)[3])

qt3 = as.integer(summary(cs.v8$net_amt)[5])
# 고객별 구매 가격의 평균이 전체 구매 가격의 3rd quantile 을 넘어가면 고가 선호 고객 (value = 2)
# 고객별 구매 가격의 평균이 전체 구매 가격의 Median을 넘지 않는 경우 저가 선호 고객 (value = 0)
# 그 외 고객은 모두 중가 선호 고객으로 분류 (value = 1)
cs.v8 = tr %>% filter(net_amt > 0) %>% #환불은 고려하지 않음
  group_by(custid) %>% summarize(cmv = mean(net_amt)) %>%
  mutate(pref = ifelse(cmv < medval,0,ifelse(cmv > qt3,2,1)))
table(cs.v8$pref)

## 
##     0     1     2 
##  9443 24687 15865

4.9. v9 : 시즌 선호도 변수 생성

# 시즌 선호도 변수(v9) (custsig$se_pat)
# 봄 : 3~5월 (value = 1) / 여름 : 6~8월 (value = 2)/ 
# 가을: 9~11월 (value = 3)/ 겨울 : 12~2월 (value = 4)로 지정하여 각 구매 금액을 변수에 지정하였음 
cs.v9 = tr %>%
  mutate(sp_amt = ifelse(month(sales_date) %in% 3:5, net_amt, 0),
         su_amt = ifelse(month(sales_date) %in% 6:8, net_amt, 0),
         fa_amt = ifelse(month(sales_date) %in% 9:11, net_amt, 0),
         wi_amt = ifelse(month(sales_date) %in% c(12,1,2), net_amt, 0)) %>%
  group_by(custid) %>% summarize_each(funs(sum), sp_amt, su_amt, fa_amt, wi_amt)
head(cs.v9)

## # A tibble: 6 x 5
##   custid  sp_amt  su_amt  fa_amt wi_amt
##    <int>   <dbl>   <dbl>   <dbl>  <dbl>
## 1      1  714038 1414688  776028 853627
## 2      2  112709 1870250       0  78220
## 3      3 3227130 1690100  714573 794246
## 4      4   89700       0       0 291600
## 5      5  155700       0       0      0
## 6      6   29160  190950 1505490 291800

cs.v9 = mutate(cs.v9, se_pat = max.col(cs.v9) - 1)
head(cs.v9)

## # A tibble: 6 x 6
##   custid  sp_amt  su_amt  fa_amt wi_amt se_pat
##    <int>   <dbl>   <dbl>   <dbl>  <dbl>  <dbl>
## 1      1  714038 1414688  776028 853627      2
## 2      2  112709 1870250       0  78220      2
## 3      3 3227130 1690100  714573 794246      1
## 4      4   89700       0       0 291600      4
## 5      5  155700       0       0      0      1
## 6      6   29160  190950 1505490 291800      3

## 구매추세 패턴 (v10)
start_date1 = ymd(ymd_hms(min(tr$sales_date)))
end_date1 = ymd("2000-10-29")
# as.integer(end_date1) - as.integer(start_date1) = 181일
start_date2 = ymd("2000-10-30")
end_date2 = ymd(ymd_hms(max(tr$sales_date)))
# as.integer(end_date2) - as.integer(start_date2) = 181일

4.10. v10 : 평균 내점일수의 증감 여부를 구매 추세의 변화 지표 (6개월 단위로 나누어 전반기/후반기)

### 6개월 단위로 전반기/ 후반기를 나누어 
### 평균 내점일수의 증감 여부를 구매 추세의 변화 지표로 사용
cs.v10 = tr %>% distinct(custid, sales_date) %>% group_by(custid) %>%
  mutate(fha = ifelse(sales_date <= end_date1,1,0),
         sha = ifelse(sales_date >= start_date2,1, 0)) %>%
  group_by(custid) %>% summarize_each(funs(sum),fha,sha)
cs.v10$purpat = ifelse(cs.v10$fha < cs.v10$sha,"증가",
                       ifelse(cs.v10$fha == cs.v10$sha,"변화없음","감소"))
# fha = first half year // sha = second half year
# purpat = purchase pattern

head(cs.v10)

## # A tibble: 6 x 4
##   custid   fha   sha purpat
##    <int> <dbl> <dbl> <chr> 
## 1      1    21    20 감소  
## 2      2     7     4 감소  
## 3      3    11    16 증가  
## 4      4     0     4 증가  
## 5      5     0     3 증가  
## 6      6     9     6 감소

tail(cs.v10)

## # A tibble: 6 x 4
##   custid   fha   sha purpat
##    <int> <dbl> <dbl> <chr> 
## 1  49995     1    10 증가  
## 2  49996    12    40 증가  
## 3  49997    13     7 감소  
## 4  49998    16     8 감소  
## 5  49999     0    17 증가  
## 6  50000     1    10 증가

4.11. v11 : 상품별 구매 금액/ 횟수/ 여부 변수 생성

• for v11/v12/v13 상품별 => goodcd를 쓰기엔 데이터 처리가 복잡하고, 분류하더라도 큰 의미를 찾기 힘들어 상품’군’별로 데이터를 처리하는 것으로 정하고, buyer_nm을 변수로 사용

## for v11/v12/v13 상품별 => goodcd를 쓰기엔 데이터 처리가 복잡하고, 분류하더라도 큰 의미를 찾기 힘들어
## 상품'군'별로 데이터를 처리하는 것으로 정하고, buyer_nm을 변수로 사용

## 상품별 구매 금액/ 횟수/ 여부 변수 (v11)
# puramt = purchase amount (각 상품군 구매 금액)
# purnum = purchase number of time (각 상품군 구매 횟수)
# purexp = purchase experience (각 상품군 구매 여부 (if puramt > 0 : then value = 1, else : value = 0))
cs.v11.amt = tr %>%  group_by(custid,buyer_nm) %>% summarise(puramt = sum(net_amt))

amt.melt = melt(cs.v11.amt,id.vars = c("custid","buyer_nm"), measure.vars = "puramt" )
cs.v11.amt = cast(amt.melt,custid ~ buyer_nm + variable) 
cs.v11.amt[is.na(cs.v11.amt)] = 0 # NA 처리

cs.v11.num = tr %>%  group_by(custid,buyer_nm ) %>% filter(net_amt > 0) %>% summarise(purnum = n())

num.melt = melt(cs.v11.num,id.vars = c("custid","buyer_nm"), measure.vars = "purnum" )
cs.v11.num = cast(num.melt,custid ~ buyer_nm + variable) 
cs.v11.num[is.na(cs.v11.num)] = 0 # NA 처리

cs.v11.exp = tr %>%  group_by(custid,buyer_nm) %>% summarise(purexp = ifelse(sum(net_amt)>0,1,0))

exp.melt = melt(cs.v11.exp,id.vars = c("custid","buyer_nm"), measure.vars = "purexp" )
cs.v11.exp = cast(exp.melt,custid ~ buyer_nm + variable) 
cs.v11.exp[is.na(cs.v11.exp)] = 0 # NA 처리

cs.v11 = left_join(cs.v11.amt, cs.v11.num) %>% left_join(cs.v11.exp)
cs.v11[is.na(cs.v11)] = 0 # NA 처리

head(cs.v11)

##   custid 가구_puramt 가전_puramt 기타바이어_puramt 니트단품_puramt
## 1      1           0      509000                 0               0
## 2      2           0           0                 0               0
## 3      3      491150     2130000                 0               0
## 4      4           0           0                 0               0
## 5      5           0           0                 0               0
## 6      6           0           0                 0               0
##   도자기크리스탈_puramt 디자이너부띠끄_puramt 문화완구_puramt
## 1                 36640                     0               0
## 2                 14400                     0               0
## 3                     0                     0           86550
## 4                     0                     0               0
## 5                     0                     0               0
## 6                     0                     0               0
##   생활용품_puramt 섬유_puramt 수입명품_puramt 스포츠_puramt
## 1           88250       15000               0        179250
## 2               0       26400               0             0
## 3               0      282000         1740000        146000
## 4               0       20000               0        214200
## 5               0       18000               0             0
## 6               0       29160               0        243350
##   엘레강스캐주얼_puramt 영캐주얼_puramt 유니캐주얼_puramt 유아동복_puramt
## 1                     0          352050            558550          129100
## 2                     0          916100                 0               0
## 3                     0          185050             63600          755360
## 4                     0               0                 0               0
## 5                     0           26100                 0               0
## 6                     0          119000            426090               0
##   일반식품_puramt 장신구_puramt 점외_puramt 정장셔츠_puramt
## 1         1472691         40000           0               0
## 2          135509         96000           0          552300
## 3          113919             0           0               0
## 4            8000             0           0               0
## 5               0             0           0               0
## 6               0             0           0               0
##   조리식품_puramt 조리욕실_puramt 청과곡물_puramt 침구수예_puramt
## 1               0           90100               0               0
## 2               0           44020               0               0
## 3               0          340620               0           50000
## 4               0               0               0               0
## 5               0               0               0               0
## 6               0               0               0               0
##   캐릭터캐주얼_puramt 타운모피_puramt 트래디셔널캐주얼_puramt 피혁A_puramt
## 1                   0               0                       0       208750
## 2                   0               0                       0            0
## 3                   0               0                       0            0
## 4                   0               0                   57400            0
## 5                   0               0                       0            0
## 6                   0               0                  868250       140600
##   피혁B_puramt 행사장(남성)_puramt 행사장(아동스포츠)_puramt
## 1            0                   0                         0
## 2            0                   0                         0
## 3            0                   0                         0
## 4            0                   0                         0
## 5        83700                   0                         0
## 6            0                   0                         0
##   행사장(여성정장)_puramt 행사장(여성캐주얼)_puramt
## 1                       0                         0
## 2                       0                         0
## 3                       0                         0
## 4                       0                         0
## 5                       0                         0
## 6                       0                         0
##   행사장(여성캐쥬)_puramt 행사장(잡화)_puramt 화장품_puramt 가구_purnum
## 1                       0                   0         79000           0
## 2                       0                   0        276450           0
## 3                       0                   0         41800           1
## 4                       0                   0         81700           0
## 5                       0                   0         27900           0
## 6                       0                   0        190950           0
##   가전_purnum 기타바이어_purnum 니트단품_purnum 도자기크리스탈_purnum
## 1           1                 0               0                     3
## 2           0                 0               0                     1
## 3           2                 0               0                     0
## 4           0                 0               0                     0
## 5           0                 0               0                     0
## 6           0                 0               0                     0
##   디자이너부띠끄_purnum 문화완구_purnum 생활용품_purnum 섬유_purnum
## 1                     0               0               5           1
## 2                     0               0               0           2
## 3                     0               2               0           3
## 4                     0               0               0           1
## 5                     0               0               0           1
## 6                     0               0               0           1
##   수입명품_purnum 스포츠_purnum 엘레강스캐주얼_purnum 영캐주얼_purnum
## 1               0             3                     0               2
## 2               0             0                     0               6
## 3               5             9                     0               2
## 4               0             2                     0               0
## 5               0             0                     0               1
## 6               0             4                     0               1
##   유니캐주얼_purnum 유아동복_purnum 일반식품_purnum 장신구_purnum
## 1                13               2              39             2
## 2                 0               0               4             1
## 3                 2              18               4             0
## 4                 0               0               1             0
## 5                 0               0               0             0
## 6                 9               0               0             0
##   점외_purnum 정장셔츠_purnum 조리식품_purnum 조리욕실_purnum
## 1           0               0               0               2
## 2           0               8               0               2
## 3           0               0               0               3
## 4           0               0               0               0
## 5           0               0               0               0
## 6           0               0               0               0
##   청과곡물_purnum 침구수예_purnum 캐릭터캐주얼_purnum 타운모피_purnum
## 1               0               0                   0               0
## 2               0               0                   0               0
## 3               0               1                   0               0
## 4               0               0                   0               0
## 5               0               0                   0               0
## 6               0               0                   0               0
##   트래디셔널캐주얼_purnum 피혁A_purnum 피혁B_purnum 행사장(남성)_purnum
## 1                       0            2            0                   0
## 2                       0            0            0                   0
## 3                       0            0            0                   0
## 4                       1            0            0                   0
## 5                       0            0            1                   0
## 6                       6            1            0                   0
##   행사장(아동스포츠)_purnum 행사장(여성정장)_purnum
## 1                         0                       0
## 2                         0                       0
## 3                         0                       0
## 4                         0                       0
## 5                         0                       0
## 6                         0                       0
##   행사장(여성캐주얼)_purnum 행사장(여성캐쥬)_purnum 행사장(잡화)_purnum
## 1                         0                       0                   0
## 2                         0                       0                   0
## 3                         0                       0                   0
## 4                         0                       0                   0
## 5                         0                       0                   0
## 6                         0                       0                   0
##   화장품_purnum 가구_purexp 가전_purexp 기타바이어_purexp 니트단품_purexp
## 1             1           0           1                 0               0
## 2             2           0           0                 0               0
## 3             1           1           1                 0               0
## 4             1           0           0                 0               0
## 5             1           0           0                 0               0
## 6             3           0           0                 0               0
##   도자기크리스탈_purexp 디자이너부띠끄_purexp 문화완구_purexp
## 1                     1                     0               0
## 2                     1                     0               0
## 3                     0                     0               1
## 4                     0                     0               0
## 5                     0                     0               0
## 6                     0                     0               0
##   생활용품_purexp 섬유_purexp 수입명품_purexp 스포츠_purexp
## 1               1           1               0             1
## 2               0           1               0             0
## 3               0           1               1             1
## 4               0           1               0             1
## 5               0           1               0             0
## 6               0           1               0             1
##   엘레강스캐주얼_purexp 영캐주얼_purexp 유니캐주얼_purexp 유아동복_purexp
## 1                     0               1                 1               1
## 2                     0               1                 0               0
## 3                     0               1                 1               1
## 4                     0               0                 0               0
## 5                     0               1                 0               0
## 6                     0               1                 1               0
##   일반식품_purexp 장신구_purexp 점외_purexp 정장셔츠_purexp
## 1               1             1           0               0
## 2               1             1           0               1
## 3               1             0           0               0
## 4               1             0           0               0
## 5               0             0           0               0
## 6               0             0           0               0
##   조리식품_purexp 조리욕실_purexp 청과곡물_purexp 침구수예_purexp
## 1               0               1               0               0
## 2               0               1               0               0
## 3               0               1               0               1
## 4               0               0               0               0
## 5               0               0               0               0
## 6               0               0               0               0
##   캐릭터캐주얼_purexp 타운모피_purexp 트래디셔널캐주얼_purexp 피혁A_purexp
## 1                   0               0                       0            1
## 2                   0               0                       0            0
## 3                   0               0                       0            0
## 4                   0               0                       1            0
## 5                   0               0                       0            0
## 6                   0               0                       1            1
##   피혁B_purexp 행사장(남성)_purexp 행사장(아동스포츠)_purexp
## 1            0                   0                         0
## 2            0                   0                         0
## 3            0                   0                         0
## 4            0                   0                         0
## 5            1                   0                         0
## 6            0                   0                         0
##   행사장(여성정장)_purexp 행사장(여성캐주얼)_purexp
## 1                       0                         0
## 2                       0                         0
## 3                       0                         0
## 4                       0                         0
## 5                       0                         0
## 6                       0                         0
##   행사장(여성캐쥬)_purexp 행사장(잡화)_purexp 화장품_purexp
## 1                       0                   0             1
## 2                       0                   0             1
## 3                       0                   0             1
## 4                       0                   0             1
## 5                       0                   0             1
## 6                       0                   0             1

4.12. v12 : 상품별 구매 순서 변수 생성

## 상품별 구매 순서 변수 (v12)
# 상품별 최초 구매 시간 순으로 나열하여, 그 중에서
# 상품별 최초 구매 일자(purmin = purchase date min)를 구하고, 
# 이에 rank (purord = purchase order)를 매김 
cs.v12 = tr %>% group_by(custid,buyer_nm)
cs.v12 = cs.v12[order(cs.v12$sales_time),]
cs.v12 = cs.v12 %>% summarise(purmin = min(sales_date)) %>% 
  mutate(purord = rank(purmin,ties.method = "first"))
cs.v12.melt = melt(cs.v12, id.vars = c("custid","buyer_nm"), measure.vars = "purord")
cs.v12 = cast(cs.v12.melt, custid ~ buyer_nm + variable)
# cs.v12[is.na(cs.v12)] = 0 # 구매한 적이 없는 경우, 구매 순서 변수를 NA로 유지

head(cs.v12)

##   custid 가구_purord 가전_purord 기타바이어_purord 니트단품_purord
## 1      1          NA           7                NA              NA
## 2      2          NA          NA                NA              NA
## 3      3          13          12                NA              NA
## 4      4          NA          NA                NA              NA
## 5      5          NA          NA                NA              NA
## 6      6          NA          NA                NA              NA
##   도자기크리스탈_purord 디자이너부띠끄_purord 문화완구_purord
## 1                     3                    NA              NA
## 2                     1                    NA              NA
## 3                    NA                    NA              10
## 4                    NA                    NA              NA
## 5                    NA                    NA              NA
## 6                    NA                    NA              NA
##   생활용품_purord 섬유_purord 수입명품_purord 스포츠_purord
## 1              10           8              NA            12
## 2              NA           6              NA            NA
## 3              NA           3               1             2
## 4              NA           1              NA             2
## 5              NA           1              NA            NA
## 6              NA           7              NA             6
##   엘레강스캐주얼_purord 영캐주얼_purord 유니캐주얼_purord 유아동복_purord
## 1                    NA               9                 4               2
## 2                    NA               2                NA              NA
## 3                    NA               4                 8               9
## 4                    NA              NA                NA              NA
## 5                    NA               3                NA              NA
## 6                    NA               5                 3              NA
##   일반식품_purord 장신구_purord 점외_purord 정장셔츠_purord
## 1               1             6          NA              NA
## 2               7             4          NA               3
## 3               5            NA          NA              NA
## 4               5            NA          NA              NA
## 5              NA            NA          NA              NA
## 6              NA            NA          NA              NA
##   조리식품_purord 조리욕실_purord 청과곡물_purord 침구수예_purord
## 1              NA              11              NA              NA
## 2              NA               8              NA              NA
## 3              NA               6              NA               7
## 4              NA              NA              NA              NA
## 5              NA              NA              NA              NA
## 6              NA              NA              NA              NA
##   캐릭터캐주얼_purord 타운모피_purord 트래디셔널캐주얼_purord 피혁A_purord
## 1                  NA              NA                      NA            5
## 2                  NA              NA                      NA           NA
## 3                  NA              NA                      NA           NA
## 4                  NA              NA                       3           NA
## 5                  NA              NA                      NA           NA
## 6                  NA              NA                       4            2
##   피혁B_purord 행사장(남성)_purord 행사장(아동스포츠)_purord
## 1           NA                  NA                        NA
## 2           NA                  NA                        NA
## 3           NA                  NA                        NA
## 4           NA                  NA                        NA
## 5            4                  NA                        NA
## 6           NA                  NA                        NA
##   행사장(여성정장)_purord 행사장(여성캐주얼)_purord
## 1                      NA                        NA
## 2                      NA                        NA
## 3                      NA                        NA
## 4                      NA                        NA
## 5                      NA                        NA
## 6                      NA                        NA
##   행사장(여성캐쥬)_purord 행사장(잡화)_purord 화장품_purord
## 1                      NA                  NA            13
## 2                      NA                  NA             5
## 3                      NA                  NA            11
## 4                      NA                  NA             4
## 5                      NA                  NA             2
## 6                      NA                  NA             1

4.13. v13 : 주 구매상품 변수 생성

## 주 구매상품 변수 (v13) (purpref = purchase preference)
# 고객별로 각 칼럼의 상품군이 주 구매 상품일 경우 (purpref value = 1), 
# 각 칼럼의 상품군이 주 구매 상품이 아닐 경우 (purpref value = 0)
cs.v13.tmp = tr %>%  group_by(custid,buyer_nm) %>% summarise(puramt = sum(net_amt)) %>%
  group_by(custid) %>% mutate(purpref = max(puramt)) %>% filter(puramt == purpref)
cs.v13.melt = melt(cs.v13.tmp, id.vars = c("custid","buyer_nm"), measure.vars = "purpref" )
cs.v13 = cast(cs.v13.melt, custid ~ buyer_nm + variable)
cs.v13[is.na(cs.v13)] = 0 
cs.v13[cs.v13 > 0] = 1

head(cs.v13)

##   custid 가구_purpref 가전_purpref 기타바이어_purpref 니트단품_purpref
## 1      1            0            0                  0                0
## 2      1            0            0                  0                0
## 3      1            0            1                  0                0
## 4      1            0            0                  0                0
## 5      1            0            0                  0                0
## 6      1            0            0                  0                0
##   도자기크리스탈_purpref 디자이너부띠끄_purpref 문화완구_purpref
## 1                      0                      0                0
## 2                      0                      0                0
## 3                      0                      0                0
## 4                      0                      0                0
## 5                      0                      0                0
## 6                      0                      0                0
##   생활용품_purpref 섬유_purpref 수입명품_purpref 스포츠_purpref
## 1                0            0                0              0
## 2                0            0                0              0
## 3                0            0                0              0
## 4                0            0                0              1
## 5                0            0                0              0
## 6                0            0                0              0
##   엘레강스캐주얼_purpref 영캐주얼_purpref 유니캐주얼_purpref
## 1                      0                0                  0
## 2                      0                1                  0
## 3                      0                0                  0
## 4                      0                0                  0
## 5                      0                0                  0
## 6                      0                0                  0
##   유아동복_purpref 일반식품_purpref 장신구_purpref 정장셔츠_purpref
## 1                0                1              0                0
## 2                0                0              0                0
## 3                0                0              0                0
## 4                0                0              0                0
## 5                0                0              0                0
## 6                0                0              0                0
##   조리욕실_purpref 침구수예_purpref 캐릭터캐주얼_purpref 타운모피_purpref
## 1                0                0                    0                0
## 2                0                0                    0                0
## 3                0                0                    0                0
## 4                0                0                    0                0
## 5                0                0                    0                0
## 6                0                0                    0                0
##   트래디셔널캐주얼_purpref 피혁A_purpref 피혁B_purpref
## 1                        0             0             0
## 2                        0             0             0
## 3                        0             0             0
## 4                        0             0             0
## 5                        0             0             1
## 6                        1             0             0
##   행사장(남성)_purpref 행사장(여성정장)_purpref 행사장(여성캐주얼)_purpref
## 1                    0                        0                          0
## 2                    0                        0                          0
## 3                    0                        0                          0
## 4                    0                        0                          0
## 5                    0                        0                          0
## 6                    0                        0                          0
##   행사장(여성캐쥬)_purpref 화장품_purpref
## 1                        0              0
## 2                        0              0
## 3                        0              0
## 4                        0              0
## 5                        0              0
## 6                        0              0

4.14. v14 : 휴면/ 이탈 가망 변수 생성

## 휴면/ 이탈 가망 변수 (v14)
## 최근 방문일로 부터 지난 시간이, 
## 평균 구매 주기보다 길 경우, 휴면/이탈 가능성이 있는 것으로 고려. variable = exit
## (if 휴면/이탈 : value = 1, else : value = 0)
end_date = ymd(ymd_hms(max(tr$sales_date)))
cs.v14 = tr %>% distinct(custid, sales_date) %>%
  group_by(custid) %>% summarise(maxday = max(sales_date))
cs.v14$exit = ifelse(as.integer((end_date - ymd(ymd_hms((cs.v14$maxday)))) > cs.v3$API),1,0)

head(cs.v14)

## # A tibble: 6 x 3
##   custid maxday               exit
##    <int> <chr>               <dbl>
## 1      1 2001-04-29 00:00:00     0
## 2      2 2001-04-11 00:00:00     0
## 3      3 2001-04-27 00:00:00     0
## 4      4 2001-04-14 00:00:00     0
## 5      5 2001-04-25 00:00:00     0
## 6      6 2001-04-29 00:00:00     0

5.1. Setting

##### Modeling : Line 271 ~ 
##### 전체 Custsig 생성 line : 273 ~ #####
custsig <- cs[,1:2]
custsig = left_join(custsig, cs.v1) # 환불 행태
# v1 변수 이상치 처리(NA)
custsig$rf_amt[is.na(custsig$rf_amt)] = 0
custsig$rf_cnt[is.na(custsig$rf_cnt)] = 0
custsig = left_join(custsig, cs.v2) # 구매상품 다양성
custsig = left_join(custsig, cs.v3) # 내점일수 & 내점당 구매건수
custsig = left_join(custsig, cs.v4) # 구매주기
# custsig = left_join(custsig, cs.v5) # 요일별 구매패턴
# custsig = left_join(custsig, cs.v6) # 연령대
custsig = left_join(custsig, cs.v7) # 기간별 구매 금액 & 횟수
custsig = left_join(custsig, cs.v8) # 가격 선호도 변수
# custsig = left_join(custsig, cs.v9) # 시즌 선호도 변수
# custsig = left_join(custsig, cs.v10) # 구매추세 패턴
custsig = left_join(custsig, cs.v11) # 상품별 구매 금액/횟수/여부 변수
custsig = left_join(custsig, cs.v12) # 상품별 구매순서 변수
custsig = left_join(custsig, cs.v13) # 주 구매상품 변수
# custsig = left_join(custsig, cs.v14) # 휴면/이탈 가망 변수
custsig.made = custsig

###  답 확인
nrow(custsig)

## [1] 99989

ncol(custsig)

## [1] 186

custsig[sample(nrow(custsig), 5), c(1,sample(ncol(custsig), 20))]

##       custid 점외_purexp 행사장(아동스포츠)_purexp 디자이너부띠끄_purnum
## 52190   2197           0                         0                     2
## 30807      1           0                         0                     0
## 72824  22835           0                         0                     0
## 41384      1           0                         0                     0
## 45872      1           0                         0                     0
##       수입명품_purpref 도자기크리스탈_purpref 피혁B_purnum 타운모피_purexp
## 52190               NA                     NA            0               0
## 30807                0                      0            0               0
## 72824               NA                     NA            0               0
## 41384                0                      0            0               0
## 45872                0                      0            0               0
##         amt12 침구수예_puramt 행사장(여성정장)_purexp 생활용품_puramt
## 52190 3136209               0                       0               0
## 30807 3758381               0                       0           88250
## 72824 2152070               0                       0               0
## 41384 3758381               0                       0           88250
## 45872 3758381               0                       0           88250
##       디자이너부띠끄_puramt 유니캐주얼_puramt 피혁A_purpref       API
## 52190                532100            291500            NA 10.371429
## 30807                     0            558550             0  8.853659
## 72824                     0             56050            NA 33.000000
## 41384                     0            558550             0  8.853659
## 45872                     0            558550             0  8.853659
##       행사장(남성)_purpref 행사장(잡화)_puramt 청과곡물_purord
## 52190                   NA                   0              NA
## 30807                    0                   0              NA
## 72824                   NA                   0              NA
## 41384                    0                   0              NA
## 45872                    0                   0              NA
##       유아동복_purnum 점외_puramt
## 52190               0           0
## 30807               2           0
## 72824               0           0
## 41384               2           0
## 45872               2           0

str(custsig)

## 'data.frame':    99989 obs. of  186 variables:
##  $ custid                    : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ sex                       : int  0 0 0 0 0 0 0 0 0 0 ...
##  $ rf_amt                    : num  -191920 -191920 -191920 -191920 -191920 ...
##  $ rf_cnt                    : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ buy_brd                   : int  23 23 23 23 23 23 23 23 23 23 ...
##  $ visits                    : int  41 41 41 41 41 41 41 41 41 41 ...
##  $ API                       : num  8.85 8.85 8.85 8.85 8.85 ...
##  $ NPPV                      : num  1.88 1.88 1.88 1.88 1.88 ...
##  $ amt12                     : num  3758381 3758381 3758381 3758381 3758381 ...
##  $ nop12                     : num  77 77 77 77 77 77 77 77 77 77 ...
##  $ amt6                      : num  1337108 1337108 1337108 1337108 1337108 ...
##  $ nop6                      : num  34 34 34 34 34 34 34 34 34 34 ...
##  $ amt3                      : num  511654 511654 511654 511654 511654 ...
##  $ nop3                      : num  13 13 13 13 13 13 13 13 13 13 ...
##  $ cmv                       : num  51978 51978 51978 51978 51978 ...
##  $ pref                      : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 가구_puramt               : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 가전_puramt               : num  509000 509000 509000 509000 509000 509000 509000 509000 509000 509000 ...
##  $ 기타바이어_puramt         : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 니트단품_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 도자기크리스탈_puramt     : num  36640 36640 36640 36640 36640 ...
##  $ 디자이너부띠끄_puramt     : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 문화완구_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 생활용품_puramt           : num  88250 88250 88250 88250 88250 ...
##  $ 섬유_puramt               : num  15000 15000 15000 15000 15000 15000 15000 15000 15000 15000 ...
##  $ 수입명품_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 스포츠_puramt             : num  179250 179250 179250 179250 179250 ...
##  $ 엘레강스캐주얼_puramt     : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 영캐주얼_puramt           : num  352050 352050 352050 352050 352050 ...
##  $ 유니캐주얼_puramt         : num  558550 558550 558550 558550 558550 ...
##  $ 유아동복_puramt           : num  129100 129100 129100 129100 129100 ...
##  $ 일반식품_puramt           : num  1472691 1472691 1472691 1472691 1472691 ...
##  $ 장신구_puramt             : num  40000 40000 40000 40000 40000 40000 40000 40000 40000 40000 ...
##  $ 점외_puramt               : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 정장셔츠_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 조리식품_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 조리욕실_puramt           : num  90100 90100 90100 90100 90100 90100 90100 90100 90100 90100 ...
##  $ 청과곡물_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 침구수예_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 캐릭터캐주얼_puramt       : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 타운모피_puramt           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 트래디셔널캐주얼_puramt   : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 피혁A_puramt              : num  208750 208750 208750 208750 208750 ...
##  $ 피혁B_puramt              : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(남성)_puramt       : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(아동스포츠)_puramt : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성정장)_puramt   : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성캐주얼)_puramt : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성캐쥬)_puramt   : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(잡화)_puramt       : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 화장품_puramt             : num  79000 79000 79000 79000 79000 79000 79000 79000 79000 79000 ...
##  $ 가구_purnum               : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 가전_purnum               : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 기타바이어_purnum         : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 니트단품_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 도자기크리스탈_purnum     : num  3 3 3 3 3 3 3 3 3 3 ...
##  $ 디자이너부띠끄_purnum     : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 문화완구_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 생활용품_purnum           : num  5 5 5 5 5 5 5 5 5 5 ...
##  $ 섬유_purnum               : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 수입명품_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 스포츠_purnum             : num  3 3 3 3 3 3 3 3 3 3 ...
##  $ 엘레강스캐주얼_purnum     : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 영캐주얼_purnum           : num  2 2 2 2 2 2 2 2 2 2 ...
##  $ 유니캐주얼_purnum         : num  13 13 13 13 13 13 13 13 13 13 ...
##  $ 유아동복_purnum           : num  2 2 2 2 2 2 2 2 2 2 ...
##  $ 일반식품_purnum           : num  39 39 39 39 39 39 39 39 39 39 ...
##  $ 장신구_purnum             : num  2 2 2 2 2 2 2 2 2 2 ...
##  $ 점외_purnum               : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 정장셔츠_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 조리식품_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 조리욕실_purnum           : num  2 2 2 2 2 2 2 2 2 2 ...
##  $ 청과곡물_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 침구수예_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 캐릭터캐주얼_purnum       : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 타운모피_purnum           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 트래디셔널캐주얼_purnum   : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 피혁A_purnum              : num  2 2 2 2 2 2 2 2 2 2 ...
##  $ 피혁B_purnum              : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(남성)_purnum       : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(아동스포츠)_purnum : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성정장)_purnum   : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성캐주얼)_purnum : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성캐쥬)_purnum   : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(잡화)_purnum       : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 화장품_purnum             : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 가구_purexp               : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 가전_purexp               : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 기타바이어_purexp         : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 니트단품_purexp           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 도자기크리스탈_purexp     : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 디자이너부띠끄_purexp     : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 문화완구_purexp           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 생활용품_purexp           : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 섬유_purexp               : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 수입명품_purexp           : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 스포츠_purexp             : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 엘레강스캐주얼_purexp     : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 영캐주얼_purexp           : num  1 1 1 1 1 1 1 1 1 1 ...
##   [list output truncated]

custsig = subset(custsig,custsig$sex > 0)
custsig = custsig[,-1]
custsig$sex = custsig$sex - 1 # 남자 : 0, 여자 : 1
custsig[is.na(custsig)] = 0
sum(is.na(custsig))

## [1] 0

5.2. Logistic Regression 1

lm_model1 = glm(sex ~ ., data = custsig, family = binomial("logit"))
summary(lm_model1)

## 
## Call:
## glm(formula = sex ~ ., family = binomial("logit"), data = custsig)
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -2.4636  -1.2279   0.6889   0.8421   2.1905  
## 
## Coefficients: (35 not defined because of singularities)
##                                Estimate Std. Error z value Pr(>|z|)    
## (Intercept)                   2.201e+00  3.965e-01   5.550 2.86e-08 ***
## rf_amt                       -5.291e-09  9.563e-09  -0.553 0.580099    
## rf_cnt                       -9.067e-03  6.716e-03  -1.350 0.177048    
## buy_brd                       8.079e-03  3.607e-03   2.240 0.025084 *  
## visits                       -8.737e-04  2.246e-03  -0.389 0.697278    
## API                          -6.295e-04  2.203e-04  -2.858 0.004267 ** 
## NPPV                         -4.190e-02  2.199e-02  -1.905 0.056790 .  
## amt12                        -5.354e-09  3.660e-08  -0.146 0.883710    
## nop12                         4.084e-03  4.672e-03   0.874 0.382015    
## amt6                         -3.125e-09  1.444e-08  -0.216 0.828695    
## nop6                          9.205e-03  2.465e-03   3.734 0.000189 ***
## amt3                          4.855e-09  1.704e-08   0.285 0.775641    
## nop3                         -1.174e-03  2.972e-03  -0.395 0.692856    
## cmv                          -5.618e-07  1.668e-07  -3.369 0.000754 ***
## pref                         -1.496e-01  2.177e-02  -6.872 6.35e-12 ***
## 가구_puramt                   1.934e-08  5.559e-08   0.348 0.727876    
## 가전_puramt                  -1.493e-08  4.273e-08  -0.349 0.726816    
## 기타바이어_puramt            -3.010e-08  6.696e-08  -0.449 0.653086    
## 니트단품_puramt              -6.320e-08  7.210e-08  -0.877 0.380707    
## 도자기크리스탈_puramt        -3.302e-08  8.698e-08  -0.380 0.704244    
## 디자이너부띠끄_puramt         1.731e-08  4.056e-08   0.427 0.669459    
## 문화완구_puramt              -9.792e-08  1.148e-07  -0.853 0.393708    
## 생활용품_puramt               1.551e-06  1.285e-06   1.207 0.227334    
## 섬유_puramt                  -8.648e-08  1.134e-07  -0.763 0.445703    
## 수입명품_puramt              -2.396e-09  3.774e-08  -0.063 0.949373    
## 스포츠_puramt                -5.905e-08  4.733e-08  -1.248 0.212171    
## 엘레강스캐주얼_puramt         9.086e-09  5.353e-08   0.170 0.865220    
## 영캐주얼_puramt               8.771e-08  6.722e-08   1.305 0.191976    
## 유니캐주얼_puramt             1.040e-07  8.969e-08   1.159 0.246327    
## 유아동복_puramt               9.014e-08  6.017e-08   1.498 0.134123    
## 일반식품_puramt              -7.016e-08  4.311e-08  -1.627 0.103691    
## 장신구_puramt                 1.204e-08  4.409e-08   0.273 0.784752    
## 점외_puramt                   1.408e-04  2.439e-03   0.058 0.953970    
## 정장셔츠_puramt              -5.206e-08  5.101e-08  -1.021 0.307463    
## 조리식품_puramt               1.531e-05  3.454e-05   0.443 0.657702    
## 조리욕실_puramt               2.339e-07  1.350e-07   1.732 0.083208 .  
## 청과곡물_puramt               1.317e-04  2.614e-02   0.005 0.995981    
## 침구수예_puramt               2.922e-08  6.602e-08   0.443 0.658050    
## 캐릭터캐주얼_puramt           6.061e-08  4.825e-08   1.256 0.209088    
## 타운모피_puramt              -1.189e-08  4.539e-08  -0.262 0.793287    
## 트래디셔널캐주얼_puramt       1.262e-07  9.015e-08   1.400 0.161439    
## 피혁A_puramt                 -3.810e-08  1.251e-07  -0.305 0.760659    
## 피혁B_puramt                 -2.995e-07  1.311e-07  -2.285 0.022312 *  
## `행사장(남성)_puramt`        -3.001e-06  2.512e-06  -1.195 0.232181    
## `행사장(아동스포츠)_puramt`   4.609e-06  4.710e-05   0.098 0.922033    
## `행사장(여성정장)_puramt`     7.295e-06  6.062e-06   1.203 0.228803    
## `행사장(여성캐주얼)_puramt`  -5.794e-07  2.977e-06  -0.195 0.845675    
## `행사장(여성캐쥬)_puramt`    -1.263e-07  2.110e-06  -0.060 0.952266    
## `행사장(잡화)_puramt`         1.049e-06  1.209e-05   0.087 0.930897    
## 화장품_puramt                        NA         NA      NA       NA    
## 가구_purnum                   1.042e-02  3.869e-02   0.269 0.787638    
## 가전_purnum                  -1.374e-02  1.841e-02  -0.746 0.455536    
## 기타바이어_purnum            -1.452e-04  1.779e-02  -0.008 0.993490    
## 니트단품_purnum               1.137e-02  9.864e-03   1.153 0.248965    
## 도자기크리스탈_purnum        -3.214e-02  1.768e-02  -1.818 0.069134 .  
## 디자이너부띠끄_purnum        -4.776e-03  1.205e-02  -0.396 0.691790    
## 문화완구_purnum              -2.014e-02  8.594e-03  -2.344 0.019088 *  
## 생활용품_purnum              -4.973e-02  3.464e-02  -1.435 0.151166    
## 섬유_purnum                   2.334e-02  1.053e-02   2.217 0.026607 *  
## 수입명품_purnum               1.012e-03  7.948e-03   0.127 0.898644    
## 스포츠_purnum                -1.921e-02  7.021e-03  -2.736 0.006211 ** 
## 엘레강스캐주얼_purnum        -7.223e-04  1.248e-02  -0.058 0.953843    
## 영캐주얼_purnum              -2.370e-02  9.146e-03  -2.592 0.009544 ** 
## 유니캐주얼_purnum            -2.910e-02  7.928e-03  -3.670 0.000243 ***
## 유아동복_purnum              -2.979e-02  5.936e-03  -5.019 5.19e-07 ***
## 일반식품_purnum              -9.725e-03  4.545e-03  -2.140 0.032390 *  
## 장신구_purnum                -1.161e-02  9.707e-03  -1.196 0.231564    
## 점외_purnum                          NA         NA      NA       NA    
## 정장셔츠_purnum              -3.390e-02  1.318e-02  -2.572 0.010125 *  
## 조리식품_purnum              -3.392e-01  3.702e-01  -0.916 0.359578    
## 조리욕실_purnum               1.274e-02  1.290e-02   0.988 0.323394    
## 청과곡물_purnum              -2.132e+01  2.786e+02  -0.077 0.939000    
## 침구수예_purnum               1.884e-02  2.474e-02   0.761 0.446371    
## 캐릭터캐주얼_purnum          -2.882e-02  9.736e-03  -2.961 0.003070 ** 
## 타운모피_purnum              -3.155e-02  2.144e-02  -1.472 0.141135    
## 트래디셔널캐주얼_purnum      -6.337e-02  1.278e-02  -4.958 7.11e-07 ***
## 피혁A_purnum                  2.398e-03  1.832e-02   0.131 0.895858    
## 피혁B_purnum                  5.167e-02  1.755e-02   2.944 0.003244 ** 
## `행사장(남성)_purnum`        -8.684e-01  5.555e-01  -1.563 0.118016    
## `행사장(아동스포츠)_purnum`  -7.330e-01  1.460e+00  -0.502 0.615587    
## `행사장(여성정장)_purnum`    -1.360e+00  1.243e+00  -1.093 0.274199    
## `행사장(여성캐주얼)_purnum`  -4.897e-02  1.567e-01  -0.313 0.754656    
## `행사장(여성캐쥬)_purnum`     4.576e-01  3.796e-01   1.205 0.228025    
## `행사장(잡화)_purnum`         1.145e+00  7.416e-01   1.544 0.122624    
## 화장품_purnum                        NA         NA      NA       NA    
## 가구_purexp                   2.430e-02  9.646e-02   0.252 0.801070    
## 가전_purexp                   4.267e-02  5.092e-02   0.838 0.402010    
## 기타바이어_purexp             1.565e-01  5.911e-02   2.647 0.008129 ** 
## 니트단품_purexp               1.514e-01  3.615e-02   4.189 2.81e-05 ***
## 도자기크리스탈_purexp        -3.938e-02  5.735e-02  -0.687 0.492316    
## 디자이너부띠끄_purexp        -4.889e-02  5.623e-02  -0.870 0.384549    
## 문화완구_purexp              -2.654e-01  4.284e-02  -6.195 5.82e-10 ***
## 생활용품_purexp              -3.395e-01  1.974e-01  -1.720 0.085498 .  
## 섬유_purexp                   1.163e-01  3.721e-02   3.126 0.001771 ** 
## 수입명품_purexp              -1.410e-01  4.419e-02  -3.190 0.001421 ** 
## 스포츠_purexp                -2.464e-01  3.354e-02  -7.346 2.04e-13 ***
## 엘레강스캐주얼_purexp         1.089e-01  4.379e-02   2.488 0.012847 *  
## 영캐주얼_purexp               3.849e-01  3.607e-02  10.670  < 2e-16 ***
## 유니캐주얼_purexp             4.502e-02  3.568e-02   1.262 0.207017    
## 유아동복_purexp              -1.458e-01  3.780e-02  -3.857 0.000115 ***
## 일반식품_purexp              -1.893e-01  3.364e-02  -5.626 1.84e-08 ***
## 장신구_purexp                 8.092e-02  4.091e-02   1.978 0.047950 *  
## 점외_purexp                          NA         NA      NA       NA    
## 정장셔츠_purexp              -5.522e-01  4.355e-02 -12.679  < 2e-16 ***
## 조리식품_purexp               2.381e-01  7.345e-01   0.324 0.745840    
## 조리욕실_purexp              -1.562e-01  4.793e-02  -3.260 0.001115 ** 
## 청과곡물_purexp               2.091e+00  2.448e+02   0.009 0.993183    
## 침구수예_purexp              -2.310e-02  7.008e-02  -0.330 0.741704    
## 캐릭터캐주얼_purexp           8.349e-02  3.732e-02   2.237 0.025266 *  
## 타운모피_purexp               2.167e-01  8.033e-02   2.697 0.006998 ** 
## 트래디셔널캐주얼_purexp      -2.669e-01  3.996e-02  -6.680 2.38e-11 ***
## 피혁A_purexp                  2.876e-02  3.855e-02   0.746 0.455604    
## 피혁B_purexp                  1.242e-01  4.320e-02   2.875 0.004037 ** 
## `행사장(남성)_purexp`         1.240e+00  7.236e-01   1.714 0.086601 .  
## `행사장(아동스포츠)_purexp`   1.378e+00  1.728e+00   0.797 0.425259    
## `행사장(여성정장)_purexp`     7.991e-01  3.088e+00   0.259 0.795774    
## `행사장(여성캐주얼)_purexp`  -5.178e-01  2.990e-01  -1.732 0.083289 .  
## `행사장(여성캐쥬)_purexp`    -7.401e-01  5.205e-01  -1.422 0.155019    
## `행사장(잡화)_purexp`        -1.289e+00  7.600e-01  -1.695 0.089982 .  
## 화장품_purexp                -7.111e-01  3.920e-01  -1.814 0.069646 .  
## 가구_purord                  -7.024e-03  7.616e-03  -0.922 0.356400    
## 가전_purord                  -9.937e-03  4.649e-03  -2.137 0.032578 *  
## 기타바이어_purord            -2.681e-03  5.679e-03  -0.472 0.636921    
## 니트단품_purord              -1.054e-02  4.061e-03  -2.594 0.009483 ** 
## 도자기크리스탈_purord        -3.267e-03  5.155e-03  -0.634 0.526217    
## 디자이너부띠끄_purord        -8.285e-03  5.404e-03  -1.533 0.125256    
## 문화완구_purord               9.449e-03  4.495e-03   2.102 0.035553 *  
## 생활용품_purord               2.607e-02  1.711e-02   1.524 0.127496    
## 섬유_purord                   1.732e-03  3.868e-03   0.448 0.654268    
## 수입명품_purord              -1.139e-02  4.565e-03  -2.496 0.012577 *  
## 스포츠_purord                 4.433e-03  4.073e-03   1.088 0.276477    
## 엘레강스캐주얼_purord        -7.205e-03  4.257e-03  -1.693 0.090523 .  
## 영캐주얼_purord              -2.185e-02  4.032e-03  -5.419 5.99e-08 ***
## 유니캐주얼_purord            -3.922e-03  4.122e-03  -0.951 0.341435    
## 유아동복_purord               2.827e-03  4.387e-03   0.644 0.519385    
## 일반식품_purord               1.569e-02  4.362e-03   3.598 0.000321 ***
## 장신구_purord                -3.787e-03  4.201e-03  -0.901 0.367323    
## 점외_purord                          NA         NA      NA       NA    
## 정장셔츠_purord               2.615e-02  4.412e-03   5.928 3.06e-09 ***
## 조리식품_purord               1.742e-02  6.116e-02   0.285 0.775760    
## 조리욕실_purord               2.604e-03  4.693e-03   0.555 0.578977    
## 청과곡물_purord               3.426e+00  2.014e+01   0.170 0.864919    
## 침구수예_purord              -6.913e-04  5.621e-03  -0.123 0.902114    
## 캐릭터캐주얼_purord          -8.022e-03  4.060e-03  -1.976 0.048173 *  
## 타운모피_purord              -6.919e-03  6.869e-03  -1.007 0.313827    
## 트래디셔널캐주얼_purord       2.220e-03  4.185e-03   0.531 0.595756    
## 피혁A_purord                  7.597e-04  4.055e-03   0.187 0.851402    
## 피혁B_purord                 -4.526e-03  4.150e-03  -1.090 0.275536    
## `행사장(남성)_purord`        -1.664e-02  4.402e-02  -0.378 0.705404    
## `행사장(아동스포츠)_purord`  -1.198e-01  1.066e-01  -1.124 0.260852    
## `행사장(여성정장)_purord`    -4.118e-02  1.208e-01  -0.341 0.733157    
## `행사장(여성캐주얼)_purord`   5.130e-02  2.540e-02   2.020 0.043390 *  
## `행사장(여성캐쥬)_purord`     1.668e-02  3.278e-02   0.509 0.610798    
## `행사장(잡화)_purord`        -2.282e-02  4.053e-02  -0.563 0.573368    
## 화장품_purord                -3.881e-03  4.226e-03  -0.918 0.358434    
## 가구_purpref                         NA         NA      NA       NA    
## 가전_purpref                         NA         NA      NA       NA    
## 기타바이어_purpref                   NA         NA      NA       NA    
## 니트단품_purpref                     NA         NA      NA       NA    
## 도자기크리스탈_purpref               NA         NA      NA       NA    
## 디자이너부띠끄_purpref               NA         NA      NA       NA    
## 문화완구_purpref                     NA         NA      NA       NA    
## 생활용품_purpref                     NA         NA      NA       NA    
## 섬유_purpref                         NA         NA      NA       NA    
## 수입명품_purpref                     NA         NA      NA       NA    
## 스포츠_purpref                       NA         NA      NA       NA    
## 엘레강스캐주얼_purpref               NA         NA      NA       NA    
## 영캐주얼_purpref                     NA         NA      NA       NA    
## 유니캐주얼_purpref                   NA         NA      NA       NA    
## 유아동복_purpref                     NA         NA      NA       NA    
## 일반식품_purpref                     NA         NA      NA       NA    
## 장신구_purpref                       NA         NA      NA       NA    
## 정장셔츠_purpref                     NA         NA      NA       NA    
## 조리욕실_purpref                     NA         NA      NA       NA    
## 침구수예_purpref                     NA         NA      NA       NA    
## 캐릭터캐주얼_purpref                 NA         NA      NA       NA    
## 타운모피_purpref                     NA         NA      NA       NA    
## 트래디셔널캐주얼_purpref             NA         NA      NA       NA    
## 피혁A_purpref                        NA         NA      NA       NA    
## 피혁B_purpref                        NA         NA      NA       NA    
## `행사장(남성)_purpref`               NA         NA      NA       NA    
## `행사장(여성정장)_purpref`           NA         NA      NA       NA    
## `행사장(여성캐주얼)_purpref`         NA         NA      NA       NA    
## `행사장(여성캐쥬)_purpref`           NA         NA      NA       NA    
## 화장품_purpref                       NA         NA      NA       NA    
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 61337  on 49970  degrees of freedom
## Residual deviance: 57867  on 49821  degrees of freedom
## AIC: 58167
## 
## Number of Fisher Scoring iterations: 10

var1 <- list('sex', 'buy_brd', '피혁B_puramt', '문화완구_purnum', '섬유_purnum', '일반식품_purnum', '정장셔츠_purnum',
             '엘레강스캐주얼_purexp', '장신구_purexp', '캐릭터캐주얼_purexp', '가전_purord', '문화완구_purord',
             '수입명품_purord', '캐릭터캐주얼_purord', '`행사장(여성캐주얼)_purord`',
             
             'API', '스포츠_purnum', '영캐주얼_purnum', '캐릭터캐주얼_purnum', '피혁B_purnum', '기타바이어_purexp',
             '섬유_purexp', '수입명품_purexp', '조리욕실_purexp', '타운모피_purexp', '피혁B_purexp','니트단품_purord',
             
             'nop6', 'cmv', 'pref', '유니캐주얼_purnum', '유아동복_purnum', '트래디셔널캐주얼_purnum',
             '니트단품_purexp', '문화완구_purexp', '스포츠_purexp', '영캐주얼_purexp', '유아동복_purexp', '일반식품_purexp',
             '정장셔츠_purexp', '트래디셔널캐주얼_purexp', '영캐주얼_purord', '일반식품_purord', '정장셔츠_purord'
)

var1

## [[1]]
## [1] "sex"
## 
## [[2]]
## [1] "buy_brd"
## 
## [[3]]
## [1] "피혁B_puramt"
## 
## [[4]]
## [1] "문화완구_purnum"
## 
## [[5]]
## [1] "섬유_purnum"
## 
## [[6]]
## [1] "일반식품_purnum"
## 
## [[7]]
## [1] "정장셔츠_purnum"
## 
## [[8]]
## [1] "엘레강스캐주얼_purexp"
## 
## [[9]]
## [1] "장신구_purexp"
## 
## [[10]]
## [1] "캐릭터캐주얼_purexp"
## 
## [[11]]
## [1] "가전_purord"
## 
## [[12]]
## [1] "문화완구_purord"
## 
## [[13]]
## [1] "수입명품_purord"
## 
## [[14]]
## [1] "캐릭터캐주얼_purord"
## 
## [[15]]
## [1] "`행사장(여성캐주얼)_purord`"
## 
## [[16]]
## [1] "API"
## 
## [[17]]
## [1] "스포츠_purnum"
## 
## [[18]]
## [1] "영캐주얼_purnum"
## 
## [[19]]
## [1] "캐릭터캐주얼_purnum"
## 
## [[20]]
## [1] "피혁B_purnum"
## 
## [[21]]
## [1] "기타바이어_purexp"
## 
## [[22]]
## [1] "섬유_purexp"
## 
## [[23]]
## [1] "수입명품_purexp"
## 
## [[24]]
## [1] "조리욕실_purexp"
## 
## [[25]]
## [1] "타운모피_purexp"
## 
## [[26]]
## [1] "피혁B_purexp"
## 
## [[27]]
## [1] "니트단품_purord"
## 
## [[28]]
## [1] "nop6"
## 
## [[29]]
## [1] "cmv"
## 
## [[30]]
## [1] "pref"
## 
## [[31]]
## [1] "유니캐주얼_purnum"
## 
## [[32]]
## [1] "유아동복_purnum"
## 
## [[33]]
## [1] "트래디셔널캐주얼_purnum"
## 
## [[34]]
## [1] "니트단품_purexp"
## 
## [[35]]
## [1] "문화완구_purexp"
## 
## [[36]]
## [1] "스포츠_purexp"
## 
## [[37]]
## [1] "영캐주얼_purexp"
## 
## [[38]]
## [1] "유아동복_purexp"
## 
## [[39]]
## [1] "일반식품_purexp"
## 
## [[40]]
## [1] "정장셔츠_purexp"
## 
## [[41]]
## [1] "트래디셔널캐주얼_purexp"
## 
## [[42]]
## [1] "영캐주얼_purord"
## 
## [[43]]
## [1] "일반식품_purord"
## 
## [[44]]
## [1] "정장셔츠_purord"

var1_idx <- c()

for (i in var1){
  g <- grep(i, colnames(custsig))
  var1_idx <- c(var1_idx, g)
}

str(var1_idx)

##  int [1:73] 1 4 43 57 59 66 69 97 102 109 ...

var1_idx

##  [1]   1   4  43  57  59  66  69  97 102 109 122 127 130 144   6  61  63
## [18]  74  78  88  94  95 106 110 113 124  11  14  15 156 157 158 159 160
## [35] 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177
## [52] 178 179 180 181 182 183 184 185  64  65  76  89  92  96  98 100 101
## [69] 104 111 133 136 139

custsig.fe = custsig
str(custsig.fe[c(var1_idx)])

## 'data.frame':    49971 obs. of  73 variables:
##  $ sex                       : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ buy_brd                   : int  6 4 14 10 67 13 16 8 3 8 ...
##  $ 피혁B_puramt              : num  0 83700 0 250400 1421730 ...
##  $ 문화완구_purnum           : num  0 0 0 0 3 0 0 0 0 0 ...
##  $ 섬유_purnum               : num  1 1 1 0 16 2 1 0 0 0 ...
##  $ 일반식품_purnum           : num  1 0 0 0 78 2 20 0 0 0 ...
##  $ 정장셔츠_purnum           : num  0 0 0 0 3 0 0 0 0 1 ...
##  $ 엘레강스캐주얼_purexp     : num  0 0 0 1 0 0 0 0 0 0 ...
##  $ 장신구_purexp             : num  0 0 0 1 1 0 0 1 0 0 ...
##  $ 캐릭터캐주얼_purexp       : num  0 0 0 0 1 0 0 0 0 1 ...
##  $ 가전_purord               : num  0 0 0 5 0 0 8 0 0 0 ...
##  $ 문화완구_purord           : num  0 0 0 0 11 0 0 0 0 0 ...
##  $ 수입명품_purord           : num  0 0 0 0 0 8 0 0 0 0 ...
##  $ 캐릭터캐주얼_purord       : num  0 0 0 0 10 0 0 0 0 4 ...
##  $ API                       : num  90.75 121 24.2 51.86 3.18 ...
##  $ 스포츠_purnum             : num  2 0 4 0 5 0 0 1 0 0 ...
##  $ 영캐주얼_purnum           : num  0 1 1 2 6 0 0 4 0 2 ...
##  $ 캐릭터캐주얼_purnum       : num  0 0 0 0 7 0 0 0 0 2 ...
##  $ 피혁B_purnum              : num  0 1 0 1 11 0 0 1 0 0 ...
##  $ 기타바이어_purexp         : num  0 0 0 0 1 0 1 0 0 0 ...
##  $ 섬유_purexp               : num  1 1 1 0 1 1 1 0 0 0 ...
##  $ 수입명품_purexp           : num  0 0 0 0 0 1 0 0 0 0 ...
##  $ 조리욕실_purexp           : num  0 0 0 0 0 0 1 0 0 0 ...
##  $ 타운모피_purexp           : num  0 0 0 0 1 0 0 0 0 0 ...
##  $ 피혁B_purexp              : num  0 1 0 1 1 0 0 1 0 0 ...
##  $ 니트단품_purord           : num  0 0 0 6 13 0 12 0 0 0 ...
##  $ nop6                      : num  6 4 14 11 114 28 41 12 4 11 ...
##  $ cmv                       : num  63550 38925 89565 242727 55486 ...
##  $ pref                      : num  1 0 1 2 0 1 0 1 0 2 ...
##  $ 가구_purpref              : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 가전_purpref              : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 기타바이어_purpref        : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 니트단품_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 도자기크리스탈_purpref    : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 디자이너부띠끄_purpref    : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 문화완구_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 생활용품_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 섬유_purpref              : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 수입명품_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 스포츠_purpref            : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 엘레강스캐주얼_purpref    : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 영캐주얼_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 유니캐주얼_purpref        : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 유아동복_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 일반식품_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 장신구_purpref            : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 정장셔츠_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 조리욕실_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 침구수예_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 캐릭터캐주얼_purpref      : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 타운모피_purpref          : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 트래디셔널캐주얼_purpref  : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 피혁A_purpref             : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 피혁B_purpref             : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(남성)_purpref      : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성정장)_purpref  : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성캐주얼)_purpref: num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 행사장(여성캐쥬)_purpref  : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 화장품_purpref            : num  0 0 0 0 0 0 0 0 0 0 ...
##  $ 유니캐주얼_purnum         : num  0 0 9 0 28 5 3 1 2 0 ...
##  $ 유아동복_purnum           : num  0 0 0 0 0 2 2 0 0 1 ...
##  $ 트래디셔널캐주얼_purnum   : num  1 0 6 0 7 2 0 0 0 0 ...
##  $ 니트단품_purexp           : num  0 0 0 1 1 0 1 0 0 0 ...
##  $ 문화완구_purexp           : num  0 0 0 0 1 0 0 0 0 0 ...
##  $ 스포츠_purexp             : num  1 0 1 0 1 0 0 0 0 0 ...
##  $ 영캐주얼_purexp           : num  0 1 1 1 1 0 0 1 0 1 ...
##  $ 유아동복_purexp           : num  0 0 0 0 0 1 1 0 0 1 ...
##  $ 일반식품_purexp           : num  1 0 0 0 1 1 1 0 0 0 ...
##  $ 정장셔츠_purexp           : num  0 0 0 0 1 0 0 0 0 1 ...
##  $ 트래디셔널캐주얼_purexp   : num  1 0 1 0 1 1 0 0 0 0 ...
##  $ 영캐주얼_purord           : num  0 3 5 2 7 0 0 2 0 2 ...
##  $ 일반식품_purord           : num  5 0 0 0 1 7 2 0 0 0 ...
##  $ 정장셔츠_purord           : num  0 0 0 0 16 0 0 0 0 1 ...

custsig = custsig.fe[c(var1_idx)]

dim(custsig)

## [1] 49971    73

custsig_backup1 = custsig

5.3. Logistic Regression 2

lm_model_2 = glm(sex ~ ., data = custsig, family = binomial("logit"))
summary(lm_model_2)

## 
## Call:
## glm(formula = sex ~ ., family = binomial("logit"), data = custsig)
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -2.3343  -1.2340   0.6925   0.8445   2.0746  
## 
## Coefficients: (30 not defined because of singularities)
##                                Estimate Std. Error z value Pr(>|z|)    
## (Intercept)                   1.484e+00  4.416e-02  33.597  < 2e-16 ***
## buy_brd                       6.645e-03  2.512e-03   2.645 0.008170 ** 
## 피혁B_puramt                 -2.851e-07  1.221e-07  -2.335 0.019547 *  
## 문화완구_purnum              -1.836e-02  6.393e-03  -2.872 0.004073 ** 
## 섬유_purnum                   2.232e-02  7.556e-03   2.953 0.003145 ** 
## 일반식품_purnum              -9.291e-03  9.647e-04  -9.630  < 2e-16 ***
## 정장셔츠_purnum              -4.680e-02  9.541e-03  -4.905 9.32e-07 ***
## 엘레강스캐주얼_purexp         6.161e-02  2.567e-02   2.400 0.016382 *  
## 장신구_purexp                 4.316e-02  2.430e-02   1.776 0.075759 .  
## 캐릭터캐주얼_purexp           9.266e-02  3.606e-02   2.570 0.010176 *  
## 가전_purord                  -8.266e-03  2.873e-03  -2.877 0.004009 ** 
## 문화완구_purord               9.863e-03  4.412e-03   2.236 0.025378 *  
## 수입명품_purord              -1.185e-02  4.338e-03  -2.731 0.006311 ** 
## 캐릭터캐주얼_purord          -9.324e-03  3.983e-03  -2.341 0.019244 *  
## API                          -7.851e-04  1.848e-04  -4.248 2.16e-05 ***
## 스포츠_purnum                -2.664e-02  3.754e-03  -7.098 1.26e-12 ***
## 영캐주얼_purnum              -1.140e-02  4.708e-03  -2.421 0.015493 *  
## 캐릭터캐주얼_purnum          -1.214e-02  5.192e-03  -2.337 0.019428 *  
## 피혁B_purnum                  5.949e-02  1.663e-02   3.578 0.000346 ***
## 기타바이어_purexp             1.311e-01  3.047e-02   4.302 1.69e-05 ***
## 섬유_purexp                   1.244e-01  2.708e-02   4.594 4.35e-06 ***
## 수입명품_purexp              -1.477e-01  3.874e-02  -3.813 0.000137 ***
## 조리욕실_purexp              -1.142e-01  2.591e-02  -4.406 1.05e-05 ***
## 타운모피_purexp               9.115e-02  3.998e-02   2.280 0.022628 *  
## 피혁B_purexp                  9.079e-02  3.099e-02   2.929 0.003398 ** 
## 니트단품_purord              -1.241e-02  3.834e-03  -3.237 0.001209 ** 
## nop6                          8.730e-03  1.254e-03   6.961 3.37e-12 ***
## cmv                          -6.682e-07  1.343e-07  -4.975 6.52e-07 ***
## pref                         -1.567e-01  2.022e-02  -7.751 9.12e-15 ***
## 가구_purpref                         NA         NA      NA       NA    
## 가전_purpref                         NA         NA      NA       NA    
## 기타바이어_purpref                   NA         NA      NA       NA    
## 니트단품_purpref                     NA         NA      NA       NA    
## 도자기크리스탈_purpref               NA         NA      NA       NA    
## 디자이너부띠끄_purpref               NA         NA      NA       NA    
## 문화완구_purpref                     NA         NA      NA       NA    
## 생활용품_purpref                     NA         NA      NA       NA    
## 섬유_purpref                         NA         NA      NA       NA    
## 수입명품_purpref                     NA         NA      NA       NA    
## 스포츠_purpref                       NA         NA      NA       NA    
## 엘레강스캐주얼_purpref               NA         NA      NA       NA    
## 영캐주얼_purpref                     NA         NA      NA       NA    
## 유니캐주얼_purpref                   NA         NA      NA       NA    
## 유아동복_purpref                     NA         NA      NA       NA    
## 일반식품_purpref                     NA         NA      NA       NA    
## 장신구_purpref                       NA         NA      NA       NA    
## 정장셔츠_purpref                     NA         NA      NA       NA    
## 조리욕실_purpref                     NA         NA      NA       NA    
## 침구수예_purpref                     NA         NA      NA       NA    
## 캐릭터캐주얼_purpref                 NA         NA      NA       NA    
## 타운모피_purpref                     NA         NA      NA       NA    
## 트래디셔널캐주얼_purpref             NA         NA      NA       NA    
## 피혁A_purpref                        NA         NA      NA       NA    
## 피혁B_purpref                        NA         NA      NA       NA    
## `행사장(남성)_purpref`               NA         NA      NA       NA    
## `행사장(여성정장)_purpref`           NA         NA      NA       NA    
## `행사장(여성캐주얼)_purpref`         NA         NA      NA       NA    
## `행사장(여성캐쥬)_purpref`           NA         NA      NA       NA    
## 화장품_purpref                       NA         NA      NA       NA    
## 유니캐주얼_purnum            -1.625e-02  3.637e-03  -4.469 7.87e-06 ***
## 유아동복_purnum              -2.158e-02  2.799e-03  -7.709 1.27e-14 ***
## 트래디셔널캐주얼_purnum      -4.826e-02  7.190e-03  -6.712 1.92e-11 ***
## 니트단품_purexp               1.754e-01  3.032e-02   5.787 7.15e-09 ***
## 문화완구_purexp              -2.726e-01  4.138e-02  -6.587 4.48e-11 ***
## 스포츠_purexp                -2.286e-01  2.526e-02  -9.049  < 2e-16 ***
## 영캐주얼_purexp               3.911e-01  3.473e-02  11.264  < 2e-16 ***
## 유아동복_purexp              -1.369e-01  2.528e-02  -5.418 6.04e-08 ***
## 일반식품_purexp              -2.179e-01  3.173e-02  -6.868 6.51e-12 ***
## 정장셔츠_purexp              -5.495e-01  4.242e-02 -12.955  < 2e-16 ***
## 트래디셔널캐주얼_purexp      -2.525e-01  2.789e-02  -9.054  < 2e-16 ***
## 영캐주얼_purord              -2.240e-02  3.965e-03  -5.649 1.61e-08 ***
## 일반식품_purord               1.766e-02  4.195e-03   4.210 2.56e-05 ***
## 정장셔츠_purord               2.553e-02  4.337e-03   5.887 3.94e-09 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 61337  on 49970  degrees of freedom
## Residual deviance: 58035  on 49928  degrees of freedom
## AIC: 58121
## 
## Number of Fisher Scoring iterations: 4

var2 <- list('sex', '피혁B_puramt', '엘레강스캐주얼_purexp', '캐릭터캐주얼_purexp', '문화완구_purord',
             '캐릭터캐주얼_purord', '영캐주얼_purnum', '캐릭터캐주얼_purnum','타운모피_purexp',
             
             '문화완구_purnum', '섬유_purnum', '가전_purord', '수입명품_purord', '피혁B_purexp', '니트단품_purord',
             
             'buy_brd', '일반식품_purnum', '정장셔츠_purnum', 'API', '스포츠_purnum', '피혁B_purnum', '기타바이어_purexp',
             # '섬유_purexp', '수입명품_purexp', '조리욕실_purexp', 'nop6', 'cmv', 'pref', '유니캐주얼_purnum',
             '섬유_purexp', '수입명품_purexp', '조리욕실_purexp', 'nop6', 'cmv', '유니캐주얼_purnum',
             '유아동복_purnum', '트래디셔널캐주얼_purnum', '니트단품_purexp', '문화완구_purexp', '스포츠_purexp',
             '영캐주얼_purexp', '유아동복_purexp', '일반식품_purexp', '정장셔츠_purexp', '트래디셔널캐주얼_purexp',
             '영캐주얼_purord', '일반식품_purord', '정장셔츠_purord')

var2

## [[1]]
## [1] "sex"
## 
## [[2]]
## [1] "피혁B_puramt"
## 
## [[3]]
## [1] "엘레강스캐주얼_purexp"
## 
## [[4]]
## [1] "캐릭터캐주얼_purexp"
## 
## [[5]]
## [1] "문화완구_purord"
## 
## [[6]]
## [1] "캐릭터캐주얼_purord"
## 
## [[7]]
## [1] "영캐주얼_purnum"
## 
## [[8]]
## [1] "캐릭터캐주얼_purnum"
## 
## [[9]]
## [1] "타운모피_purexp"
## 
## [[10]]
## [1] "문화완구_purnum"
## 
## [[11]]
## [1] "섬유_purnum"
## 
## [[12]]
## [1] "가전_purord"
## 
## [[13]]
## [1] "수입명품_purord"
## 
## [[14]]
## [1] "피혁B_purexp"
## 
## [[15]]
## [1] "니트단품_purord"
## 
## [[16]]
## [1] "buy_brd"
## 
## [[17]]
## [1] "일반식품_purnum"
## 
## [[18]]
## [1] "정장셔츠_purnum"
## 
## [[19]]
## [1] "API"
## 
## [[20]]
## [1] "스포츠_purnum"
## 
## [[21]]
## [1] "피혁B_purnum"
## 
## [[22]]
## [1] "기타바이어_purexp"
## 
## [[23]]
## [1] "섬유_purexp"
## 
## [[24]]
## [1] "수입명품_purexp"
## 
## [[25]]
## [1] "조리욕실_purexp"
## 
## [[26]]
## [1] "nop6"
## 
## [[27]]
## [1] "cmv"
## 
## [[28]]
## [1] "유니캐주얼_purnum"
## 
## [[29]]
## [1] "유아동복_purnum"
## 
## [[30]]
## [1] "트래디셔널캐주얼_purnum"
## 
## [[31]]
## [1] "니트단품_purexp"
## 
## [[32]]
## [1] "문화완구_purexp"
## 
## [[33]]
## [1] "스포츠_purexp"
## 
## [[34]]
## [1] "영캐주얼_purexp"
## 
## [[35]]
## [1] "유아동복_purexp"
## 
## [[36]]
## [1] "일반식품_purexp"
## 
## [[37]]
## [1] "정장셔츠_purexp"
## 
## [[38]]
## [1] "트래디셔널캐주얼_purexp"
## 
## [[39]]
## [1] "영캐주얼_purord"
## 
## [[40]]
## [1] "일반식품_purord"
## 
## [[41]]
## [1] "정장셔츠_purord"

var2_idx <- c()

for (i in var2){
  gg <- grep(i, colnames(custsig))
  var2_idx <- c(var2_idx, gg)
}

str(var2_idx)

##  int [1:41] 1 3 8 10 12 14 17 18 24 4 ...

var2_idx

##  [1]  1  3  8 10 12 14 17 18 24  4  5 11 13 25 26  2  6  7 15 16 19 20 21
## [24] 22 23 27 28 60 61 62 63 64 65 66 67 68 69 70 71 72 73

custsig.fe = custsig
str(custsig.fe[c(var2_idx)])

## 'data.frame':    49971 obs. of  41 variables:
##  $ sex                    : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 피혁B_puramt           : num  0 83700 0 250400 1421730 ...
##  $ 엘레강스캐주얼_purexp  : num  0 0 0 1 0 0 0 0 0 0 ...
##  $ 캐릭터캐주얼_purexp    : num  0 0 0 0 1 0 0 0 0 1 ...
##  $ 문화완구_purord        : num  0 0 0 0 11 0 0 0 0 0 ...
##  $ 캐릭터캐주얼_purord    : num  0 0 0 0 10 0 0 0 0 4 ...
##  $ 영캐주얼_purnum        : num  0 1 1 2 6 0 0 4 0 2 ...
##  $ 캐릭터캐주얼_purnum    : num  0 0 0 0 7 0 0 0 0 2 ...
##  $ 타운모피_purexp        : num  0 0 0 0 1 0 0 0 0 0 ...
##  $ 문화완구_purnum        : num  0 0 0 0 3 0 0 0 0 0 ...
##  $ 섬유_purnum            : num  1 1 1 0 16 2 1 0 0 0 ...
##  $ 가전_purord            : num  0 0 0 5 0 0 8 0 0 0 ...
##  $ 수입명품_purord        : num  0 0 0 0 0 8 0 0 0 0 ...
##  $ 피혁B_purexp           : num  0 1 0 1 1 0 0 1 0 0 ...
##  $ 니트단품_purord        : num  0 0 0 6 13 0 12 0 0 0 ...
##  $ buy_brd                : int  6 4 14 10 67 13 16 8 3 8 ...
##  $ 일반식품_purnum        : num  1 0 0 0 78 2 20 0 0 0 ...
##  $ 정장셔츠_purnum        : num  0 0 0 0 3 0 0 0 0 1 ...
##  $ API                    : num  90.75 121 24.2 51.86 3.18 ...
##  $ 스포츠_purnum          : num  2 0 4 0 5 0 0 1 0 0 ...
##  $ 피혁B_purnum           : num  0 1 0 1 11 0 0 1 0 0 ...
##  $ 기타바이어_purexp      : num  0 0 0 0 1 0 1 0 0 0 ...
##  $ 섬유_purexp            : num  1 1 1 0 1 1 1 0 0 0 ...
##  $ 수입명품_purexp        : num  0 0 0 0 0 1 0 0 0 0 ...
##  $ 조리욕실_purexp        : num  0 0 0 0 0 0 1 0 0 0 ...
##  $ nop6                   : num  6 4 14 11 114 28 41 12 4 11 ...
##  $ cmv                    : num  63550 38925 89565 242727 55486 ...
##  $ 유니캐주얼_purnum      : num  0 0 9 0 28 5 3 1 2 0 ...
##  $ 유아동복_purnum        : num  0 0 0 0 0 2 2 0 0 1 ...
##  $ 트래디셔널캐주얼_purnum: num  1 0 6 0 7 2 0 0 0 0 ...
##  $ 니트단품_purexp        : num  0 0 0 1 1 0 1 0 0 0 ...
##  $ 문화완구_purexp        : num  0 0 0 0 1 0 0 0 0 0 ...
##  $ 스포츠_purexp          : num  1 0 1 0 1 0 0 0 0 0 ...
##  $ 영캐주얼_purexp        : num  0 1 1 1 1 0 0 1 0 1 ...
##  $ 유아동복_purexp        : num  0 0 0 0 0 1 1 0 0 1 ...
##  $ 일반식품_purexp        : num  1 0 0 0 1 1 1 0 0 0 ...
##  $ 정장셔츠_purexp        : num  0 0 0 0 1 0 0 0 0 1 ...
##  $ 트래디셔널캐주얼_purexp: num  1 0 1 0 1 1 0 0 0 0 ...
##  $ 영캐주얼_purord        : num  0 3 5 2 7 0 0 2 0 2 ...
##  $ 일반식품_purord        : num  5 0 0 0 1 7 2 0 0 0 ...
##  $ 정장셔츠_purord        : num  0 0 0 0 16 0 0 0 0 1 ...

custsig = custsig.fe[c(var2_idx)]

dim(custsig)

## [1] 49971    41

custsig_backup2 = custsig

5.4. Logistic Regression 3

lm_model_3 = glm(sex ~ ., data = custsig, family = binomial("logit"))
summary(lm_model_3)

## 
## Call:
## glm(formula = sex ~ ., family = binomial("logit"), data = custsig)
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -2.3453  -1.2367   0.6975   0.8397   2.0770  
## 
## Coefficients:
##                           Estimate Std. Error z value Pr(>|z|)    
## (Intercept)              1.388e+00  4.185e-02  33.159  < 2e-16 ***
## 피혁B_puramt            -3.563e-07  1.221e-07  -2.919  0.00351 ** 
## 엘레강스캐주얼_purexp    4.790e-02  2.561e-02   1.870  0.06146 .  
## 캐릭터캐주얼_purexp      6.893e-02  3.593e-02   1.919  0.05504 .  
## 문화완구_purord          9.563e-03  4.405e-03   2.171  0.02994 *  
## 캐릭터캐주얼_purord     -8.186e-03  3.980e-03  -2.057  0.03969 *  
## 영캐주얼_purnum         -1.189e-02  4.706e-03  -2.526  0.01154 *  
## 캐릭터캐주얼_purnum     -1.307e-02  5.190e-03  -2.519  0.01176 *  
## 타운모피_purexp          7.783e-02  3.996e-02   1.948  0.05146 .  
## 문화완구_purnum         -1.875e-02  6.379e-03  -2.938  0.00330 ** 
## 섬유_purnum              2.389e-02  7.561e-03   3.160  0.00158 ** 
## 가전_purord             -9.208e-03  2.868e-03  -3.211  0.00132 ** 
## 수입명품_purord         -1.134e-02  4.338e-03  -2.615  0.00893 ** 
## 피혁B_purexp             9.075e-02  3.098e-02   2.930  0.00339 ** 
## 니트단품_purord         -1.241e-02  3.827e-03  -3.244  0.00118 ** 
## buy_brd                  7.224e-03  2.458e-03   2.939  0.00329 ** 
## 일반식품_purnum         -8.357e-03  9.551e-04  -8.750  < 2e-16 ***
## 정장셔츠_purnum         -4.958e-02  9.532e-03  -5.202 1.97e-07 ***
## API                     -7.472e-04  1.839e-04  -4.064 4.83e-05 ***
## 스포츠_purnum           -2.819e-02  3.733e-03  -7.553 4.26e-14 ***
## 피혁B_purnum             6.585e-02  1.662e-02   3.961 7.45e-05 ***
## 기타바이어_purexp        1.333e-01  3.040e-02   4.383 1.17e-05 ***
## 섬유_purexp              1.278e-01  2.707e-02   4.722 2.33e-06 ***
## 수입명품_purexp         -1.768e-01  3.861e-02  -4.578 4.69e-06 ***
## 조리욕실_purexp         -1.149e-01  2.587e-02  -4.441 8.94e-06 ***
## nop6                     8.376e-03  1.252e-03   6.691 2.22e-11 ***
## cmv                     -1.253e-06  1.145e-07 -10.949  < 2e-16 ***
## 유니캐주얼_purnum       -1.493e-02  3.625e-03  -4.119 3.81e-05 ***
## 유아동복_purnum         -2.110e-02  2.782e-03  -7.584 3.35e-14 ***
## 트래디셔널캐주얼_purnum -4.881e-02  7.183e-03  -6.795 1.08e-11 ***
## 니트단품_purexp          1.766e-01  3.026e-02   5.836 5.33e-09 ***
## 문화완구_purexp         -2.627e-01  4.130e-02  -6.360 2.01e-10 ***
## 스포츠_purexp           -2.345e-01  2.524e-02  -9.288  < 2e-16 ***
## 영캐주얼_purexp          3.871e-01  3.471e-02  11.154  < 2e-16 ***
## 유아동복_purexp         -1.322e-01  2.524e-02  -5.237 1.63e-07 ***
## 일반식품_purexp         -1.972e-01  3.156e-02  -6.248 4.15e-10 ***
## 정장셔츠_purexp         -5.618e-01  4.238e-02 -13.256  < 2e-16 ***
## 트래디셔널캐주얼_purexp -2.579e-01  2.786e-02  -9.257  < 2e-16 ***
## 영캐주얼_purord         -2.206e-02  3.961e-03  -5.569 2.56e-08 ***
## 일반식품_purord          1.660e-02  4.186e-03   3.965 7.35e-05 ***
## 정장셔츠_purord          2.580e-02  4.334e-03   5.953 2.63e-09 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 61337  on 49970  degrees of freedom
## Residual deviance: 58098  on 49930  degrees of freedom
## AIC: 58180
## 
## Number of Fisher Scoring iterations: 4

var3 <- list('sex', '피혁B_puramt', '문화완구_purord',
             '캐릭터캐주얼_purord', '영캐주얼_purnum', '캐릭터캐주얼_purnum',
             
             '문화완구_purnum', '섬유_purnum', '가전_purord', '수입명품_purord', '피혁B_purexp', '니트단품_purord',
             
             'buy_brd', '일반식품_purnum', '정장셔츠_purnum', 'API', '스포츠_purnum', '피혁B_purnum', '기타바이어_purexp',
             '섬유_purexp', '수입명품_purexp', '조리욕실_purexp', 'nop6', 'cmv', '유니캐주얼_purnum',
             '유아동복_purnum', '트래디셔널캐주얼_purnum', '니트단품_purexp', '문화완구_purexp', '스포츠_purexp',
             '영캐주얼_purexp', '유아동복_purexp', '일반식품_purexp', '정장셔츠_purexp', '트래디셔널캐주얼_purexp',
             '영캐주얼_purord', '일반식품_purord', '정장셔츠_purord')

var3

## [[1]]
## [1] "sex"
## 
## [[2]]
## [1] "피혁B_puramt"
## 
## [[3]]
## [1] "문화완구_purord"
## 
## [[4]]
## [1] "캐릭터캐주얼_purord"
## 
## [[5]]
## [1] "영캐주얼_purnum"
## 
## [[6]]
## [1] "캐릭터캐주얼_purnum"
## 
## [[7]]
## [1] "문화완구_purnum"
## 
## [[8]]
## [1] "섬유_purnum"
## 
## [[9]]
## [1] "가전_purord"
## 
## [[10]]
## [1] "수입명품_purord"
## 
## [[11]]
## [1] "피혁B_purexp"
## 
## [[12]]
## [1] "니트단품_purord"
## 
## [[13]]
## [1] "buy_brd"
## 
## [[14]]
## [1] "일반식품_purnum"
## 
## [[15]]
## [1] "정장셔츠_purnum"
## 
## [[16]]
## [1] "API"
## 
## [[17]]
## [1] "스포츠_purnum"
## 
## [[18]]
## [1] "피혁B_purnum"
## 
## [[19]]
## [1] "기타바이어_purexp"
## 
## [[20]]
## [1] "섬유_purexp"
## 
## [[21]]
## [1] "수입명품_purexp"
## 
## [[22]]
## [1] "조리욕실_purexp"
## 
## [[23]]
## [1] "nop6"
## 
## [[24]]
## [1] "cmv"
## 
## [[25]]
## [1] "유니캐주얼_purnum"
## 
## [[26]]
## [1] "유아동복_purnum"
## 
## [[27]]
## [1] "트래디셔널캐주얼_purnum"
## 
## [[28]]
## [1] "니트단품_purexp"
## 
## [[29]]
## [1] "문화완구_purexp"
## 
## [[30]]
## [1] "스포츠_purexp"
## 
## [[31]]
## [1] "영캐주얼_purexp"
## 
## [[32]]
## [1] "유아동복_purexp"
## 
## [[33]]
## [1] "일반식품_purexp"
## 
## [[34]]
## [1] "정장셔츠_purexp"
## 
## [[35]]
## [1] "트래디셔널캐주얼_purexp"
## 
## [[36]]
## [1] "영캐주얼_purord"
## 
## [[37]]
## [1] "일반식품_purord"
## 
## [[38]]
## [1] "정장셔츠_purord"

var3_idx <- c()

for (i in var3){
  gg <- grep(i, colnames(custsig))
  var3_idx <- c(var3_idx, gg)
}

str(var3_idx)

##  int [1:38] 1 2 5 6 7 8 10 11 12 13 ...

var3_idx

##  [1]  1  2  5  6  7  8 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26
## [24] 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41

custsig.fe = custsig
str(custsig.fe[c(var3_idx)])

## 'data.frame':    49971 obs. of  38 variables:
##  $ sex                    : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 피혁B_puramt           : num  0 83700 0 250400 1421730 ...
##  $ 문화완구_purord        : num  0 0 0 0 11 0 0 0 0 0 ...
##  $ 캐릭터캐주얼_purord    : num  0 0 0 0 10 0 0 0 0 4 ...
##  $ 영캐주얼_purnum        : num  0 1 1 2 6 0 0 4 0 2 ...
##  $ 캐릭터캐주얼_purnum    : num  0 0 0 0 7 0 0 0 0 2 ...
##  $ 문화완구_purnum        : num  0 0 0 0 3 0 0 0 0 0 ...
##  $ 섬유_purnum            : num  1 1 1 0 16 2 1 0 0 0 ...
##  $ 가전_purord            : num  0 0 0 5 0 0 8 0 0 0 ...
##  $ 수입명품_purord        : num  0 0 0 0 0 8 0 0 0 0 ...
##  $ 피혁B_purexp           : num  0 1 0 1 1 0 0 1 0 0 ...
##  $ 니트단품_purord        : num  0 0 0 6 13 0 12 0 0 0 ...
##  $ buy_brd                : int  6 4 14 10 67 13 16 8 3 8 ...
##  $ 일반식품_purnum        : num  1 0 0 0 78 2 20 0 0 0 ...
##  $ 정장셔츠_purnum        : num  0 0 0 0 3 0 0 0 0 1 ...
##  $ API                    : num  90.75 121 24.2 51.86 3.18 ...
##  $ 스포츠_purnum          : num  2 0 4 0 5 0 0 1 0 0 ...
##  $ 피혁B_purnum           : num  0 1 0 1 11 0 0 1 0 0 ...
##  $ 기타바이어_purexp      : num  0 0 0 0 1 0 1 0 0 0 ...
##  $ 섬유_purexp            : num  1 1 1 0 1 1 1 0 0 0 ...
##  $ 수입명품_purexp        : num  0 0 0 0 0 1 0 0 0 0 ...
##  $ 조리욕실_purexp        : num  0 0 0 0 0 0 1 0 0 0 ...
##  $ nop6                   : num  6 4 14 11 114 28 41 12 4 11 ...
##  $ cmv                    : num  63550 38925 89565 242727 55486 ...
##  $ 유니캐주얼_purnum      : num  0 0 9 0 28 5 3 1 2 0 ...
##  $ 유아동복_purnum        : num  0 0 0 0 0 2 2 0 0 1 ...
##  $ 트래디셔널캐주얼_purnum: num  1 0 6 0 7 2 0 0 0 0 ...
##  $ 니트단품_purexp        : num  0 0 0 1 1 0 1 0 0 0 ...
##  $ 문화완구_purexp        : num  0 0 0 0 1 0 0 0 0 0 ...
##  $ 스포츠_purexp          : num  1 0 1 0 1 0 0 0 0 0 ...
##  $ 영캐주얼_purexp        : num  0 1 1 1 1 0 0 1 0 1 ...
##  $ 유아동복_purexp        : num  0 0 0 0 0 1 1 0 0 1 ...
##  $ 일반식품_purexp        : num  1 0 0 0 1 1 1 0 0 0 ...
##  $ 정장셔츠_purexp        : num  0 0 0 0 1 0 0 0 0 1 ...
##  $ 트래디셔널캐주얼_purexp: num  1 0 1 0 1 1 0 0 0 0 ...
##  $ 영캐주얼_purord        : num  0 3 5 2 7 0 0 2 0 2 ...
##  $ 일반식품_purord        : num  5 0 0 0 1 7 2 0 0 0 ...
##  $ 정장셔츠_purord        : num  0 0 0 0 16 0 0 0 0 1 ...

custsig = custsig.fe[c(var3_idx)]


dim(custsig)

## [1] 49971    38

custsig_backup3 = custsig

5.5. Decision Tree : C5.0

c5_options <- C5.0Control(winnow = FALSE, noGlobalPruning = FALSE)
c5_model <- C5.0(as.factor(sex) ~ ., data=custsig_backup1, control=c5_options, rules=FALSE)

summary(c5_model)

## 
## Call:
## C5.0.formula(formula = as.factor(sex) ~ ., data = custsig_backup1,
##  control = c5_options, rules = FALSE)
## 
## 
## C5.0 [Release 2.07 GPL Edition]      Sun Dec  9 13:53:44 2018
## -------------------------------
## 
## Class specified by attribute `outcome'
## 
## Read 49971 cases (73 attributes) from undefined.data
## 
## Decision tree:
## 
## 정장셔츠_purexp <= 0:
## :...유아동복_purnum > 2:
## :   :...유아동복_purnum <= 8: 1 (3833/1286)
## :   :   유아동복_purnum > 8:
## :   :   :...문화완구_purnum <= 11: 1 (1569/649)
## :   :       문화완구_purnum > 11: 0 (140/57)
## :   유아동복_purnum <= 2:
## :   :...트래디셔널캐주얼_purnum > 3:
## :       :...니트단품_purord <= 12: 1 (1030/382)
## :       :   니트단품_purord > 12: 0 (66/25)
## :       트래디셔널캐주얼_purnum <= 3:
## :       :...buy_brd <= 56:
## :           :...문화완구_purnum <= 3: 1 (28550/6670)
## :           :   문화완구_purnum > 3:
## :           :   :...스포츠_purnum <= 6: 1 (320/107)
## :           :       스포츠_purnum > 6: 0 (22/4)
## :           buy_brd > 56:
## :           :...일반식품_purnum > 49: 0 (15/2)
## :               일반식품_purnum <= 49:
## :               :...유니캐주얼_purnum <= 17: 1 (32/5)
## :                   유니캐주얼_purnum > 17: 0 (11/2)
## 정장셔츠_purexp > 0:
## :...수입명품_purexp <= 0:
##     :...정장셔츠_purnum > 1:
##     :   :...스포츠_purnum > 5:
##     :   :   :...기타바이어_purexp <= 0: 0 (610/274)
##     :   :   :   기타바이어_purexp > 0: 1 (372/146)
##     :   :   스포츠_purnum <= 5:
##     :   :   :...정장셔츠_purord > 9: 1 (642/200)
##     :   :       정장셔츠_purord <= 9:
##     :   :       :...장신구_purexp <= 0:
##     :   :           :...영캐주얼_purexp <= 0:
##     :   :           :   :...pref <= 1: 1 (818/360)
##     :   :           :   :   pref > 1: 0 (487/233)
##     :   :           :   영캐주얼_purexp > 0:
##     :   :           :   :...API <= 5.950819: 0 (30/8)
##     :   :           :       API > 5.950819: 1 (794/304)
##     :   :           장신구_purexp > 0:
##     :   :           :...정장셔츠_purnum <= 5: 1 (936/324)
##     :   :               정장셔츠_purnum > 5:
##     :   :               :...정장셔츠_purord <= 4: 1 (53/19)
##     :   :                   정장셔츠_purord > 4: 0 (34/8)
##     :   정장셔츠_purnum <= 1:
##     :   :...pref <= 1: 1 (3479/1116)
##     :       pref > 1:
##     :       :...영캐주얼_purexp > 0: 1 (546/192)
##     :           영캐주얼_purexp <= 0:
##     :           :...니트단품_purexp > 0: 1 (301/113)
##     :               니트단품_purexp <= 0:
##     :               :...피혁B_purnum > 1: 1 (52/16)
##     :                   피혁B_purnum <= 1:
##     :                   :...섬유_purexp <= 0: 1 (275/131)
##     :                       섬유_purexp > 0:
##     :                       :...유니캐주얼_purnum <= 2: 0 (108/37)
##     :                           유니캐주얼_purnum > 2: 1 (14/3)
##     수입명품_purexp > 0:
##     :...유아동복_purnum > 11: 0 (548/234)
##         유아동복_purnum <= 11:
##         :...유니캐주얼_purnum > 7: 0 (486/218)
##             유니캐주얼_purnum <= 7:
##             :...문화완구_purnum > 12: 0 (25/5)
##                 문화완구_purnum <= 12:
##                 :...섬유_purnum > 3: 1 (940/359)
##                     섬유_purnum <= 3:
##                     :...정장셔츠_purnum > 5: 0 (189/74)
##                         정장셔츠_purnum <= 5:
##                         :...피혁B_purnum > 1: 1 (413/149)
##                             피혁B_purnum <= 1:
##                             :...스포츠_purexp <= 0:
##                                 :...문화완구_purnum <= 2: 1 (595/236)
##                                 :   문화완구_purnum > 2: 0 (47/18)
##                                 스포츠_purexp > 0:
##                                 :...니트단품_purord <= 8: 1 (1222/566)
##                                     니트단품_purord > 8:
##                                     :...기타바이어_purexp <= 0: 0 (299/119)
##                                         기타바이어_purexp > 0: 1 (68/30)
## 
## 
## Evaluation on training data (49971 cases):
## 
##      Decision Tree   
##    ----------------  
##    Size      Errors  
## 
##      39 14681(29.4%)   <<
## 
## 
##     (a)   (b)    <-classified as
##    ----  ----
##    1799 13363    (a): class 0
##    1318 33491    (b): class 1
## 
## 
##  Attribute usage:
## 
##  100.00% 정장셔츠_purexp
##   80.89% 유아동복_purnum
##   68.84% 문화완구_purnum
##   60.13% 트래디셔널캐주얼_purnum
##   57.93% buy_brd
##   28.78% 수입명품_purexp
##   24.78% 정장셔츠_purnum
##   12.17% pref
##   10.24% 스포츠_purnum
##    8.90% 유니캐주얼_purnum
##    7.59% 정장셔츠_purord
##    7.55% 섬유_purnum
##    6.85% 영캐주얼_purexp
##    6.31% 장신구_purexp
##    6.19% 피혁B_purnum
##    5.37% 니트단품_purord
##    4.46% 스포츠_purexp
##    2.70% 기타바이어_purexp
##    1.65% API
##    1.50% 니트단품_purexp
##    0.79% 섬유_purexp
##    0.12% 일반식품_purnum
## 
## 
## Time: 3.5 secs

var_dt <- list('sex', '정장셔츠_purexp','유아동복_purnum','문화완구_purnum','트래디셔널캐주얼_purnum',
               # 'buy_brd','수입명품_purexp','정장셔츠_purnum','pref','스포츠_purnum','유니캐주얼_purnum',
               'buy_brd','수입명품_purexp','정장셔츠_purnum','스포츠_purnum','유니캐주얼_purnum',
               '정장셔츠_purord','섬유_purnum','영캐주얼_purexp','장신구_purexp','피혁B_purnum','니트단품_purord',
               '스포츠_purexp','기타바이어_purexp','API','니트단품_purexp','섬유_purexp','일반식품_purnum')

var_dt

## [[1]]
## [1] "sex"
## 
## [[2]]
## [1] "정장셔츠_purexp"
## 
## [[3]]
## [1] "유아동복_purnum"
## 
## [[4]]
## [1] "문화완구_purnum"
## 
## [[5]]
## [1] "트래디셔널캐주얼_purnum"
## 
## [[6]]
## [1] "buy_brd"
## 
## [[7]]
## [1] "수입명품_purexp"
## 
## [[8]]
## [1] "정장셔츠_purnum"
## 
## [[9]]
## [1] "스포츠_purnum"
## 
## [[10]]
## [1] "유니캐주얼_purnum"
## 
## [[11]]
## [1] "정장셔츠_purord"
## 
## [[12]]
## [1] "섬유_purnum"
## 
## [[13]]
## [1] "영캐주얼_purexp"
## 
## [[14]]
## [1] "장신구_purexp"
## 
## [[15]]
## [1] "피혁B_purnum"
## 
## [[16]]
## [1] "니트단품_purord"
## 
## [[17]]
## [1] "스포츠_purexp"
## 
## [[18]]
## [1] "기타바이어_purexp"
## 
## [[19]]
## [1] "API"
## 
## [[20]]
## [1] "니트단품_purexp"
## 
## [[21]]
## [1] "섬유_purexp"
## 
## [[22]]
## [1] "일반식품_purnum"

var_idx_dt <- c()

for (i in var_dt){
  gg <- grep(i, colnames(custsig_backup1))
  var_idx_dt <- c(var_idx_dt, gg)
}

str(var_idx_dt)

##  int [1:22] 1 69 61 4 62 2 22 7 16 60 ...

var_idx_dt

##  [1]  1 69 61  4 62  2 22  7 16 60 73  5 66  9 19 26 65 20 15 63 21  6

# colnames(custsig)
custsig.fe = custsig_backup1
str(custsig.fe[c(var_idx_dt)])

## 'data.frame':    49971 obs. of  22 variables:
##  $ sex                    : num  1 1 1 1 1 1 1 1 1 1 ...
##  $ 정장셔츠_purexp        : num  0 0 0 0 1 0 0 0 0 1 ...
##  $ 유아동복_purnum        : num  0 0 0 0 0 2 2 0 0 1 ...
##  $ 문화완구_purnum        : num  0 0 0 0 3 0 0 0 0 0 ...
##  $ 트래디셔널캐주얼_purnum: num  1 0 6 0 7 2 0 0 0 0 ...
##  $ buy_brd                : int  6 4 14 10 67 13 16 8 3 8 ...
##  $ 수입명품_purexp        : num  0 0 0 0 0 1 0 0 0 0 ...
##  $ 정장셔츠_purnum        : num  0 0 0 0 3 0 0 0 0 1 ...
##  $ 스포츠_purnum          : num  2 0 4 0 5 0 0 1 0 0 ...
##  $ 유니캐주얼_purnum      : num  0 0 9 0 28 5 3 1 2 0 ...
##  $ 정장셔츠_purord        : num  0 0 0 0 16 0 0 0 0 1 ...
##  $ 섬유_purnum            : num  1 1 1 0 16 2 1 0 0 0 ...
##  $ 영캐주얼_purexp        : num  0 1 1 1 1 0 0 1 0 1 ...
##  $ 장신구_purexp          : num  0 0 0 1 1 0 0 1 0 0 ...
##  $ 피혁B_purnum           : num  0 1 0 1 11 0 0 1 0 0 ...
##  $ 니트단품_purord        : num  0 0 0 6 13 0 12 0 0 0 ...
##  $ 스포츠_purexp          : num  1 0 1 0 1 0 0 0 0 0 ...
##  $ 기타바이어_purexp      : num  0 0 0 0 1 0 1 0 0 0 ...
##  $ API                    : num  90.75 121 24.2 51.86 3.18 ...
##  $ 니트단품_purexp        : num  0 0 0 1 1 0 1 0 0 0 ...
##  $ 섬유_purexp            : num  1 1 1 0 1 1 1 0 0 0 ...
##  $ 일반식품_purnum        : num  1 0 0 0 78 2 20 0 0 0 ...

custsig = custsig.fe[c(var_idx_dt)]


dim(custsig)

## [1] 49971    22

custsig_backup4 = custsig

plot(c5_model)

5.6. C5.0

# c5_options <- C5.0Control(winnow = FALSE, noGlobalPruning = FALSE)
# c5_model <- C5.0(sex ~ ., data=custsig.train, control=c5_options, rules=FALSE)
# summary(c5_model)
# plot(c5_model)
# custsig.test$c5_pred <- predict(c5_model, custsig.test, type="class")
# custsig.test$c5_pred_prob <- predict(c5_model, custsig.test, type="prob")

fitControl <- trainControl(## ?-fold CV
  method = "repeatedcv",
  number = 3,
  ## repeated five times
  repeats = 1)

model_c5 <- caret::train(sex ~ ., 
                         data = custsig.train, 
                         method = "C5.0", 
                         trControl = fitControl)

custsig.test$c5_pred_train <- predict(model_c5, custsig.test, type="raw")
custsig.test$c5_pred_prob_train <- predict(model_c5, custsig.test, type="prob")

#confusionMatrix(custsig.test$c5_pred, custsig.test$sex)
confusionMatrix(custsig.test$c5_pred_train, custsig.test$sex)

## Confusion Matrix and Statistics
## 
##           Reference
## Prediction    0    1
##          0    0    0
##          1 3032 6961
##                                           
##                Accuracy : 0.6966          
##                  95% CI : (0.6875, 0.7056)
##     No Information Rate : 0.6966          
##     P-Value [Acc > NIR] : 0.5049          
##                                           
##                   Kappa : 0               
##  Mcnemar's Test P-Value : <2e-16          
##                                           
##             Sensitivity : 0.0000          
##             Specificity : 1.0000          
##          Pos Pred Value :    NaN          
##          Neg Pred Value : 0.6966          
##              Prevalence : 0.3034          
##          Detection Rate : 0.0000          
##    Detection Prevalence : 0.0000          
##       Balanced Accuracy : 0.5000          
##                                           
##        'Positive' Class : 0               
## 

5.7. k-Nearest Neighbors

model_kknn <- caret::train(sex  ~ .,
                           data = custsig.train,
                           method = "kknn",
                           preProcess = NULL,
                           trControl = fitControl)
model_kknn

## k-Nearest Neighbors 
## 
## 31983 samples
##    18 predictor
##     2 classes: '0', '1' 
## 
## No pre-processing
## Resampling: Cross-Validated (3 fold, repeated 1 times) 
## Summary of sample sizes: 21322, 21322, 21322 
## Resampling results across tuning parameters:
## 
##   kmax  Accuracy   Kappa     
##   5     0.6464372  0.08493933
##   7     0.6555983  0.08981885
##   9     0.6605071  0.09149299
## 
## Tuning parameter 'distance' was held constant at a value of 2
## 
## Tuning parameter 'kernel' was held constant at a value of optimal
## Accuracy was used to select the optimal model using the largest value.
## The final values used for the model were kmax = 9, distance = 2 and
##  kernel = optimal.

custsig.test$kknn_pred_train = predict(model_kknn, custsig.test)
confusionMatrix(custsig.test$kknn_pred_train, custsig.test$sex)

## Confusion Matrix and Statistics
## 
##           Reference
## Prediction    0    1
##          0  756 1036
##          1 2276 5925
##                                           
##                Accuracy : 0.6686          
##                  95% CI : (0.6592, 0.6778)
##     No Information Rate : 0.6966          
##     P-Value [Acc > NIR] : 1               
##                                           
##                   Kappa : 0.1136          
##  Mcnemar's Test P-Value : <2e-16          
##                                           
##             Sensitivity : 0.24934         
##             Specificity : 0.85117         
##          Pos Pred Value : 0.42188         
##          Neg Pred Value : 0.72247         
##              Prevalence : 0.30341         
##          Detection Rate : 0.07565         
##    Detection Prevalence : 0.17933         
##       Balanced Accuracy : 0.55026         
##                                           
##        'Positive' Class : 0               
## 

5.8. Ensemble : Random Forest

rf <- randomForest(as.factor(sex)~., data=custsig.train, ntree=1000, importance=TRUE)

imp <- importance(rf, type=1)
featureImportance <- data.frame(Feature=row.names(imp), Importance=imp[,1])

pred_tr_rf <- predict(rf, type = "class")
pred_te_rf <- predict(rf, custsig.test, type = "class")
confusionMatrix(custsig.test$sex, pred_te_rf)

## Confusion Matrix and Statistics
## 
##           Reference
## Prediction    0    1
##          0  426 2606
##          1  440 6521
##                                           
##                Accuracy : 0.6952          
##                  95% CI : (0.6861, 0.7042)
##     No Information Rate : 0.9133          
##     P-Value [Acc > NIR] : 1               
##                                           
##                   Kappa : 0.0968          
##  Mcnemar's Test P-Value : <2e-16          
##                                           
##             Sensitivity : 0.49192         
##             Specificity : 0.71447         
##          Pos Pred Value : 0.14050         
##          Neg Pred Value : 0.93679         
##              Prevalence : 0.08666         
##          Detection Rate : 0.04263         
##    Detection Prevalence : 0.30341         
##       Balanced Accuracy : 0.60320         
##                                           
##        'Positive' Class : 0               
## 

rf

## 
## Call:
##  randomForest(formula = as.factor(sex) ~ ., data = custsig.train,      ntree = 1000, importance = TRUE) 
##                Type of random forest: classification
##                      Number of trees: 1000
## No. of variables tried at each split: 4
## 
##         OOB estimate of  error rate: 30.79%
## Confusion matrix:
##      0     1 class.error
## 0 1349  8355  0.86098516
## 1 1494 20785  0.06705867

##### simple use of Cross Validation
# prepare training scheme
control <- trainControl(method = "repeatedcv", number = 5, repeats = 5) # maximum fold = 5 (5등분, train:test = 8:2)

# if (!require("kknn")) install.packages("kknn"); library(kknn)
model_rf <- caret::train(sex  ~ .,
                         data = custsig.train,
                         method = "rf",
                         preProcess = NULL,
                         trControl = control)
model_rf

## Random Forest 
## 
## 31983 samples
##    18 predictor
##     2 classes: '0', '1' 
## 
## No pre-processing
## Resampling: Cross-Validated (5 fold, repeated 5 times) 
## Summary of sample sizes: 25586, 25586, 25586, 25586, 25588, 25587, ... 
## Resampling results across tuning parameters:
## 
##   mtry  Accuracy   Kappa     
##    2    0.6988400  0.05355415
##   10    0.6772286  0.09700679
##   18    0.6709378  0.09597880
## 
## Accuracy was used to select the optimal model using the largest value.
## The final value used for the model was mtry = 2.

custsig.test$rf_pred_train = predict(model_rf, custsig.test)
confusionMatrix(custsig.test$rf_pred_train, custsig.test$sex)

## Confusion Matrix and Statistics
## 
##           Reference
## Prediction    0    1
##          0  165  172
##          1 2867 6789
##                                           
##                Accuracy : 0.6959          
##                  95% CI : (0.6868, 0.7049)
##     No Information Rate : 0.6966          
##     P-Value [Acc > NIR] : 0.5654          
##                                           
##                   Kappa : 0.0397          
##  Mcnemar's Test P-Value : <2e-16          
##                                           
##             Sensitivity : 0.05442         
##             Specificity : 0.97529         
##          Pos Pred Value : 0.48961         
##          Neg Pred Value : 0.70309         
##              Prevalence : 0.30341         
##          Detection Rate : 0.01651         
##    Detection Prevalence : 0.03372         
##       Balanced Accuracy : 0.51486         
##                                           
##        'Positive' Class : 0               
## 

5.9. Evaluation

#### Evaluation
### Comparing accuracy of models 1
# Create a list of models
models <- list(C5 = model_c5, rf = model_rf,  kknn = model_kknn)
models

## $C5
## C5.0 
## 
## 31983 samples
##    18 predictor
##     2 classes: '0', '1' 
## 
## No pre-processing
## Resampling: Cross-Validated (3 fold, repeated 1 times) 
## Summary of sample sizes: 21322, 21322, 21322 
## Resampling results across tuning parameters:
## 
##   model  winnow  trials  Accuracy   Kappa     
##   rules  FALSE    1      0.6973392  0.03685282
##   rules  FALSE   10      0.6949629  0.10640038
##   rules  FALSE   20      0.6968389  0.07628433
##   rules   TRUE    1      0.6984335  0.04147847
##   rules   TRUE   10      0.6948691  0.05894243
##   rules   TRUE   20      0.6959635  0.05617548
##   tree   FALSE    1      0.6974643  0.09091232
##   tree   FALSE   10      0.6940875  0.11108102
##   tree   FALSE   20      0.6947753  0.09895512
##   tree    TRUE    1      0.6978082  0.04877661
##   tree    TRUE   10      0.6949629  0.05589899
##   tree    TRUE   20      0.6946503  0.06380408
## 
## Accuracy was used to select the optimal model using the largest value.
## The final values used for the model were trials = 1, model = rules
##  and winnow = TRUE.
## 
## $rf
## Random Forest 
## 
## 31983 samples
##    18 predictor
##     2 classes: '0', '1' 
## 
## No pre-processing
## Resampling: Cross-Validated (5 fold, repeated 5 times) 
## Summary of sample sizes: 25586, 25586, 25586, 25586, 25588, 25587, ... 
## Resampling results across tuning parameters:
## 
##   mtry  Accuracy   Kappa     
##    2    0.6988400  0.05355415
##   10    0.6772286  0.09700679
##   18    0.6709378  0.09597880
## 
## Accuracy was used to select the optimal model using the largest value.
## The final value used for the model was mtry = 2.
## 
## $kknn
## k-Nearest Neighbors 
## 
## 31983 samples
##    18 predictor
##     2 classes: '0', '1' 
## 
## No pre-processing
## Resampling: Cross-Validated (3 fold, repeated 1 times) 
## Summary of sample sizes: 21322, 21322, 21322 
## Resampling results across tuning parameters:
## 
##   kmax  Accuracy   Kappa     
##   5     0.6464372  0.08493933
##   7     0.6555983  0.08981885
##   9     0.6605071  0.09149299
## 
## Tuning parameter 'distance' was held constant at a value of 2
## 
## Tuning parameter 'kernel' was held constant at a value of optimal
## Accuracy was used to select the optimal model using the largest value.
## The final values used for the model were kmax = 9, distance = 2 and
##  kernel = optimal.

# Resample the models
#resample_results <- resamples(models)

# Generate a summary
#summary(resample_results, metric = c("Accuracy", "Kappa"))
#bwplot(resample_results, metric = c("Accuracy", "Kappa"))