RIZZ SIGMA P1 - STA1581 TUGAS UAS PRAKTIKUM SAINS DATA
RIZZ SIGMA
2024-11-26
Import Packages
library(tidyverse)## ── Attaching core tidyverse packages ──────────────────────── tidyverse 2.0.0 ──
## ✔ dplyr 1.1.4 ✔ readr 2.1.5
## ✔ forcats 1.0.0 ✔ stringr 1.5.1
## ✔ ggplot2 3.5.1 ✔ tibble 3.2.1
## ✔ lubridate 1.9.3 ✔ tidyr 1.3.1
## ✔ purrr 1.0.2
## ── Conflicts ────────────────────────────────────────── tidyverse_conflicts() ──
## ✖ dplyr::filter() masks stats::filter()
## ✖ dplyr::lag() masks stats::lag()
## ℹ Use the conflicted package (<http://conflicted.r-lib.org/>) to force all conflicts to become errorslibrary(ggplot2)
library(skimr)
library(DataExplorer)
library(GGally)## Registered S3 method overwritten by 'GGally':
## method from
## +.gg ggplot2library(tidymodels)## ── Attaching packages ────────────────────────────────────── tidymodels 1.2.0 ──
## ✔ broom 1.0.6 ✔ rsample 1.2.1
## ✔ dials 1.3.0 ✔ tune 1.2.1
## ✔ infer 1.0.7 ✔ workflows 1.1.4
## ✔ modeldata 1.4.0 ✔ workflowsets 1.1.0
## ✔ parsnip 1.2.1 ✔ yardstick 1.3.1
## ✔ recipes 1.1.0
## ── Conflicts ───────────────────────────────────────── tidymodels_conflicts() ──
## ✖ scales::discard() masks purrr::discard()
## ✖ dplyr::filter() masks stats::filter()
## ✖ recipes::fixed() masks stringr::fixed()
## ✖ dplyr::lag() masks stats::lag()
## ✖ yardstick::spec() masks readr::spec()
## ✖ recipes::step() masks stats::step()
## • Use tidymodels_prefer() to resolve common conflicts.library(brulee)
library(themis)
library(tictoc)
library(DALEX)## Welcome to DALEX (version: 2.4.3).
## Find examples and detailed introduction at: http://ema.drwhy.ai/
##
##
## Attaching package: 'DALEX'
##
## The following object is masked from 'package:dplyr':
##
## explainlibrary(DALEXtra)
library(Boruta)
library(caret)## Loading required package: lattice
##
## Attaching package: 'caret'
##
## The following objects are masked from 'package:yardstick':
##
## precision, recall, sensitivity, specificity
##
## The following object is masked from 'package:purrr':
##
## liftlibrary(RRF)## RRF 1.9.4.1
## Type rrfNews() to see new features/changes/bug fixes.
##
## Attaching package: 'RRF'
##
## The following object is masked from 'package:dplyr':
##
## combine
##
## The following object is masked from 'package:ggplot2':
##
## marginlibrary(glmnet)## Loading required package: Matrix
##
## Attaching package: 'Matrix'
##
## The following objects are masked from 'package:tidyr':
##
## expand, pack, unpack
##
## Loaded glmnet 4.1-8library(ROSE)## Loaded ROSE 0.0-4library(randomForest)## Registered S3 method overwritten by 'randomForest':
## method from
## plot.margin RRF
## randomForest 4.7-1.2
## Type rfNews() to see new features/changes/bug fixes.
##
## Attaching package: 'randomForest'
##
## The following objects are masked from 'package:RRF':
##
## classCenter, combine, getTree, grow, importance, margin, MDSplot,
## na.roughfix, outlier, partialPlot, treesize, varImpPlot, varUsed
##
## The following object is masked from 'package:dplyr':
##
## combine
##
## The following object is masked from 'package:ggplot2':
##
## marginlibrary(bonsai)# Menetapkan ukuran plot
options(
repr.plot.width = 15,
repr.plot.height = 10
)Data
CASE:
Sebuah operator telekomunikasi seluler sedang menjalin kerja sama dengan bank untuk meningkatkan jumlah isi ulang pulsa pelanggan pra-bayar melalui layanan perbankan (seperti ATM dan internet banking). Operator ini ingin membuat model prediksi untuk mengetahui pelanggan mana yang berpotensi menggunakan layanan perbankan tersebut.
About Data:
Dataset mencakup 45.000 baris dengan 11 variabel atau fitur.
X1: Rata-rata durasi panggilan per bulan (menit)
X2: Rata-rata penghasilan dari transaksi panggilan per bulan (Rp)
X3: Rata-rata frekuensi panggilan per bulan
X4: Persentase panggilan di jam kerja
X5: Persentase panggilan sesama operator
X6: Rata-rata penghasilan dari transaksi SMS per bulan (Rp)
X7: Persentase transaksi SMS sesama operator
X8: Rata-rata pemakaian data per bulan (MB)
X9: Rata-rata penghasilan dari transaksi pemakaian data per bulan (Rp)
X10: Rata-rata frekuensi isi ulang pulsa per bulan
X11: Rata-rata jumlah wilayah yang dikunjungi per bulangi per bulan
#Read Data
setwd("D:/KULIAH S2 IPB/SEMESTER 1/SAINS DATA/PRAKTIKUM/P10 Statistical ML/Data STA1581")
df_train <- read.csv("training_data_tugas_praktikum_STA1581.csv")
df_test <- read.csv("testing_data_tugas_praktikum_STA1581.csv")df_train$Y <- as.factor(df_train$Y)
dim(df_train)## [1] 45000 13dim(df_test)## [1] 5000 12# Menambahkan kolom Y dengan nilai NULL ke dalam df_test agar bisa digabungkan dengan df_train
df_test['Y'] <- NaN
# Menggabungkan df_train dan df_test
df <- rbind(df_train, df_test)
# Menambahkan kolom Ket untuk membedakan antara baris training dan testing
df['Ket'] <- ifelse(is.na(df$Y), 'Test', 'Train')
tail(df)## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10
## 49995 49995 0 1275 3 0.7023810 0.7916667 781 0.5018519 2889 39667 1.0
## 49996 49996 103 61701 47 0.7823680 0.9326157 3681 0.7156250 2061 20347 2.7
## 49997 49997 74 14919 25 0.8513012 1.0000000 15003 0.9857614 0 0 9.7
## 49998 49998 0 0 0 0.0000000 0.0000000 0 0.0000000 1841 36111 1.3
## 49999 49999 46 14344 8 0.8373526 0.5911902 2206 0.1588858 728 16667 3.3
## 50000 50000 183 57907 94 0.7339302 0.9886458 7031 0.7116714 20 33 19.7
## X11 Y Ket
## 49995 1.0 <NA> Test
## 49996 1.3 <NA> Test
## 49997 5.3 <NA> Test
## 49998 1.0 <NA> Test
## 49999 1.7 <NA> Test
## 50000 8.7 <NA> TestExploratory Data Analysis (EDA)
Eksplorasi hanya dilakukan pada df_train, sedangkan pre-processing (termasuk feature engineering) dilakukan setelah menggabungkan df_train dan df_test. Tujuannya agar setiap perubahan yang dilakukan konsisten di kedua dataset, sehingga prediktor pada df_test sesuai dengan prediktor pada df_train yang digunakan untuk membangun model.
Statistika Deskriptif
summary(df_train)## ID X1 X2 X3
## Min. : 1 Min. : 0.0 Min. : 0 Min. : 0.00
## 1st Qu.:11251 1st Qu.: 14.0 1st Qu.: 10606 1st Qu.: 10.00
## Median :22501 Median : 47.0 Median : 22046 Median : 24.00
## Mean :22501 Mean : 110.7 Mean : 27882 Mean : 40.11
## 3rd Qu.:33750 3rd Qu.: 131.0 3rd Qu.: 36582 3rd Qu.: 50.00
## Max. :45000 Max. :4130.0 Max. :612263 Max. :995.00
## X4 X5 X6 X7
## Min. :0.0000 Min. :0.0000 Min. : 0 Min. :0.0000
## 1st Qu.:0.6977 1st Qu.:0.8551 1st Qu.: 1425 1st Qu.:0.6410
## Median :0.7500 Median :0.9706 Median : 3983 Median :0.8630
## Mean :0.7344 Mean :0.8831 Mean : 6746 Mean :0.7723
## 3rd Qu.:0.8013 3rd Qu.:0.9972 3rd Qu.: 9265 3rd Qu.:0.9817
## Max. :1.0000 Max. :1.0000 Max. :244444 Max. :1.0000
## X8 X9 X10 X11 Y
## Min. : 0.0 Min. : 0 Min. : 0.000 Min. : 0.000 0:36598
## 1st Qu.: 0.0 1st Qu.: 0 1st Qu.: 3.300 1st Qu.: 2.000 1: 8402
## Median : 74.0 Median : 2600 Median : 6.000 Median : 3.000
## Mean : 948.9 Mean : 16174 Mean : 7.123 Mean : 3.679
## 3rd Qu.: 933.0 3rd Qu.: 24471 3rd Qu.: 9.700 3rd Qu.: 4.700
## Max. :59611.0 Max. :504086 Max. :30.700 Max. :35.700plot_intro(df_train,ggtheme = theme_classic())
# Cek Duplikat Data
any(duplicated(df_train))## [1] FALSETidak ada data duplikat pada df_train.
Analisis Univariat
a. Eksplorasi Variabel Respon
df_train %>%
count(Y) %>%
mutate(percent=n*100/sum(n),label=str_c(round(percent,2),"%")) %>%
ggplot(aes(x="",y=n,fill=Y))+
geom_col()+
geom_text(aes(label = label),
position = position_stack(vjust = 0.5)) +
coord_polar(theta = "y")+
theme_void()
Diagram di atas menggambarkan distribusi variabel target Y, yang menunjukkan adanya class imbalance:
81,33% dari data (mayoritas) memiliki nilai 0.
Hanya 18,67% dari data yang memiliki nilai 1.
Class imbalance ini menandakan bahwa kelas 0 jauh lebih dominan dibandingkan kelas 1. Hal ini dapat menyebabkan model pembelajaran mesin cenderung memprediksi kelas mayoritas (kelas 0), sehingga performa untuk kelas minoritas (kelas 1) mungkin menurun. Penanganan class imbalance menggunakan metode khusus dapat dipertimbangkan.
b. Eksplorasi Secara Numerik
skim_without_charts(data = df_train)| Name | df_train |
| Number of rows | 45000 |
| Number of columns | 13 |
| _______________________ | |
| Column type frequency: | |
| factor | 1 |
| numeric | 12 |
| ________________________ | |
| Group variables | None |
Variable type: factor
| skim_variable | n_missing | complete_rate | ordered | n_unique | top_counts |
|---|---|---|---|---|---|
| Y | 0 | 1 | FALSE | 2 | 0: 36598, 1: 8402 |
Variable type: numeric
| skim_variable | n_missing | complete_rate | mean | sd | p0 | p25 | p50 | p75 | p100 |
|---|---|---|---|---|---|---|---|---|---|
| ID | 0 | 1 | 22500.50 | 12990.53 | 1 | 11250.75 | 22500.50 | 33750.25 | 45000.0 |
| X1 | 0 | 1 | 110.71 | 181.05 | 0 | 14.00 | 47.00 | 131.00 | 4130.0 |
| X2 | 0 | 1 | 27882.09 | 27303.21 | 0 | 10606.00 | 22046.00 | 36581.50 | 612263.0 |
| X3 | 0 | 1 | 40.11 | 50.97 | 0 | 10.00 | 24.00 | 50.00 | 995.0 |
| X4 | 0 | 1 | 0.73 | 0.14 | 0 | 0.70 | 0.75 | 0.80 | 1.0 |
| X5 | 0 | 1 | 0.88 | 0.19 | 0 | 0.86 | 0.97 | 1.00 | 1.0 |
| X6 | 0 | 1 | 6746.24 | 7900.98 | 0 | 1425.00 | 3983.00 | 9264.75 | 244444.0 |
| X7 | 0 | 1 | 0.77 | 0.25 | 0 | 0.64 | 0.86 | 0.98 | 1.0 |
| X8 | 0 | 1 | 948.92 | 2260.58 | 0 | 0.00 | 74.00 | 933.00 | 59611.0 |
| X9 | 0 | 1 | 16174.22 | 26747.37 | 0 | 0.00 | 2600.00 | 24471.25 | 504086.0 |
| X10 | 0 | 1 | 7.12 | 4.84 | 0 | 3.30 | 6.00 | 9.70 | 30.7 |
| X11 | 0 | 1 | 3.68 | 2.42 | 0 | 2.00 | 3.00 | 4.70 | 35.7 |
Pengamatan:
- Dataset memiliki 45.000 baris dan 13 kolom (variabel), terdiri dari 12 variabel numerik dan 1 variabel target (Y) bertipe faktor.
Tidak ditemukan missing value pada seluruh variabel.
Pada variabel target (Y), terdapat class imbalance, dengan jumlah nilai 1 (8.402) jauh lebih sedikit dibandingkan nilai 0 (36.598).
Berdasarkan nilai minimum, tidak ditemukan nilai yang tidak sesuai (contoh: nilai negatif) untuk variabel yang relevan seperti durasi, penghasilan, frekuensi, dan persentase pada variabel X1 hingga X11.
Variabel X4, X5, dan X7 memiliki nilai dalam format persentase, seperti 0.75, 0.8, atau 1.
Semua prediktor memiliki nilai 0.
c. Histogram & Boxplot Tiap Prediktor
Histogram
plot_histogram(df_train[,-1],
ggtheme = theme_classic(),
geom_histogram_args = list(fill="purple"))## `stat_bin()` using `bins = 30`. Pick better value with `binwidth`.
Grafik di atas menunjukkan distribusi dari 11 variabel (X1 hingga X11) dalam dataset.
Sebagian besar variabel memiliki distribusi yang tidak simetris (skewed), terutama ke kanan, menunjukkan bahwa banyak nilai kecil yang mendominasi, sedangkan nilai besar hanya muncul sedikit. Contohnya terlihat pada X1, X2, X3, X8, dan X9.
Variabel X4, X5, dan X7 memiliki rentang nilai dalam format persentase (0 hingga 1) dan terlihat cenderung terpusat pada rentang tertentu:
X4 dan X5 tampak memiliki distribusi mendekati normal dalam rentang tersebut.
X7 menunjukkan distribusi yang semakin meningkat hingga mendekati 1.
Variabel X10 dan X11 memiliki pola distribusi yang mirip, dengan nilai yang terkonsentrasi pada angka kecil (dekat nol), tetapi menyebar hingga angka puluhan.
Variabel X6 tampak memiliki distribusi yang sangat miring (extremely skewed) dengan dominasi nilai kecil dan sedikit sekali nilai besar yang muncul.
Distribusi ini menunjukkan perlunya pre-processing seperti normalisasi atau transformasi data (misalnya log transformation) untuk mengurangi skewness, terutama pada variabel dengan distribusi yang sangat miring. Hal ini penting untuk meningkatkan performa model, terutama jika model yang digunakan sensitif terhadap skala atau distribusi data.
Boxplot
tmp <- par(mfrow=c(3,4))
names <- colnames(df_train)[2:12]
for(i in names){
boxplot(df_train[[i]], horizontal=T, col='#2E8B57')
title(i)
}
par(tmp)
Boxplot di atas menunjukkan distribusi dan potensi outlier pada variabel X1 hingga X11.
Outlier:
Hampir semua variabel memiliki banyak outlier, terutama variabel seperti X1, X2, X3, X6, X8, X9.
Outlier terlihat sebagai titik-titik yang berada jauh di luar whisker pada boxplot.
Rentang Nilai:
Variabel seperti X4, X5, dan X7 memiliki rentang nilai yang terbatas (0 hingga 1), menunjukkan bahwa ini mungkin data dalam bentuk persentase.
Variabel seperti X2, X6, dan X8 memiliki rentang nilai yang sangat besar, menunjukkan data numerik skala besar.
Pola Distribusi:
Variabel X4, X5, dan X7 memiliki distribusi yang lebih seragam tanpa banyak outlier.
Variabel seperti X10 dan X11 memiliki distribusi yang lebih terpusat, dengan sebagian kecil outlier di ujung atas.
Analisis Multivariat
Eksplorasi Hubungan Prediktor dengan Respon
a. Boxplot
plot_boxplot(data = df_train[,-1],by = "Y",
ggtheme = theme_classic(),
geom_boxplot_args = list(fill='red'))
Boxplot ini memperlihatkan distribusi nilai variabel X1 hingga X11 dengan pengelompokkan berdasarkan nilai target Y (0 atau 1).
Distribusi Berdasarkan Target (Y):
Secara umum, terdapat perbedaan distribusi antara kelas Y = 0 dan Y = 1, tetapi mayoritas data untuk kedua kelas masih terkonsentrasi pada rentang nilai kecil.
Pada beberapa variabel seperti X7, X10, dan X11, terlihat distribusi yang sedikit lebih lebar untuk kelas Y = 1, yang mungkin menunjukkan hubungan dengan target.
Outlier:
Hampir semua variabel memiliki outlier yang signifikan pada kedua kelas, terutama pada variabel seperti X1, X2, X3, X6, X8, dan X9.
Outlier ini dapat memengaruhi analisis dan performa model, terutama jika distribusi target tidak seimbang.
Keterkaitan dengan Target:
Variabel seperti X4, X5, dan X7 menunjukkan distribusi yang relatif seragam antara kelas Y = 0 dan Y = 1, meskipun masih terdapat perbedaan kecil.
Pada variabel X10 dan X11, terlihat bahwa kelas Y = 1 memiliki rentang nilai yang sedikit lebih besar dibandingkan kelas Y = 0, yang mungkin relevan sebagai fitur dalam model.
Sehingga berdasarkan boxplot, variabel prediktor yang cukup berpengaruh dalam memisahkan pelanggan potensial dan bukan potensial, yaitu X4, X5, X7, X10, dan X11.
b. Heatmap Spearman Correlation
plot_correlation(data = df_train[,-1],
type = "all",
cor_args = list(method="spearman"),
ggtheme = theme_classic(),
theme_config = list(legend.position = "none",
axis.text.x=element_text(angle = 90)))
Karena seluruh prediktor tampaknya tidak berdistribusi normal dan banyak mengandung outlier, korelasi Pearson mungkin terpengaruh oleh faktor-faktor tersebut. Oleh karena itu, kita bisa menggunakan korelasi Spearman, yang tidak memerlukan asumsi distribusi normal dan lebih tahan terhadap outlier. Spearman dapat mengungkapkan hubungan monotik non-linear antara dua variabel. Berdasarkan korelasi Spearman, prediktor yang memiliki korelasi lebih dari 70% dengan target adalah X8, X9, X10, X11.
Kesimpulan:
Jika kita gabungkan informasi Boxplot dan Heatmap, maka prediktor yang kemungkinan paling berpengaruh adalah: X4, X5, X7, X8, X9, X10, X11.
Data Pre-processing
# copy df utk pre-processing
df_copy <- df
head(df_copy)## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 Y
## 1 1 1 760 1 0.5000000 1.0000000 3275 0.9617486 2542 43544 1.3 1.3 0
## 2 2 627 41160 97 0.7065245 0.9976897 2864 0.7232183 0 0 9.3 5.0 0
## 3 3 42 19002 38 0.7495756 0.9643634 2794 0.7481289 0 0 4.0 1.0 0
## 4 4 209 76895 262 0.7715915 0.9784123 14061 0.6753892 0 0 24.7 9.7 0
## 5 5 11 12650 10 0.6044882 0.3755151 16131 0.1449942 0 0 10.0 5.3 0
## 6 6 117 55057 121 0.7791791 1.0000000 4222 1.0000000 0 0 8.7 6.0 0
## Ket
## 1 Train
## 2 Train
## 3 Train
## 4 Train
## 5 Train
## 6 TrainFature Engineering (Extraction)
Kami berencana menambahkan sejumlah fitur baru yang dikembangkan dari fitur yang sudah ada. Langkah ini bertujuan untuk meningkatkan akurasi model machine learning dalam membedakan pelanggan potensial dan tidak potensial. Perubahan ini akan diterapkan pada data pelatihan dan pengujian.
Fitur: Total Penghasilan Semua Layanan
# Fitur Baru Total Penghasilan Semua Layanan per bulan dalam rupiah (X2 + X6 + X9)
df_copy$Total_Penghasilan_Semua_Layanan <- df_copy$X2 + df_copy$X6 + df_copy$X9# Plot density Total_Penghasilan_Semua_Layanan (hanya training saja)
p <- ggplot(df_copy[df_copy$Ket=='Train',] %>%
select('Total_Penghasilan_Semua_Layanan', 'Y'),
aes(x = Total_Penghasilan_Semua_Layanan, fill = Y)) +
geom_density(alpha = 0.7) +
labs(title = "Plot Densitas Total Penghasilan Semua Layanan per Bulan",
x = "Total Penghasilan Semua Layanan",
y = "Density") +
scale_fill_manual(values = c("blue", "red")) +
theme_classic()
# Tampilkan plot
print(p)
Pengamatan: Fitur Total_Penghasilan_Semua_Layanan tampaknya memiliki potensi signifikan untuk membedakan antara respon 1 dan 0. Respon 1 terlihat cenderung memiliki nilai Total_Penghasilan_Semua_Layanan yang lebih tinggi, menunjukkan bahwa pelanggan potensial cenderung mengeluarkan lebih banyak uang untuk berlangganan layanan dari operator kita.
Transformasi Log (Right-Skewed)
Transformasi dilakukan pada data pelatihan dan data pengujian menggunakan dataframe df_copy.
Transformasi log diterapkan pada fitur-fitur yang memiliki distribusi cenderung skew ke kanan.
Tujuan transformasi ini adalah untuk mengurangi jumlah data outlier sebelum dilakukan penghapusan outlier pada data pelatihan. Hal ini penting dilakukan karena jika langsung menghapus outlier, ada risiko kehilangan banyak data, sehingga transformasi menjadi langkah awal yang krusial.
# Histogram Prediktor Numerik Sebelum Transformasi Log
tmp <- par(mfrow=c(2,4))
names <- colnames(df_copy)[2:12]
for(i in names){
if(!(i %in% c('X4', 'X5', 'X7'))){
hist(df_copy[[i]], main=paste('Histogram ', i), xlab=i, col='lightblue')
}
}
par(tmp)# Transformasi Log menggunakan recipe()
proc_transform <- recipe(Y ~ ., data = df_copy) %>%
step_log(X1, X2, X3, X6, X8, X9, X10, X11, offset=1)
df_copy <- proc_transform %>%
prep() %>% bake(new_data = NULL)
head(df_copy)## # A tibble: 6 × 15
## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 Ket
## <int> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <fct>
## 1 1 0.693 6.63 0.693 0.5 1 8.09 0.962 7.84 10.7 0.833 0.833 Train
## 2 2 6.44 10.6 4.58 0.707 0.998 7.96 0.723 0 0 2.33 1.79 Train
## 3 3 3.76 9.85 3.66 0.750 0.964 7.94 0.748 0 0 1.61 0.693 Train
## 4 4 5.35 11.3 5.57 0.772 0.978 9.55 0.675 0 0 3.25 2.37 Train
## 5 5 2.48 9.45 2.40 0.604 0.376 9.69 0.145 0 0 2.40 1.84 Train
## 6 6 4.77 10.9 4.80 0.779 1 8.35 1 0 0 2.27 1.95 Train
## # ℹ 2 more variables: Total_Penghasilan_Semua_Layanan <int>, Y <fct># Histogram Prediktor Numerik Setelah Transformasi Log
tmp <- par(mfrow=c(2,4))
names <- colnames(df_copy)[2:12]
for(i in names){
if(!(i %in% c('X4', 'X5', 'X7'))){
hist(df_copy[[i]], main=paste('Histogram ', i), xlab=i, col='lightblue')
}
}
par(tmp)Transformasi Eksponensial (Left-Skewed)
Transformasi Eksponensial dilakukan pada fitur yang cenderung memiliki distribusi skew ke kiri. Fitur ini adalah X4 dan X5.
head(df_copy)## # A tibble: 6 × 15
## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 Ket
## <int> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <fct>
## 1 1 0.693 6.63 0.693 0.5 1 8.09 0.962 7.84 10.7 0.833 0.833 Train
## 2 2 6.44 10.6 4.58 0.707 0.998 7.96 0.723 0 0 2.33 1.79 Train
## 3 3 3.76 9.85 3.66 0.750 0.964 7.94 0.748 0 0 1.61 0.693 Train
## 4 4 5.35 11.3 5.57 0.772 0.978 9.55 0.675 0 0 3.25 2.37 Train
## 5 5 2.48 9.45 2.40 0.604 0.376 9.69 0.145 0 0 2.40 1.84 Train
## 6 6 4.77 10.9 4.80 0.779 1 8.35 1 0 0 2.27 1.95 Train
## # ℹ 2 more variables: Total_Penghasilan_Semua_Layanan <int>, Y <fct># Histogram Prediktor Numerik Sebelum Transformasi Eksponensial
tmp <- par(mfrow=c(1,2))
names <- colnames(df_copy)[2:12]
for(i in names){
if(i %in% c('X4', 'X5')){
hist(df_copy[[i]], main=paste('Histogram ', i), xlab=i, col='lightblue')
}
}
par(tmp)# X4 dan X5 yg skew ke kiri ditransformasi eksponensial
df_copy$X4 <- exp(df_copy$X4)
df_copy$X5 <- exp(df_copy$X5)# Histogram Prediktor Numerik Setelah Transformasi Eksponensial
tmp <- par(mfrow=c(1,2))
names <- colnames(df_copy)[2:12]
for(i in names){
if(i %in% c('X4', 'X5')){
hist(df_copy[[i]], main=paste('Histogram ', i), xlab=i, col='lightblue')
}
}
par(tmp)head(df_copy)## # A tibble: 6 × 15
## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 Ket
## <int> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <fct>
## 1 1 0.693 6.63 0.693 1.65 2.72 8.09 0.962 7.84 10.7 0.833 0.833 Train
## 2 2 6.44 10.6 4.58 2.03 2.71 7.96 0.723 0 0 2.33 1.79 Train
## 3 3 3.76 9.85 3.66 2.12 2.62 7.94 0.748 0 0 1.61 0.693 Train
## 4 4 5.35 11.3 5.57 2.16 2.66 9.55 0.675 0 0 3.25 2.37 Train
## 5 5 2.48 9.45 2.40 1.83 1.46 9.69 0.145 0 0 2.40 1.84 Train
## 6 6 4.77 10.9 4.80 2.18 2.72 8.35 1 0 0 2.27 1.95 Train
## # ℹ 2 more variables: Total_Penghasilan_Semua_Layanan <int>, Y <fct>df_copy['X12'] <- df_copy['Total_Penghasilan_Semua_Layanan']
head(df_copy)## # A tibble: 6 × 16
## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 Ket
## <int> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <fct>
## 1 1 0.693 6.63 0.693 1.65 2.72 8.09 0.962 7.84 10.7 0.833 0.833 Train
## 2 2 6.44 10.6 4.58 2.03 2.71 7.96 0.723 0 0 2.33 1.79 Train
## 3 3 3.76 9.85 3.66 2.12 2.62 7.94 0.748 0 0 1.61 0.693 Train
## 4 4 5.35 11.3 5.57 2.16 2.66 9.55 0.675 0 0 3.25 2.37 Train
## 5 5 2.48 9.45 2.40 1.83 1.46 9.69 0.145 0 0 2.40 1.84 Train
## 6 6 4.77 10.9 4.80 2.18 2.72 8.35 1 0 0 2.27 1.95 Train
## # ℹ 3 more variables: Total_Penghasilan_Semua_Layanan <int>, Y <fct>, X12 <int># Menghapus kolom Total Penghasilan Semua Layanan
df_copy <- df_copy[, !(names(df_copy) %in% names(df_copy)[which(names(df_copy) == "Total_Penghasilan_Semua_Layanan")])]
# Menampilkan data setelah kolom dihapus
head(df_copy)## # A tibble: 6 × 15
## ID X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 Ket
## <int> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <fct>
## 1 1 0.693 6.63 0.693 1.65 2.72 8.09 0.962 7.84 10.7 0.833 0.833 Train
## 2 2 6.44 10.6 4.58 2.03 2.71 7.96 0.723 0 0 2.33 1.79 Train
## 3 3 3.76 9.85 3.66 2.12 2.62 7.94 0.748 0 0 1.61 0.693 Train
## 4 4 5.35 11.3 5.57 2.16 2.66 9.55 0.675 0 0 3.25 2.37 Train
## 5 5 2.48 9.45 2.40 1.83 1.46 9.69 0.145 0 0 2.40 1.84 Train
## 6 6 4.77 10.9 4.80 2.18 2.72 8.35 1 0 0 2.27 1.95 Train
## # ℹ 2 more variables: Y <fct>, X12 <int>Split Data
Membagi df_copy menjadi 2 dataframe baru, yakni train dan test.
# Membagi df_copy menjadi 2 dataframe baru yang terpisah antara train dan test
df_copy_train <- df_copy[df_copy$Ket=='Train',] %>% select(-ID, -Ket) # Drop kolom ID dan Ket
df_copy_test <- df_copy[df_copy$Ket=='Test',] %>% select(-ID, -Ket) # Drop kolom ID dan Ket
print(table(df_copy_train$Y))##
## 0 1
## 36598 8402dim(df_copy_train)## [1] 45000 13Penanganan Outlier
Dalam Exploratory Data Analysis (EDA), terlihat bahwa hampir seluruh fitur pada dataset ini mengandung outlier berdasarkan visualisasi boxplot. Oleh karena itu, kami mempertimbangkan penanganan outlier menggunakan metode IQR.
Penanganan outlier hanya pada df_copy_train (data training).
# Boxplot Prediktor Numerik Sebelum Penanganan Outlier
tmp <- par(mfrow=c(3, 4))
names <- colnames(df_copy_train)[1:11]
for(i in names){
boxplot(df_copy_train[[i]], horizontal=T, col='lightblue')
title(i)
}
par(tmp)
# Fungsi Handling Outlier dengan IQR
iqr_method <- function(col_name, df){
quartiles <- quantile(df[[col_name]], probs=c(.25, .75), na.rm = TRUE)
IQR <- IQR(df[[col_name]], na.rm = TRUE)
Lower <- quartiles[1] - 1.5*IQR
Upper <- quartiles[2] + 1.5*IQR
data_no_outlier <- subset(df, df[[col_name]] > Lower & df[[col_name]] < Upper)
return(data_no_outlier)
}# Dimensi Data Sebelum Penanganan Outlier
print(paste('Jumlah Data Sebelum Penanganan Outlier:', dim(df_copy_train)[1]))## [1] "Jumlah Data Sebelum Penanganan Outlier: 45000"# Drop Outlier
kolom_outlier <- c('X2', 'X5') # Fitur-fitur yg akan dihapus data outlier-nya
for(col in kolom_outlier){
drop_outliers <- iqr_method(col, df=df_copy_train)
df_copy_train <- drop_outliers
}
# Dimensi Data Setelah Penanganan Outlier
print(paste('Dimensi Data Setelah Penanganan Outlier:', dim(df_copy_train)[1]))## [1] "Dimensi Data Setelah Penanganan Outlier: 38890"# Cek Jumlah data Y=1 dan Y=0 stlh drop outlier
cat('Jumlah Data Respon Setelah Penanganan Outlier:')## Jumlah Data Respon Setelah Penanganan Outlier:print(table(df_copy_train$Y))##
## 0 1
## 31946 6944# Boxplot Prediktor Numerik Setelah Penanganan Outlier
tmp <- par(mfrow=c(3,4))
names <- colnames(df_copy_train)[1:11]
for(i in names){
boxplot(df_copy_train[[i]], horizontal=T, col='lightblue')
title(i)
}
par(tmp)
dim(df_copy_train)## [1] 38890 13Data yang teridentifikasi sebagai outlier menggunakan metode IQR dihapus dari dataset pelatihan. Untuk menghindari kehilangan terlalu banyak data, kami memutuskan untuk hanya menghapus dua fitur, yaitu X2 dan X5, yang berdasarkan pengamatan visual tampaknya mengandung outlier yang cukup ekstrim.
Pemodelan Machine Learning
Tahap pemodelan machine learning adalah proses inti dalam membangun model prediktif yang bertujuan untuk mempelajari pola dari data training dan melakukan prediksi pada data testing.
Penanganan Class Imballance
Seperti halnya penanganan outlier, penanganan class
imbalance di atas juga hanya diterapkan pada
data training, sehingga proses dapat dilanjutkan
menggunakan df_copy_train setelah tahap penanganan outlier
selesai. Dalam kasus ini, teknik seperti Tomek dan NearMiss digunakan.
Setiap teknik dikombinasikan dengan beberapa algoritma machine
learning, dan kombinasi yang menghasilkan nilai balanced
accuracy tertinggi dipilih sebagai skenario terbaik untuk kasus
ini.
# Penanganan Class Imballance
# 1. TOMEK
set.seed(2045)
tomek <- recipe(Y ~ ., data=df_copy_train) %>%
step_tomek(Y, seed=2045)
# 2. NEARMISS
set.seed(2045)
nearmiss1 <- recipe(Y ~ ., data=df_copy_train) %>%
step_nearmiss(Y, under_ratio=1, seed=2045)Mendefinisikan Model LightGBM
The Basic Principle of
LGBM
The LightGBM Algorithm
Model yang dibangun menggunakan LightGBM sering dipilih karena keunggulannya dalam berbagai aspek, terutama dalam menangani dataset besar dan kompleks. Berikut adalah beberapa alasan utama memilih LightGBM:
Efisiensi dan Kecepatan: LightGBM dirancang untuk menjadi sangat cepat, terutama dalam proses pelatihan dan prediksi. Algoritma ini menggunakan teknik histogram-based yang memungkinkan pengolahan data lebih cepat dibandingkan model lain seperti XGBoost.
Kemampuan Menangani Data Besar: LightGBM sangat efisien untuk dataset dengan jumlah baris yang besar, karena memanfaatkan teknik optimasi memori yang baik.
Kinerja Tinggi pada Dataset Imbalance: LightGBM memiliki parameter scale_pos_weight yang dapat diatur untuk menangani masalah class imbalance, sehingga kinerja pada dataset dengan distribusi kelas tidak seimbang bisa lebih baik.
Kemampuan Menangani Fitur Kompleks: LightGBM dapat bekerja dengan baik pada dataset dengan banyak fitur, termasuk fitur dengan skala yang berbeda atau nilai yang hilang (missing values).
Penyesuaian Parameter yang Fleksibel: LightGBM memiliki banyak parameter yang dapat disesuaikan, seperti max_depth, num_leaves, dan learning_rate, yang membantu meningkatkan performa model melalui proses hyperparameter tuning.
Regularisasi untuk Mencegah Overfitting: Algoritma ini memiliki fitur bawaan seperti L1 dan L2 regularization untuk mengurangi risiko overfitting, sehingga model tetap generalisasi dengan baik pada data baru.
Dukungan untuk Paralelisme: LightGBM mendukung pelatihan paralel, yang memungkinkan penggunaan sumber daya komputasi secara maksimal untuk meningkatkan efisiensi pelatihan.
Oleh karena itu, **LightGBM** menjadi pilihan yang unggul untuk membangun model *machine learning*, terutama berfokus pada kecepatan, efisiensi, dan kinerja yang baik pada dataset besar atau tidak seimbang.# Mendefinisikan Model LightGBM
set.seed(2045)
lightgbm_mod <- boost_tree(
trees = 50, # Jumlah pohon yang diinginkan
tree_depth = 5, # Kedalaman pohon yang diinginkan
mtry = 3, # Jumlah variabel acak yang akan dipilih pada setiap split
min_n = 10, # Jumlah observasi minimum di setiap leaf
learn_rate = 0.1 # Tingkat pembelajaran yang diinginkan
) %>%
set_engine("lightgbm", objective = "binary") %>%
set_mode("classification")tic()
set.seed(3100)
# Fold utk CV
folds <- vfold_cv(data=df_copy_train, v=10, strata = "Y")
# Metrics Evaluasi
multi_metric <- metric_set(accuracy,
bal_accuracy,
f_meas)
mod_selection_trained <- workflow_set(
preproc=list(
tomek=tomek,
nearmiss1=nearmiss1),
models = list(lightgbm = lightgbm_mod),
cross = TRUE ) %>%
workflow_map(fn="fit_resamples", resamples=folds, metrics=multi_metric,
control=control_resamples(save_workflow = TRUE), seed = 2045)toc()## 10.18 sec elapsed# Perbandingan Beberapa Skenario Kombinasi Model ML dan Teknik Class Imbalance
custom_output <- function(data){
data %>% mutate(imbalance_method = map_chr(
wflow_id, ~ str_split(.x, "_",simplify = TRUE)[1])) %>%
mutate(
model = ifelse(grepl("boost_tree_1", wflow_id, ignore.case = TRUE),
"light_GBM", model)) %>%
select(model,imbalance_method,.metric,mean,std_err,rank)
}
mod_selection_result <- rank_results(mod_selection_trained,
rank_metric = "bal_accuracy") %>% custom_output()
mod_selection_result## # A tibble: 6 × 6
## model imbalance_method .metric mean std_err rank
## <chr> <chr> <chr> <dbl> <dbl> <int>
## 1 boost_tree nearmiss1 accuracy 0.702 0.00288 1
## 2 boost_tree nearmiss1 bal_accuracy 0.703 0.00361 1
## 3 boost_tree nearmiss1 f_meas 0.795 0.00231 1
## 4 boost_tree tomek accuracy 0.827 0.00122 2
## 5 boost_tree tomek bal_accuracy 0.542 0.00206 2
## 6 boost_tree tomek f_meas 0.903 0.000688 2# Plot Beberapa Skenario Kombinasi Model ML dan Teknik Class Imbalance
mod_selection_result %>%
ggplot(aes(x = rank, y = mean, pch = imbalance_method, col = model)) +
geom_point(cex = 3)+
scale_color_discrete() +
facet_wrap(~.metric)+
theme_linedraw() +
theme(plot.background = element_rect(fill = "white")) 
# Fit Model
lightgbm_fit <- workflow() %>%
add_recipe(recipe = nearmiss1) %>%
add_model(spec = lightgbm_mod) %>%
fit(df_copy_train)# Ubah Respon bertipe factor menjadi integer (agar bisa digunakan pada explain_tidymodels)
y <- ifelse(df_copy_train$Y=="1",1,0)
best_mod_explainer <- explain_tidymodels(
model = lightgbm_fit,
y = y,
data = df_copy_train %>% select(-Y),
model_info = list(
package = "lightgbm",
version = "2.3.1", # Replace with your actual LightGBM version
type = "classification"
))## Preparation of a new explainer is initiated
## -> model label : workflow ( default )
## -> data : 38890 rows 12 cols
## -> data : tibble converted into a data.frame
## -> target variable : 38890 values
## -> predict function : yhat.workflow will be used ( default )
## -> predicted values : No value for predict function target column. ( default )
## -> model_info : package lightgbm , ver. 2.3.1 , task classification
## -> predicted values : numerical, min = 0.0628909 , mean = 0.4310033 , max = 0.9436967
## -> residual function : difference between y and yhat ( default )
## -> residuals : numerical, min = -0.9378652 , mean = -0.2524484 , max = 0.9120934
## A new explainer has been created!best_mod_vimp <- variable_importance(explainer = best_mod_explainer, type = "variable_importance")# Plot Feature Imporatnce
plot(best_mod_vimp,
show_boxplots=FALSE,
bar_width=4)
Berdasarkan plot feature importance di atas, terlihat bahwa fitur X12 (Total Penghasilan Semua Layanan) menjadi fitur dengan kontribusi tertinggi terhadap performa model LightGBM. Selain itu, fitur X10 dan X11 juga memberikan pengaruh signifikan, diikuti oleh X8 dan X1. Fitur-fitur seperti X3, X2, X4, X6, dan X7 memberikan pengaruh yang lebih rendah terhadap model. Meskipun demikian, fitur tersebut tetap digunakan untuk hyperparameter tuning dan melakukan prediksi klasifikasi biner pada variabel respon.
Penjelasan:
X12 yang mewakili Total Penghasilan Semua Layanan merupakan fitur paling penting dalam model ini, menegaskan perannya sebagai salah satu prediktor utama.
X10 dan X11 membentuk kombinasi fitur yang tidak terpisahkan, memberikan pengaruh yang signifikan dalam memodelkan hasil.
X8 dan X9 dapat digantikan oleh Total Penghasilan Internet tanpa mengurangi performa model secara substansial.
Fitur X5 dan X7 dapat digantikan oleh Interaksi Sesama Operator, mengurangi redundansi fitur dalam model.
Re-Modelling
Teknik Class Imballance (Nearmiss1)
# NEARMISS
set.seed(2045)
nearmiss1 <- recipe(Y ~ ., data=df_copy_train) %>%
step_nearmiss(Y, under_ratio=1, seed=2045)Hyperparameter Tuning
# Model LightGBM
set.seed(2003)
lgbm_tuned <- boost_tree(
mtry = 3,
learn_rate = tune(),
trees = tune(),
min_n = tune(),
tree_depth = tune(),
) %>%
set_engine("lightgbm", objective = "binary", metric = "bal_accuracy") %>%
set_mode("classification")# Grid Hyperparameter LightGBM
grid_lgbm <- grid_regular(
learn_rate(range=c(-1, -0.1)),
trees(range = c(50,200)),
min_n(range=c(33, 70)),
tree_depth(range=c(3,30)),
levels=7
)
# Ukuran grid
dim(grid_lgbm)## [1] 2401 4# CV Hyperparameter LightGBM
set.seed(2045)
folds <- vfold_cv(data = df_copy_train, v=5, strata = "Y")
# Metrics Evaluasi
multi_metric <- metric_set(accuracy,
bal_accuracy,
f_meas)
set.seed(2045)
tic()
lgbm_mod_tuned <- workflow() %>%
add_recipe(recipe = nearmiss1) %>%
add_model(spec = lgbm_tuned) %>%
tune_grid(resamples= folds,
metrics = multi_metric,
grid=grid_lgbm,
control=control_grid(save_workflow = TRUE)
)
toc()## 8480.25 sec elapsed# Best Hyperparameter lightgbm
show_best(x=lgbm_mod_tuned, metric = "bal_accuracy",n = 5)## # A tibble: 5 × 10
## trees min_n tree_depth learn_rate .metric .estimator mean n std_err
## <int> <int> <int> <dbl> <chr> <chr> <dbl> <int> <dbl>
## 1 50 39 12 0.1 bal_accuracy binary 0.706 5 0.00268
## 2 50 57 30 0.1 bal_accuracy binary 0.705 5 0.00236
## 3 200 63 3 0.1 bal_accuracy binary 0.705 5 0.00198
## 4 50 33 7 0.1 bal_accuracy binary 0.705 5 0.00211
## 5 50 70 7 0.1 bal_accuracy binary 0.705 5 0.00316
## # ℹ 1 more variable: .config <chr># Best Model Lightgbm
set.seed(3600)
lgbm_best <- fit_best(x = lgbm_mod_tuned, metric = "bal_accuracy")#Hasil Prediksi Data Training setelah hyperparamater tuning
idx_Y <- length(best_mod_vimp)+1
y_pred_train_aft <- predict(lgbm_best, df_copy_train)
# Simpan hasil prediksi Y dan aktual Y ke dalam satu dataframe
calc_aft <- data.frame(truth=df_copy_train$Y, y_pred_train_aft)
print('Bal_Accuracy Setelah Tuning:')## [1] "Bal_Accuracy Setelah Tuning:"bal_accuracy(calc_aft, truth, .pred_class)## # A tibble: 1 × 3
## .metric .estimator .estimate
## <chr> <chr> <dbl>
## 1 bal_accuracy binary 0.730# Training Model LightGBM
set.seed(567)
# Ubah Respon bertipe factor menjadi integer (agar bisa digunakan pada explain_tidumodels)
y <- ifelse(df_copy_train$Y=="1",1,0)
best_mod_explainer <- explain_tidymodels(
model = lgbm_best,
y = y,
data = df_copy_train %>% select(-Y),
model_info = list(
package = "lightgbm",
version = "2.3.1", # Replace with your actual LightGBM version
type = "classification"
))## Preparation of a new explainer is initiated
## -> model label : workflow ( default )
## -> data : 38890 rows 12 cols
## -> data : tibble converted into a data.frame
## -> target variable : 38890 values
## -> predict function : yhat.workflow will be used ( default )
## -> predicted values : No value for predict function target column. ( default )
## -> model_info : package lightgbm , ver. 2.3.1 , task classification
## -> predicted values : numerical, min = 0.06527495 , mean = 0.4297744 , max = 0.9471207
## -> residual function : difference between y and yhat ( default )
## -> residuals : numerical, min = -0.9471207 , mean = -0.2512195 , max = 0.8846647
## A new explainer has been created!best_mod_vimp <- variable_importance(explainer = best_mod_explainer, type = "variable_importance")
# Plot Feature Importance
plot(best_mod_vimp,
show_boxplots=FALSE,
bar_width=4)
Prediksi Data Testing
#important_features <- best_mod_vimp$variable
#testing <- df_copy_test %>% select(all_of(important_features))
# Ekstrak nama fitur penting dari best_mod_vimp
#important_features <- best_mod_vimp$variable
# Fitur Data Testing sesuai Fitur saat Training data
#testing <- df_copy_test %>% select(all_of(important_features))
#head(testing)col_features <- c('X1', 'X2', 'X3', 'X4', 'X5', 'X6', 'X7', 'X8', 'X9', 'X10', 'X11', 'X12')
# Fitur Data Testing sesuai Fitur saat Training data
testing <- df_copy_test %>% select(all_of(col_features))
head(testing)## # A tibble: 6 × 12
## X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 X12
## <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <int>
## 1 4.19 10.6 3.78 2.18 2.72 7.02 1 1.79 7.45 2.89 2.75 41094
## 2 2.83 7.82 1.39 1.59 2.53 7.55 1 6.01 9.85 1.55 1.10 23317
## 3 6.26 11.4 5.12 2.15 2.72 8.27 0.425 0 0 3.32 2.54 94558
## 4 5.38 10.1 3.76 2.07 2.69 8.33 0.987 0 0 2.12 0.833 29468
## 5 0 5.08 0 2.72 2.72 9.86 1 6.94 7.42 2.30 0.833 21032
## 6 5.16 9.72 4.34 2.21 2.71 9.54 0.999 0 0 2.77 2.16 30514# Prediksi testing data
y_pred_test <- predict(lgbm_best, new_data=testing)
# Simpan hasil prediksi ke dalam dataframe
ypredtest <- data.frame(y_pred_test)ypredtest## .pred_class
## 1 0
## 2 0
## 3 0
## 4 0
## 5 0
## 6 0
## 7 1
## 8 1
## 9 0
## 10 0
## 11 0
## 12 0
## 13 0
## 14 0
## 15 0
## 16 0
## 17 1
## 18 0
## 19 1
## 20 0
## 21 0
## 22 1
## 23 0
## 24 0
## 25 1
## 26 0
## 27 1
## 28 1
## 29 0
## 30 0
## 31 0
## 32 0
## 33 0
## 34 0
## 35 0
## 36 0
## 37 1
## 38 1
## 39 0
## 40 1
## 41 0
## 42 0
## 43 0
## 44 0
## 45 1
## 46 0
## 47 0
## 48 1
## 49 0
## 50 0
## 51 0
## 52 0
## 53 0
## 54 1
## 55 0
## 56 1
## 57 0
## 58 0
## 59 1
## 60 0
## 61 1
## 62 0
## 63 0
## 64 0
## 65 0
## 66 1
## 67 0
## 68 1
## 69 1
## 70 0
## 71 0
## 72 0
## 73 0
## 74 0
## 75 1
## 76 1
## 77 0
## 78 0
## 79 1
## 80 0
## 81 1
## 82 0
## 83 0
## 84 1
## 85 0
## 86 1
## 87 1
## 88 0
## 89 0
## 90 1
## 91 1
## 92 0
## 93 1
## 94 1
## 95 0
## 96 0
## 97 1
## 98 0
## 99 0
## 100 1
## 101 0
## 102 0
## 103 0
## 104 0
## 105 0
## 106 0
## 107 0
## 108 0
## 109 1
## 110 0
## 111 0
## 112 0
## 113 1
## 114 0
## 115 0
## 116 0
## 117 1
## 118 1
## 119 1
## 120 1
## 121 0
## 122 1
## 123 0
## 124 1
## 125 0
## 126 0
## 127 0
## 128 1
## 129 1
## 130 0
## 131 1
## 132 0
## 133 0
## 134 0
## 135 0
## 136 1
## 137 0
## 138 0
## 139 0
## 140 1
## 141 1
## 142 0
## 143 1
## 144 0
## 145 1
## 146 1
## 147 0
## 148 1
## 149 0
## 150 0
## 151 0
## 152 0
## 153 0
## 154 1
## 155 0
## 156 0
## 157 0
## 158 0
## 159 1
## 160 0
## 161 0
## 162 0
## 163 0
## 164 1
## 165 0
## 166 1
## 167 0
## 168 1
## 169 1
## 170 1
## 171 1
## 172 0
## 173 1
## 174 0
## 175 1
## 176 0
## 177 0
## 178 0
## 179 0
## 180 0
## 181 0
## 182 0
## 183 0
## 184 1
## 185 0
## 186 0
## 187 1
## 188 1
## 189 0
## 190 0
## 191 1
## 192 0
## 193 1
## 194 0
## 195 0
## 196 1
## 197 1
## 198 1
## 199 0
## 200 0
## 201 1
## 202 0
## 203 1
## 204 0
## 205 1
## 206 0
## 207 1
## 208 0
## 209 0
## 210 0
## 211 1
## 212 0
## 213 1
## 214 0
## 215 0
## 216 1
## 217 0
## 218 1
## 219 0
## 220 1
## 221 1
## 222 1
## 223 1
## 224 1
## 225 0
## 226 1
## 227 1
## 228 1
## 229 1
## 230 0
## 231 0
## 232 0
## 233 0
## 234 0
## 235 1
## 236 0
## 237 1
## 238 1
## 239 0
## 240 0
## 241 1
## 242 1
## 243 1
## 244 1
## 245 1
## 246 0
## 247 1
## 248 0
## 249 0
## 250 1
## 251 1
## 252 1
## 253 1
## 254 1
## 255 1
## 256 0
## 257 1
## 258 0
## 259 0
## 260 0
## 261 0
## 262 1
## 263 0
## 264 1
## 265 0
## 266 0
## 267 0
## 268 0
## 269 0
## 270 0
## 271 1
## 272 0
## 273 1
## 274 1
## 275 1
## 276 0
## 277 1
## 278 1
## 279 1
## 280 0
## 281 1
## 282 1
## 283 1
## 284 0
## 285 0
## 286 0
## 287 0
## 288 0
## 289 0
## 290 0
## 291 0
## 292 0
## 293 1
## 294 1
## 295 0
## 296 0
## 297 1
## 298 1
## 299 0
## 300 0
## 301 0
## 302 1
## 303 0
## 304 0
## 305 1
## 306 1
## 307 0
## 308 0
## 309 0
## 310 0
## 311 1
## 312 0
## 313 0
## 314 1
## 315 0
## 316 1
## 317 0
## 318 0
## 319 0
## 320 0
## 321 0
## 322 0
## 323 0
## 324 0
## 325 1
## 326 1
## 327 0
## 328 0
## 329 0
## 330 1
## 331 1
## 332 0
## 333 0
## 334 0
## 335 0
## 336 0
## 337 0
## 338 0
## 339 1
## 340 0
## 341 0
## 342 0
## 343 0
## 344 1
## 345 0
## 346 0
## 347 0
## 348 0
## 349 1
## 350 0
## 351 0
## 352 0
## 353 0
## 354 0
## 355 0
## 356 0
## 357 1
## 358 0
## 359 0
## 360 0
## 361 0
## 362 1
## 363 1
## 364 0
## 365 0
## 366 0
## 367 1
## 368 0
## 369 0
## 370 1
## 371 1
## 372 0
## 373 0
## 374 0
## 375 1
## 376 0
## 377 1
## 378 1
## 379 0
## 380 1
## 381 1
## 382 0
## 383 0
## 384 0
## 385 0
## 386 0
## 387 0
## 388 1
## 389 0
## 390 0
## 391 0
## 392 1
## 393 1
## 394 0
## 395 0
## 396 1
## 397 0
## 398 1
## 399 0
## 400 0
## 401 0
## 402 1
## 403 0
## 404 1
## 405 0
## 406 0
## 407 1
## 408 0
## 409 0
## 410 0
## 411 0
## 412 0
## 413 1
## 414 0
## 415 1
## 416 0
## 417 0
## 418 1
## 419 0
## 420 1
## 421 0
## 422 0
## 423 1
## 424 1
## 425 1
## 426 1
## 427 0
## 428 0
## 429 0
## 430 0
## 431 0
## 432 1
## 433 1
## 434 1
## 435 1
## 436 0
## 437 0
## 438 1
## 439 0
## 440 0
## 441 0
## 442 0
## 443 1
## 444 1
## 445 1
## 446 0
## 447 0
## 448 0
## 449 0
## 450 0
## 451 0
## 452 0
## 453 1
## 454 0
## 455 1
## 456 0
## 457 0
## 458 0
## 459 0
## 460 0
## 461 0
## 462 0
## 463 0
## 464 0
## 465 0
## 466 0
## 467 1
## 468 0
## 469 1
## 470 0
## 471 0
## 472 0
## 473 0
## 474 0
## 475 1
## 476 0
## 477 0
## 478 0
## 479 1
## 480 0
## 481 0
## 482 0
## 483 1
## 484 0
## 485 0
## 486 0
## 487 0
## 488 1
## 489 0
## 490 0
## 491 1
## 492 1
## 493 1
## 494 0
## 495 1
## 496 1
## 497 0
## 498 1
## 499 0
## 500 0
## 501 1
## 502 0
## 503 1
## 504 0
## 505 1
## 506 0
## 507 0
## 508 1
## 509 0
## 510 1
## 511 0
## 512 1
## 513 1
## 514 0
## 515 0
## 516 1
## 517 1
## 518 0
## 519 0
## 520 0
## 521 1
## 522 0
## 523 0
## 524 0
## 525 1
## 526 0
## 527 0
## 528 0
## 529 1
## 530 1
## 531 1
## 532 0
## 533 0
## 534 0
## 535 0
## 536 0
## 537 0
## 538 1
## 539 0
## 540 0
## 541 1
## 542 0
## 543 0
## 544 0
## 545 0
## 546 0
## 547 1
## 548 1
## 549 0
## 550 0
## 551 0
## 552 0
## 553 0
## 554 0
## 555 1
## 556 0
## 557 1
## 558 0
## 559 0
## 560 0
## 561 0
## 562 0
## 563 0
## 564 0
## 565 0
## 566 0
## 567 1
## 568 1
## 569 1
## 570 1
## 571 1
## 572 1
## 573 0
## 574 0
## 575 0
## 576 0
## 577 1
## 578 1
## 579 0
## 580 0
## 581 1
## 582 1
## 583 1
## 584 1
## 585 0
## 586 0
## 587 0
## 588 0
## 589 1
## 590 0
## 591 1
## 592 0
## 593 1
## 594 1
## 595 0
## 596 0
## 597 0
## 598 1
## 599 0
## 600 1
## 601 0
## 602 0
## 603 0
## 604 0
## 605 0
## 606 0
## 607 0
## 608 1
## 609 0
## 610 0
## 611 0
## 612 0
## 613 1
## 614 1
## 615 1
## 616 1
## 617 0
## 618 1
## 619 0
## 620 0
## 621 0
## 622 0
## 623 0
## 624 0
## 625 0
## 626 1
## 627 1
## 628 0
## 629 0
## 630 0
## 631 1
## 632 0
## 633 1
## 634 0
## 635 1
## 636 0
## 637 0
## 638 1
## 639 1
## 640 1
## 641 1
## 642 0
## 643 1
## 644 0
## 645 0
## 646 0
## 647 0
## 648 0
## 649 0
## 650 0
## 651 0
## 652 0
## 653 0
## 654 0
## 655 0
## 656 0
## 657 1
## 658 0
## 659 1
## 660 1
## 661 0
## 662 0
## 663 1
## 664 1
## 665 0
## 666 0
## 667 1
## 668 0
## 669 0
## 670 1
## 671 0
## 672 1
## 673 0
## 674 1
## 675 0
## 676 0
## 677 1
## 678 0
## 679 0
## 680 0
## 681 0
## 682 0
## 683 1
## 684 1
## 685 1
## 686 1
## 687 0
## 688 1
## 689 0
## 690 0
## 691 0
## 692 1
## 693 0
## 694 0
## 695 0
## 696 0
## 697 0
## 698 1
## 699 1
## 700 0
## 701 1
## 702 0
## 703 0
## 704 1
## 705 0
## 706 0
## 707 0
## 708 0
## 709 0
## 710 0
## 711 1
## 712 1
## 713 0
## 714 1
## 715 1
## 716 0
## 717 0
## 718 1
## 719 0
## 720 1
## 721 1
## 722 0
## 723 0
## 724 0
## 725 0
## 726 0
## 727 0
## 728 0
## 729 1
## 730 1
## 731 0
## 732 1
## 733 1
## 734 0
## 735 1
## 736 1
## 737 1
## 738 1
## 739 0
## 740 0
## 741 0
## 742 1
## 743 1
## 744 0
## 745 0
## 746 0
## 747 1
## 748 1
## 749 0
## 750 0
## 751 0
## 752 1
## 753 0
## 754 0
## 755 1
## 756 1
## 757 1
## 758 0
## 759 0
## 760 0
## 761 0
## 762 0
## 763 0
## 764 0
## 765 1
## 766 0
## 767 1
## 768 1
## 769 0
## 770 0
## 771 0
## 772 1
## 773 1
## 774 1
## 775 0
## 776 0
## 777 1
## 778 1
## 779 1
## 780 0
## 781 1
## 782 1
## 783 0
## 784 1
## 785 1
## 786 0
## 787 0
## 788 1
## 789 1
## 790 0
## 791 1
## 792 1
## 793 1
## 794 0
## 795 1
## 796 0
## 797 0
## 798 1
## 799 0
## 800 1
## 801 1
## 802 0
## 803 0
## 804 0
## 805 0
## 806 1
## 807 0
## 808 1
## 809 0
## 810 1
## 811 1
## 812 0
## 813 0
## 814 1
## 815 0
## 816 0
## 817 0
## 818 0
## 819 1
## 820 0
## 821 0
## 822 1
## 823 1
## 824 0
## 825 0
## 826 1
## 827 1
## 828 0
## 829 1
## 830 1
## 831 1
## 832 0
## 833 0
## 834 0
## 835 0
## 836 0
## 837 0
## 838 1
## 839 0
## 840 0
## 841 0
## 842 0
## 843 0
## 844 1
## 845 0
## 846 0
## 847 0
## 848 0
## 849 0
## 850 1
## 851 0
## 852 0
## 853 1
## 854 0
## 855 1
## 856 0
## 857 0
## 858 0
## 859 1
## 860 0
## 861 0
## 862 1
## 863 0
## 864 0
## 865 0
## 866 0
## 867 0
## 868 0
## 869 0
## 870 0
## 871 0
## 872 0
## 873 0
## 874 1
## 875 0
## 876 0
## 877 0
## 878 0
## 879 0
## 880 1
## 881 1
## 882 1
## 883 1
## 884 0
## 885 0
## 886 0
## 887 0
## 888 0
## 889 0
## 890 1
## 891 0
## 892 1
## 893 0
## 894 0
## 895 0
## 896 0
## 897 0
## 898 1
## 899 0
## 900 0
## 901 0
## 902 0
## 903 0
## 904 1
## 905 1
## 906 0
## 907 0
## 908 0
## 909 0
## 910 1
## 911 0
## 912 0
## 913 1
## 914 0
## 915 0
## 916 0
## 917 0
## 918 0
## 919 1
## 920 1
## 921 0
## 922 0
## 923 1
## 924 0
## 925 0
## 926 0
## 927 0
## 928 0
## 929 0
## 930 0
## 931 0
## 932 0
## 933 0
## 934 0
## 935 0
## 936 1
## 937 0
## 938 0
## 939 1
## 940 1
## 941 0
## 942 0
## 943 0
## 944 1
## 945 0
## 946 0
## 947 1
## 948 0
## 949 0
## 950 1
## 951 0
## 952 0
## 953 1
## 954 0
## 955 0
## 956 0
## 957 1
## 958 1
## 959 0
## 960 1
## 961 0
## 962 0
## 963 1
## 964 0
## 965 0
## 966 0
## 967 1
## 968 1
## 969 0
## 970 0
## 971 1
## 972 1
## 973 0
## 974 1
## 975 0
## 976 1
## 977 0
## 978 0
## 979 1
## 980 1
## 981 0
## 982 1
## 983 0
## 984 1
## 985 1
## 986 0
## 987 0
## 988 1
## 989 1
## 990 0
## 991 0
## 992 0
## 993 0
## 994 0
## 995 1
## 996 1
## 997 0
## 998 0
## 999 1
## 1000 1
## 1001 1
## 1002 0
## 1003 0
## 1004 0
## 1005 1
## 1006 0
## 1007 0
## 1008 0
## 1009 0
## 1010 0
## 1011 0
## 1012 1
## 1013 1
## 1014 1
## 1015 0
## 1016 0
## 1017 1
## 1018 0
## 1019 0
## 1020 1
## 1021 0
## 1022 1
## 1023 1
## 1024 0
## 1025 0
## 1026 1
## 1027 0
## 1028 0
## 1029 1
## 1030 0
## 1031 0
## 1032 1
## 1033 0
## 1034 1
## 1035 0
## 1036 0
## 1037 1
## 1038 0
## 1039 0
## 1040 0
## 1041 1
## 1042 0
## 1043 0
## 1044 0
## 1045 1
## 1046 1
## 1047 1
## 1048 0
## 1049 1
## 1050 1
## 1051 0
## 1052 0
## 1053 0
## 1054 1
## 1055 1
## 1056 1
## 1057 0
## 1058 0
## 1059 0
## 1060 0
## 1061 0
## 1062 1
## 1063 0
## 1064 1
## 1065 1
## 1066 1
## 1067 0
## 1068 1
## 1069 0
## 1070 0
## 1071 0
## 1072 1
## 1073 1
## 1074 0
## 1075 1
## 1076 1
## 1077 1
## 1078 1
## 1079 1
## 1080 0
## 1081 1
## 1082 1
## 1083 1
## 1084 0
## 1085 0
## 1086 0
## 1087 1
## 1088 1
## 1089 0
## 1090 0
## 1091 1
## 1092 0
## 1093 0
## 1094 0
## 1095 1
## 1096 0
## 1097 1
## 1098 0
## 1099 0
## 1100 1
## 1101 0
## 1102 0
## 1103 0
## 1104 0
## 1105 1
## 1106 0
## 1107 1
## 1108 1
## 1109 0
## 1110 0
## 1111 0
## 1112 0
## 1113 0
## 1114 1
## 1115 1
## 1116 1
## 1117 1
## 1118 1
## 1119 0
## 1120 0
## 1121 1
## 1122 1
## 1123 0
## 1124 0
## 1125 1
## 1126 1
## 1127 1
## 1128 0
## 1129 0
## 1130 0
## 1131 1
## 1132 1
## 1133 0
## 1134 1
## 1135 0
## 1136 0
## 1137 1
## 1138 0
## 1139 0
## 1140 1
## 1141 1
## 1142 0
## 1143 1
## 1144 0
## 1145 0
## 1146 0
## 1147 1
## 1148 0
## 1149 1
## 1150 0
## 1151 1
## 1152 0
## 1153 1
## 1154 0
## 1155 0
## 1156 1
## 1157 0
## 1158 0
## 1159 1
## 1160 1
## 1161 1
## 1162 0
## 1163 1
## 1164 1
## 1165 1
## 1166 0
## 1167 0
## 1168 1
## 1169 0
## 1170 1
## 1171 0
## 1172 0
## 1173 0
## 1174 1
## 1175 0
## 1176 0
## 1177 1
## 1178 0
## 1179 1
## 1180 1
## 1181 1
## 1182 1
## 1183 1
## 1184 0
## 1185 1
## 1186 0
## 1187 0
## 1188 1
## 1189 1
## 1190 0
## 1191 0
## 1192 0
## 1193 1
## 1194 0
## 1195 0
## 1196 0
## 1197 1
## 1198 1
## 1199 0
## 1200 0
## 1201 0
## 1202 0
## 1203 0
## 1204 0
## 1205 1
## 1206 1
## 1207 0
## 1208 1
## 1209 1
## 1210 0
## 1211 1
## 1212 1
## 1213 1
## 1214 0
## 1215 0
## 1216 1
## 1217 0
## 1218 1
## 1219 1
## 1220 0
## 1221 1
## 1222 0
## 1223 0
## 1224 0
## 1225 1
## 1226 0
## 1227 0
## 1228 0
## 1229 0
## 1230 0
## 1231 1
## 1232 0
## 1233 0
## 1234 1
## 1235 0
## 1236 1
## 1237 0
## 1238 1
## 1239 1
## 1240 1
## 1241 0
## 1242 1
## 1243 1
## 1244 1
## 1245 1
## 1246 0
## 1247 1
## 1248 0
## 1249 1
## 1250 0
## 1251 0
## 1252 0
## 1253 0
## 1254 0
## 1255 0
## 1256 1
## 1257 0
## 1258 0
## 1259 0
## 1260 0
## 1261 1
## 1262 0
## 1263 1
## 1264 1
## 1265 0
## 1266 0
## 1267 0
## 1268 0
## 1269 0
## 1270 0
## 1271 1
## 1272 0
## 1273 1
## 1274 0
## 1275 1
## 1276 1
## 1277 0
## 1278 0
## 1279 0
## 1280 0
## 1281 0
## 1282 1
## 1283 0
## 1284 1
## 1285 0
## 1286 0
## 1287 1
## 1288 0
## 1289 0
## 1290 0
## 1291 0
## 1292 0
## 1293 0
## 1294 0
## 1295 0
## 1296 0
## 1297 1
## 1298 0
## 1299 0
## 1300 0
## 1301 0
## 1302 1
## 1303 0
## 1304 1
## 1305 0
## 1306 1
## 1307 0
## 1308 1
## 1309 0
## 1310 0
## 1311 1
## 1312 1
## 1313 0
## 1314 0
## 1315 1
## 1316 0
## 1317 1
## 1318 0
## 1319 0
## 1320 0
## 1321 0
## 1322 0
## 1323 0
## 1324 0
## 1325 0
## 1326 0
## 1327 1
## 1328 1
## 1329 1
## 1330 1
## 1331 1
## 1332 1
## 1333 0
## 1334 0
## 1335 1
## 1336 1
## 1337 1
## 1338 1
## 1339 0
## 1340 0
## 1341 0
## 1342 1
## 1343 0
## 1344 1
## 1345 0
## 1346 0
## 1347 0
## 1348 0
## 1349 0
## 1350 1
## 1351 0
## 1352 1
## 1353 1
## 1354 1
## 1355 0
## 1356 0
## 1357 1
## 1358 0
## 1359 1
## 1360 1
## 1361 1
## 1362 0
## 1363 1
## 1364 1
## 1365 0
## 1366 1
## 1367 0
## 1368 1
## 1369 0
## 1370 1
## 1371 1
## 1372 0
## 1373 0
## 1374 0
## 1375 0
## 1376 0
## 1377 0
## 1378 0
## 1379 1
## 1380 1
## 1381 0
## 1382 1
## 1383 1
## 1384 0
## 1385 0
## 1386 1
## 1387 0
## 1388 1
## 1389 0
## 1390 0
## 1391 1
## 1392 1
## 1393 1
## 1394 0
## 1395 1
## 1396 1
## 1397 1
## 1398 0
## 1399 1
## 1400 0
## 1401 0
## 1402 0
## 1403 0
## 1404 0
## 1405 0
## 1406 0
## 1407 0
## 1408 0
## 1409 1
## 1410 0
## 1411 0
## 1412 1
## 1413 1
## 1414 1
## 1415 1
## 1416 1
## 1417 0
## 1418 0
## 1419 0
## 1420 0
## 1421 0
## 1422 1
## 1423 1
## 1424 0
## 1425 1
## 1426 0
## 1427 0
## 1428 0
## 1429 0
## 1430 0
## 1431 1
## 1432 0
## 1433 0
## 1434 0
## 1435 0
## 1436 0
## 1437 0
## 1438 1
## 1439 0
## 1440 1
## 1441 0
## 1442 0
## 1443 0
## 1444 0
## 1445 0
## 1446 1
## 1447 0
## 1448 0
## 1449 0
## 1450 1
## 1451 1
## 1452 1
## 1453 0
## 1454 0
## 1455 0
## 1456 0
## 1457 1
## 1458 1
## 1459 0
## 1460 0
## 1461 0
## 1462 0
## 1463 1
## 1464 1
## 1465 1
## 1466 0
## 1467 1
## 1468 1
## 1469 0
## 1470 1
## 1471 0
## 1472 0
## 1473 0
## 1474 0
## 1475 0
## 1476 0
## 1477 0
## 1478 0
## 1479 0
## 1480 0
## 1481 0
## 1482 1
## 1483 0
## 1484 0
## 1485 0
## 1486 0
## 1487 0
## 1488 0
## 1489 0
## 1490 1
## 1491 1
## 1492 1
## 1493 1
## 1494 0
## 1495 0
## 1496 0
## 1497 0
## 1498 0
## 1499 0
## 1500 0
## 1501 1
## 1502 0
## 1503 1
## 1504 1
## 1505 1
## 1506 1
## 1507 0
## 1508 0
## 1509 0
## 1510 0
## 1511 0
## 1512 1
## 1513 0
## 1514 0
## 1515 0
## 1516 1
## 1517 1
## 1518 1
## 1519 1
## 1520 0
## 1521 0
## 1522 0
## 1523 1
## 1524 0
## 1525 0
## 1526 0
## 1527 1
## 1528 0
## 1529 0
## 1530 1
## 1531 0
## 1532 1
## 1533 1
## 1534 1
## 1535 1
## 1536 0
## 1537 0
## 1538 0
## 1539 0
## 1540 0
## 1541 0
## 1542 0
## 1543 1
## 1544 0
## 1545 0
## 1546 1
## 1547 0
## 1548 1
## 1549 0
## 1550 0
## 1551 1
## 1552 0
## 1553 0
## 1554 0
## 1555 0
## 1556 0
## 1557 1
## 1558 1
## 1559 0
## 1560 1
## 1561 0
## 1562 0
## 1563 1
## 1564 1
## 1565 0
## 1566 1
## 1567 1
## 1568 0
## 1569 1
## 1570 0
## 1571 0
## 1572 0
## 1573 1
## 1574 1
## 1575 0
## 1576 0
## 1577 0
## 1578 1
## 1579 1
## 1580 0
## 1581 0
## 1582 0
## 1583 1
## 1584 0
## 1585 0
## 1586 0
## 1587 0
## 1588 1
## 1589 1
## 1590 0
## 1591 0
## 1592 1
## 1593 0
## 1594 0
## 1595 1
## 1596 1
## 1597 1
## 1598 1
## 1599 0
## 1600 0
## 1601 1
## 1602 0
## 1603 1
## 1604 1
## 1605 1
## 1606 0
## 1607 0
## 1608 1
## 1609 0
## 1610 1
## 1611 0
## 1612 0
## 1613 0
## 1614 0
## 1615 0
## 1616 0
## 1617 0
## 1618 1
## 1619 1
## 1620 1
## 1621 0
## 1622 0
## 1623 1
## 1624 0
## 1625 0
## 1626 0
## 1627 1
## 1628 1
## 1629 1
## 1630 0
## 1631 0
## 1632 0
## 1633 0
## 1634 1
## 1635 0
## 1636 0
## 1637 0
## 1638 0
## 1639 0
## 1640 0
## 1641 1
## 1642 0
## 1643 1
## 1644 0
## 1645 0
## 1646 0
## 1647 1
## 1648 0
## 1649 0
## 1650 0
## 1651 1
## 1652 0
## 1653 0
## 1654 0
## 1655 1
## 1656 0
## 1657 0
## 1658 0
## 1659 0
## 1660 0
## 1661 1
## 1662 0
## 1663 0
## 1664 1
## 1665 1
## 1666 1
## 1667 1
## 1668 1
## 1669 1
## 1670 0
## 1671 0
## 1672 0
## 1673 1
## 1674 0
## 1675 1
## 1676 0
## 1677 0
## 1678 1
## 1679 0
## 1680 1
## 1681 0
## 1682 0
## 1683 0
## 1684 0
## 1685 1
## 1686 0
## 1687 1
## 1688 0
## 1689 1
## 1690 0
## 1691 1
## 1692 0
## 1693 1
## 1694 1
## 1695 1
## 1696 0
## 1697 0
## 1698 0
## 1699 0
## 1700 0
## 1701 1
## 1702 1
## 1703 0
## 1704 0
## 1705 0
## 1706 1
## 1707 0
## 1708 0
## 1709 0
## 1710 0
## 1711 1
## 1712 1
## 1713 1
## 1714 0
## 1715 0
## 1716 0
## 1717 0
## 1718 1
## 1719 0
## 1720 0
## 1721 1
## 1722 0
## 1723 0
## 1724 0
## 1725 1
## 1726 0
## 1727 1
## 1728 1
## 1729 1
## 1730 0
## 1731 0
## 1732 0
## 1733 0
## 1734 1
## 1735 0
## 1736 1
## 1737 0
## 1738 1
## 1739 0
## 1740 0
## 1741 1
## 1742 0
## 1743 0
## 1744 1
## 1745 1
## 1746 0
## 1747 0
## 1748 0
## 1749 1
## 1750 1
## 1751 0
## 1752 1
## 1753 0
## 1754 1
## 1755 1
## 1756 1
## 1757 0
## 1758 0
## 1759 0
## 1760 1
## 1761 1
## 1762 1
## 1763 0
## 1764 0
## 1765 0
## 1766 0
## 1767 0
## 1768 0
## 1769 0
## 1770 0
## 1771 0
## 1772 0
## 1773 1
## 1774 1
## 1775 0
## 1776 0
## 1777 1
## 1778 0
## 1779 1
## 1780 1
## 1781 0
## 1782 0
## 1783 0
## 1784 1
## 1785 0
## 1786 1
## 1787 0
## 1788 1
## 1789 0
## 1790 1
## 1791 1
## 1792 0
## 1793 0
## 1794 0
## 1795 1
## 1796 1
## 1797 0
## 1798 0
## 1799 0
## 1800 0
## 1801 1
## 1802 0
## 1803 1
## 1804 0
## 1805 0
## 1806 0
## 1807 0
## 1808 1
## 1809 1
## 1810 0
## 1811 0
## 1812 0
## 1813 0
## 1814 1
## 1815 0
## 1816 0
## 1817 1
## 1818 1
## 1819 0
## 1820 1
## 1821 0
## 1822 0
## 1823 0
## 1824 0
## 1825 0
## 1826 1
## 1827 1
## 1828 0
## 1829 0
## 1830 0
## 1831 0
## 1832 1
## 1833 1
## 1834 1
## 1835 1
## 1836 1
## 1837 1
## 1838 0
## 1839 0
## 1840 0
## 1841 1
## 1842 0
## 1843 0
## 1844 0
## 1845 0
## 1846 0
## 1847 0
## 1848 1
## 1849 0
## 1850 0
## 1851 1
## 1852 1
## 1853 1
## 1854 1
## 1855 0
## 1856 0
## 1857 1
## 1858 1
## 1859 0
## 1860 0
## 1861 0
## 1862 0
## 1863 0
## 1864 1
## 1865 1
## 1866 1
## 1867 1
## 1868 0
## 1869 0
## 1870 0
## 1871 0
## 1872 0
## 1873 1
## 1874 0
## 1875 0
## 1876 0
## 1877 0
## 1878 1
## 1879 1
## 1880 0
## 1881 1
## 1882 1
## 1883 0
## 1884 0
## 1885 1
## 1886 0
## 1887 0
## 1888 1
## 1889 0
## 1890 0
## 1891 0
## 1892 0
## 1893 1
## 1894 1
## 1895 0
## 1896 1
## 1897 0
## 1898 1
## 1899 1
## 1900 1
## 1901 0
## 1902 0
## 1903 1
## 1904 0
## 1905 0
## 1906 1
## 1907 1
## 1908 1
## 1909 0
## 1910 0
## 1911 1
## 1912 0
## 1913 0
## 1914 0
## 1915 0
## 1916 0
## 1917 0
## 1918 1
## 1919 0
## 1920 1
## 1921 0
## 1922 0
## 1923 0
## 1924 0
## 1925 1
## 1926 1
## 1927 1
## 1928 1
## 1929 0
## 1930 0
## 1931 0
## 1932 0
## 1933 0
## 1934 1
## 1935 0
## 1936 1
## 1937 0
## 1938 0
## 1939 1
## 1940 1
## 1941 1
## 1942 1
## 1943 1
## 1944 0
## 1945 0
## 1946 1
## 1947 0
## 1948 0
## 1949 0
## 1950 0
## 1951 0
## 1952 0
## 1953 0
## 1954 0
## 1955 0
## 1956 1
## 1957 1
## 1958 0
## 1959 0
## 1960 1
## 1961 1
## 1962 0
## 1963 0
## 1964 0
## 1965 1
## 1966 0
## 1967 1
## 1968 1
## 1969 1
## 1970 1
## 1971 0
## 1972 1
## 1973 0
## 1974 1
## 1975 0
## 1976 0
## 1977 0
## 1978 1
## 1979 0
## 1980 0
## 1981 1
## 1982 0
## 1983 0
## 1984 1
## 1985 1
## 1986 0
## 1987 0
## 1988 1
## 1989 1
## 1990 1
## 1991 1
## 1992 0
## 1993 0
## 1994 0
## 1995 0
## 1996 1
## 1997 0
## 1998 1
## 1999 0
## 2000 0
## 2001 1
## 2002 0
## 2003 0
## 2004 0
## 2005 0
## 2006 1
## 2007 1
## 2008 0
## 2009 0
## 2010 1
## 2011 0
## 2012 1
## 2013 0
## 2014 1
## 2015 0
## 2016 0
## 2017 1
## 2018 0
## 2019 1
## 2020 1
## 2021 0
## 2022 1
## 2023 1
## 2024 0
## 2025 1
## 2026 1
## 2027 1
## 2028 1
## 2029 0
## 2030 0
## 2031 0
## 2032 0
## 2033 0
## 2034 1
## 2035 0
## 2036 0
## 2037 1
## 2038 0
## 2039 0
## 2040 1
## 2041 1
## 2042 1
## 2043 1
## 2044 0
## 2045 1
## 2046 1
## 2047 1
## 2048 0
## 2049 0
## 2050 1
## 2051 0
## 2052 1
## 2053 1
## 2054 0
## 2055 0
## 2056 0
## 2057 0
## 2058 0
## 2059 0
## 2060 0
## 2061 1
## 2062 0
## 2063 0
## 2064 1
## 2065 0
## 2066 1
## 2067 1
## 2068 0
## 2069 0
## 2070 1
## 2071 1
## 2072 0
## 2073 0
## 2074 1
## 2075 1
## 2076 1
## 2077 1
## 2078 0
## 2079 1
## 2080 0
## 2081 0
## 2082 1
## 2083 1
## 2084 1
## 2085 0
## 2086 1
## 2087 1
## 2088 0
## 2089 0
## 2090 0
## 2091 0
## 2092 1
## 2093 0
## 2094 0
## 2095 1
## 2096 1
## 2097 1
## 2098 0
## 2099 0
## 2100 1
## 2101 1
## 2102 1
## 2103 0
## 2104 1
## 2105 0
## 2106 0
## 2107 0
## 2108 1
## 2109 0
## 2110 0
## 2111 1
## 2112 0
## 2113 1
## 2114 0
## 2115 0
## 2116 1
## 2117 0
## 2118 0
## 2119 1
## 2120 1
## 2121 0
## 2122 1
## 2123 0
## 2124 1
## 2125 1
## 2126 1
## 2127 1
## 2128 0
## 2129 0
## 2130 0
## 2131 0
## 2132 1
## 2133 1
## 2134 0
## 2135 0
## 2136 1
## 2137 0
## 2138 0
## 2139 0
## 2140 1
## 2141 1
## 2142 0
## 2143 0
## 2144 1
## 2145 0
## 2146 0
## 2147 1
## 2148 0
## 2149 0
## 2150 0
## 2151 1
## 2152 0
## 2153 1
## 2154 0
## 2155 0
## 2156 0
## 2157 0
## 2158 1
## 2159 0
## 2160 0
## 2161 0
## 2162 1
## 2163 1
## 2164 0
## 2165 1
## 2166 1
## 2167 0
## 2168 1
## 2169 1
## 2170 0
## 2171 0
## 2172 0
## 2173 1
## 2174 0
## 2175 1
## 2176 1
## 2177 0
## 2178 0
## 2179 1
## 2180 1
## 2181 0
## 2182 1
## 2183 1
## 2184 0
## 2185 0
## 2186 1
## 2187 0
## 2188 1
## 2189 1
## 2190 1
## 2191 0
## 2192 1
## 2193 1
## 2194 0
## 2195 0
## 2196 0
## 2197 0
## 2198 1
## 2199 0
## 2200 1
## 2201 1
## 2202 1
## 2203 0
## 2204 0
## 2205 0
## 2206 1
## 2207 0
## 2208 1
## 2209 0
## 2210 0
## 2211 0
## 2212 0
## 2213 1
## 2214 0
## 2215 1
## 2216 0
## 2217 0
## 2218 0
## 2219 0
## 2220 0
## 2221 0
## 2222 0
## 2223 0
## 2224 0
## 2225 0
## 2226 0
## 2227 1
## 2228 0
## 2229 0
## 2230 0
## 2231 1
## 2232 0
## 2233 0
## 2234 0
## 2235 0
## 2236 0
## 2237 0
## 2238 1
## 2239 1
## 2240 1
## 2241 1
## 2242 1
## 2243 0
## 2244 1
## 2245 0
## 2246 1
## 2247 1
## 2248 1
## 2249 1
## 2250 0
## 2251 0
## 2252 0
## 2253 0
## 2254 1
## 2255 0
## 2256 0
## 2257 0
## 2258 1
## 2259 1
## 2260 1
## 2261 1
## 2262 0
## 2263 1
## 2264 1
## 2265 1
## 2266 0
## 2267 0
## 2268 1
## 2269 0
## 2270 1
## 2271 0
## 2272 0
## 2273 0
## 2274 1
## 2275 1
## 2276 0
## 2277 1
## 2278 0
## 2279 0
## 2280 1
## 2281 0
## 2282 0
## 2283 1
## 2284 1
## 2285 0
## 2286 0
## 2287 1
## 2288 0
## 2289 1
## 2290 0
## 2291 1
## 2292 0
## 2293 1
## 2294 1
## 2295 0
## 2296 0
## 2297 0
## 2298 0
## 2299 1
## 2300 0
## 2301 0
## 2302 1
## 2303 0
## 2304 1
## 2305 1
## 2306 0
## 2307 0
## 2308 0
## 2309 1
## 2310 1
## 2311 0
## 2312 0
## 2313 1
## 2314 0
## 2315 0
## 2316 0
## 2317 0
## 2318 0
## 2319 0
## 2320 1
## 2321 1
## 2322 0
## 2323 0
## 2324 0
## 2325 0
## 2326 1
## 2327 0
## 2328 0
## 2329 0
## 2330 1
## 2331 1
## 2332 0
## 2333 1
## 2334 1
## 2335 0
## 2336 0
## 2337 0
## 2338 0
## 2339 1
## 2340 1
## 2341 0
## 2342 1
## 2343 1
## 2344 1
## 2345 1
## 2346 0
## 2347 1
## 2348 0
## 2349 1
## 2350 0
## 2351 1
## 2352 1
## 2353 0
## 2354 0
## 2355 0
## 2356 1
## 2357 0
## 2358 0
## 2359 0
## 2360 0
## 2361 0
## 2362 0
## 2363 0
## 2364 0
## 2365 1
## 2366 0
## 2367 1
## 2368 1
## 2369 0
## 2370 1
## 2371 1
## 2372 0
## 2373 1
## 2374 0
## 2375 1
## 2376 0
## 2377 0
## 2378 0
## 2379 0
## 2380 1
## 2381 1
## 2382 0
## 2383 1
## 2384 1
## 2385 1
## 2386 0
## 2387 1
## 2388 1
## 2389 1
## 2390 1
## 2391 0
## 2392 0
## 2393 0
## 2394 0
## 2395 0
## 2396 0
## 2397 0
## 2398 0
## 2399 0
## 2400 0
## 2401 0
## 2402 0
## 2403 0
## 2404 0
## 2405 0
## 2406 1
## 2407 1
## 2408 0
## 2409 0
## 2410 0
## 2411 1
## 2412 1
## 2413 1
## 2414 1
## 2415 0
## 2416 1
## 2417 0
## 2418 0
## 2419 0
## 2420 0
## 2421 1
## 2422 0
## 2423 1
## 2424 1
## 2425 0
## 2426 0
## 2427 0
## 2428 1
## 2429 0
## 2430 0
## 2431 1
## 2432 0
## 2433 0
## 2434 0
## 2435 0
## 2436 0
## 2437 0
## 2438 0
## 2439 1
## 2440 0
## 2441 1
## 2442 1
## 2443 0
## 2444 0
## 2445 1
## 2446 1
## 2447 1
## 2448 0
## 2449 0
## 2450 0
## 2451 0
## 2452 0
## 2453 0
## 2454 0
## 2455 1
## 2456 1
## 2457 0
## 2458 0
## 2459 0
## 2460 0
## 2461 0
## 2462 0
## 2463 0
## 2464 1
## 2465 0
## 2466 1
## 2467 0
## 2468 0
## 2469 0
## 2470 0
## 2471 0
## 2472 0
## 2473 0
## 2474 1
## 2475 0
## 2476 1
## 2477 0
## 2478 0
## 2479 1
## 2480 0
## 2481 0
## 2482 1
## 2483 1
## 2484 0
## 2485 0
## 2486 0
## 2487 1
## 2488 0
## 2489 1
## 2490 1
## 2491 1
## 2492 1
## 2493 0
## 2494 0
## 2495 0
## 2496 0
## 2497 1
## 2498 0
## 2499 0
## 2500 0
## 2501 0
## 2502 0
## 2503 1
## 2504 1
## 2505 0
## 2506 1
## 2507 1
## 2508 0
## 2509 1
## 2510 0
## 2511 1
## 2512 0
## 2513 1
## 2514 1
## 2515 1
## 2516 1
## 2517 0
## 2518 0
## 2519 1
## 2520 0
## 2521 0
## 2522 1
## 2523 0
## 2524 0
## 2525 1
## 2526 0
## 2527 1
## 2528 0
## 2529 0
## 2530 0
## 2531 0
## 2532 0
## 2533 0
## 2534 0
## 2535 0
## 2536 0
## 2537 0
## 2538 0
## 2539 0
## 2540 0
## 2541 1
## 2542 0
## 2543 0
## 2544 0
## 2545 0
## 2546 0
## 2547 1
## 2548 0
## 2549 0
## 2550 1
## 2551 0
## 2552 1
## 2553 0
## 2554 1
## 2555 0
## 2556 1
## 2557 1
## 2558 1
## 2559 1
## 2560 0
## 2561 0
## 2562 0
## 2563 0
## 2564 0
## 2565 0
## 2566 0
## 2567 0
## 2568 0
## 2569 0
## 2570 1
## 2571 0
## 2572 1
## 2573 0
## 2574 1
## 2575 1
## 2576 1
## 2577 1
## 2578 0
## 2579 0
## 2580 1
## 2581 0
## 2582 0
## 2583 1
## 2584 1
## 2585 0
## 2586 1
## 2587 1
## 2588 0
## 2589 0
## 2590 1
## 2591 0
## 2592 0
## 2593 1
## 2594 0
## 2595 0
## 2596 0
## 2597 0
## 2598 0
## 2599 1
## 2600 1
## 2601 0
## 2602 0
## 2603 1
## 2604 0
## 2605 1
## 2606 1
## 2607 0
## 2608 1
## 2609 0
## 2610 1
## 2611 0
## 2612 0
## 2613 1
## 2614 1
## 2615 0
## 2616 0
## 2617 0
## 2618 0
## 2619 1
## 2620 0
## 2621 0
## 2622 0
## 2623 1
## 2624 0
## 2625 1
## 2626 0
## 2627 0
## 2628 0
## 2629 1
## 2630 0
## 2631 1
## 2632 0
## 2633 0
## 2634 0
## 2635 0
## 2636 0
## 2637 1
## 2638 1
## 2639 1
## 2640 0
## 2641 0
## 2642 0
## 2643 0
## 2644 1
## 2645 1
## 2646 1
## 2647 0
## 2648 1
## 2649 1
## 2650 0
## 2651 1
## 2652 0
## 2653 1
## 2654 1
## 2655 0
## 2656 0
## 2657 0
## 2658 0
## 2659 0
## 2660 0
## 2661 1
## 2662 0
## 2663 0
## 2664 1
## 2665 0
## 2666 0
## 2667 0
## 2668 1
## 2669 0
## 2670 1
## 2671 0
## 2672 0
## 2673 1
## 2674 0
## 2675 0
## 2676 0
## 2677 0
## 2678 0
## 2679 1
## 2680 0
## 2681 0
## 2682 1
## 2683 1
## 2684 1
## 2685 1
## 2686 1
## 2687 1
## 2688 0
## 2689 0
## 2690 1
## 2691 1
## 2692 0
## 2693 0
## 2694 1
## 2695 1
## 2696 0
## 2697 1
## 2698 1
## 2699 1
## 2700 0
## 2701 0
## 2702 1
## 2703 0
## 2704 0
## 2705 0
## 2706 1
## 2707 0
## 2708 1
## 2709 1
## 2710 0
## 2711 0
## 2712 1
## 2713 0
## 2714 1
## 2715 0
## 2716 0
## 2717 0
## 2718 1
## 2719 1
## 2720 0
## 2721 0
## 2722 1
## 2723 1
## 2724 0
## 2725 0
## 2726 1
## 2727 0
## 2728 1
## 2729 0
## 2730 0
## 2731 0
## 2732 1
## 2733 1
## 2734 0
## 2735 0
## 2736 0
## 2737 0
## 2738 0
## 2739 0
## 2740 1
## 2741 1
## 2742 0
## 2743 0
## 2744 0
## 2745 1
## 2746 0
## 2747 0
## 2748 0
## 2749 1
## 2750 0
## 2751 0
## 2752 0
## 2753 0
## 2754 0
## 2755 0
## 2756 1
## 2757 0
## 2758 0
## 2759 0
## 2760 0
## 2761 0
## 2762 1
## 2763 1
## 2764 0
## 2765 1
## 2766 1
## 2767 0
## 2768 0
## 2769 0
## 2770 0
## 2771 1
## 2772 0
## 2773 1
## 2774 1
## 2775 1
## 2776 0
## 2777 0
## 2778 1
## 2779 0
## 2780 0
## 2781 0
## 2782 0
## 2783 1
## 2784 0
## 2785 1
## 2786 1
## 2787 0
## 2788 0
## 2789 1
## 2790 0
## 2791 1
## 2792 0
## 2793 0
## 2794 0
## 2795 1
## 2796 0
## 2797 1
## 2798 1
## 2799 1
## 2800 0
## 2801 1
## 2802 0
## 2803 1
## 2804 0
## 2805 0
## 2806 0
## 2807 0
## 2808 1
## 2809 0
## 2810 0
## 2811 1
## 2812 0
## 2813 0
## 2814 1
## 2815 0
## 2816 1
## 2817 1
## 2818 0
## 2819 1
## 2820 0
## 2821 1
## 2822 0
## 2823 0
## 2824 0
## 2825 0
## 2826 0
## 2827 0
## 2828 1
## 2829 0
## 2830 0
## 2831 0
## 2832 0
## 2833 0
## 2834 1
## 2835 1
## 2836 0
## 2837 0
## 2838 0
## 2839 0
## 2840 1
## 2841 0
## 2842 0
## 2843 1
## 2844 0
## 2845 0
## 2846 0
## 2847 0
## 2848 0
## 2849 1
## 2850 1
## 2851 1
## 2852 0
## 2853 0
## 2854 0
## 2855 1
## 2856 0
## 2857 0
## 2858 0
## 2859 1
## 2860 1
## 2861 1
## 2862 1
## 2863 1
## 2864 1
## 2865 0
## 2866 0
## 2867 0
## 2868 1
## 2869 0
## 2870 1
## 2871 0
## 2872 0
## 2873 0
## 2874 1
## 2875 1
## 2876 0
## 2877 1
## 2878 1
## 2879 1
## 2880 1
## 2881 0
## 2882 0
## 2883 0
## 2884 0
## 2885 1
## 2886 0
## 2887 0
## 2888 0
## 2889 1
## 2890 1
## 2891 0
## 2892 0
## 2893 0
## 2894 0
## 2895 0
## 2896 1
## 2897 1
## 2898 0
## 2899 0
## 2900 1
## 2901 0
## 2902 0
## 2903 0
## 2904 0
## 2905 1
## 2906 0
## 2907 0
## 2908 0
## 2909 0
## 2910 0
## 2911 0
## 2912 0
## 2913 1
## 2914 0
## 2915 0
## 2916 0
## 2917 1
## 2918 0
## 2919 0
## 2920 0
## 2921 0
## 2922 0
## 2923 1
## 2924 1
## 2925 0
## 2926 0
## 2927 0
## 2928 0
## 2929 0
## 2930 1
## 2931 0
## 2932 0
## 2933 1
## 2934 1
## 2935 1
## 2936 0
## 2937 0
## 2938 1
## 2939 0
## 2940 0
## 2941 1
## 2942 0
## 2943 0
## 2944 0
## 2945 0
## 2946 1
## 2947 1
## 2948 1
## 2949 1
## 2950 1
## 2951 0
## 2952 1
## 2953 0
## 2954 1
## 2955 0
## 2956 1
## 2957 1
## 2958 1
## 2959 0
## 2960 0
## 2961 0
## 2962 0
## 2963 0
## 2964 0
## 2965 0
## 2966 0
## 2967 0
## 2968 1
## 2969 0
## 2970 0
## 2971 1
## 2972 0
## 2973 1
## 2974 0
## 2975 0
## 2976 1
## 2977 0
## 2978 1
## 2979 0
## 2980 1
## 2981 0
## 2982 0
## 2983 1
## 2984 1
## 2985 1
## 2986 0
## 2987 0
## 2988 0
## 2989 1
## 2990 1
## 2991 0
## 2992 0
## 2993 1
## 2994 1
## 2995 0
## 2996 1
## 2997 0
## 2998 0
## 2999 0
## 3000 0
## 3001 0
## 3002 0
## 3003 1
## 3004 0
## 3005 0
## 3006 1
## 3007 1
## 3008 0
## 3009 0
## 3010 0
## 3011 0
## 3012 0
## 3013 0
## 3014 0
## 3015 1
## 3016 0
## 3017 0
## 3018 0
## 3019 0
## 3020 0
## 3021 0
## 3022 1
## 3023 1
## 3024 1
## 3025 0
## 3026 0
## 3027 0
## 3028 0
## 3029 1
## 3030 1
## 3031 0
## 3032 0
## 3033 1
## 3034 1
## 3035 0
## 3036 0
## 3037 0
## 3038 0
## 3039 0
## 3040 0
## 3041 1
## 3042 1
## 3043 0
## 3044 1
## 3045 1
## 3046 0
## 3047 0
## 3048 0
## 3049 1
## 3050 0
## 3051 0
## 3052 1
## 3053 1
## 3054 0
## 3055 0
## 3056 0
## 3057 1
## 3058 1
## 3059 1
## 3060 1
## 3061 1
## 3062 0
## 3063 1
## 3064 1
## 3065 0
## 3066 1
## 3067 0
## 3068 0
## 3069 0
## 3070 0
## 3071 0
## 3072 0
## 3073 1
## 3074 1
## 3075 1
## 3076 1
## 3077 0
## 3078 0
## 3079 0
## 3080 1
## 3081 1
## 3082 1
## 3083 0
## 3084 1
## 3085 1
## 3086 0
## 3087 0
## 3088 1
## 3089 1
## 3090 0
## 3091 0
## 3092 0
## 3093 0
## 3094 1
## 3095 0
## 3096 1
## 3097 1
## 3098 1
## 3099 0
## 3100 0
## 3101 0
## 3102 0
## 3103 0
## 3104 0
## 3105 1
## 3106 1
## 3107 0
## 3108 0
## 3109 1
## 3110 1
## 3111 1
## 3112 0
## 3113 1
## 3114 0
## 3115 0
## 3116 0
## 3117 0
## 3118 1
## 3119 1
## 3120 0
## 3121 0
## 3122 0
## 3123 1
## 3124 0
## 3125 1
## 3126 0
## 3127 1
## 3128 0
## 3129 0
## 3130 1
## 3131 1
## 3132 1
## 3133 0
## 3134 1
## 3135 1
## 3136 0
## 3137 0
## 3138 0
## 3139 1
## 3140 0
## 3141 0
## 3142 1
## 3143 1
## 3144 0
## 3145 0
## 3146 1
## 3147 0
## 3148 0
## 3149 0
## 3150 1
## 3151 1
## 3152 0
## 3153 0
## 3154 0
## 3155 0
## 3156 0
## 3157 0
## 3158 0
## 3159 1
## 3160 0
## 3161 0
## 3162 0
## 3163 0
## 3164 0
## 3165 0
## 3166 1
## 3167 0
## 3168 1
## 3169 1
## 3170 0
## 3171 0
## 3172 1
## 3173 0
## 3174 1
## 3175 1
## 3176 0
## 3177 0
## 3178 0
## 3179 0
## 3180 1
## 3181 0
## 3182 1
## 3183 1
## 3184 0
## 3185 0
## 3186 0
## 3187 1
## 3188 0
## 3189 0
## 3190 0
## 3191 0
## 3192 0
## 3193 0
## 3194 0
## 3195 0
## 3196 0
## 3197 1
## 3198 1
## 3199 0
## 3200 0
## 3201 0
## 3202 1
## 3203 0
## 3204 1
## 3205 0
## 3206 0
## 3207 0
## 3208 1
## 3209 1
## 3210 1
## 3211 0
## 3212 0
## 3213 0
## 3214 0
## 3215 0
## 3216 0
## 3217 0
## 3218 1
## 3219 0
## 3220 1
## 3221 0
## 3222 0
## 3223 1
## 3224 1
## 3225 1
## 3226 1
## 3227 1
## 3228 0
## 3229 0
## 3230 0
## 3231 0
## 3232 0
## 3233 1
## 3234 0
## 3235 0
## 3236 0
## 3237 0
## 3238 0
## 3239 0
## 3240 0
## 3241 1
## 3242 0
## 3243 0
## 3244 0
## 3245 0
## 3246 1
## 3247 0
## 3248 0
## 3249 1
## 3250 1
## 3251 1
## 3252 1
## 3253 0
## 3254 1
## 3255 1
## 3256 1
## 3257 0
## 3258 0
## 3259 0
## 3260 0
## 3261 0
## 3262 0
## 3263 0
## 3264 0
## 3265 0
## 3266 0
## 3267 1
## 3268 0
## 3269 0
## 3270 0
## 3271 0
## 3272 0
## 3273 1
## 3274 1
## 3275 1
## 3276 0
## 3277 1
## 3278 0
## 3279 0
## 3280 0
## 3281 0
## 3282 1
## 3283 1
## 3284 0
## 3285 0
## 3286 0
## 3287 0
## 3288 0
## 3289 0
## 3290 0
## 3291 0
## 3292 1
## 3293 1
## 3294 1
## 3295 0
## 3296 1
## 3297 1
## 3298 1
## 3299 0
## 3300 0
## 3301 0
## 3302 0
## 3303 1
## 3304 1
## 3305 1
## 3306 0
## 3307 1
## 3308 0
## 3309 0
## 3310 1
## 3311 0
## 3312 1
## 3313 1
## 3314 0
## 3315 0
## 3316 0
## 3317 0
## 3318 1
## 3319 0
## 3320 0
## 3321 0
## 3322 0
## 3323 0
## 3324 0
## 3325 0
## 3326 0
## 3327 1
## 3328 0
## 3329 1
## 3330 0
## 3331 1
## 3332 1
## 3333 1
## 3334 1
## 3335 0
## 3336 0
## 3337 0
## 3338 0
## 3339 0
## 3340 0
## 3341 0
## 3342 0
## 3343 0
## 3344 0
## 3345 0
## 3346 0
## 3347 0
## 3348 0
## 3349 0
## 3350 0
## 3351 0
## 3352 0
## 3353 0
## 3354 0
## 3355 0
## 3356 0
## 3357 0
## 3358 0
## 3359 0
## 3360 1
## 3361 0
## 3362 1
## 3363 1
## 3364 1
## 3365 1
## 3366 0
## 3367 1
## 3368 1
## 3369 1
## 3370 0
## 3371 0
## 3372 1
## 3373 1
## 3374 1
## 3375 0
## 3376 0
## 3377 1
## 3378 0
## 3379 0
## 3380 0
## 3381 1
## 3382 1
## 3383 0
## 3384 0
## 3385 0
## 3386 0
## 3387 1
## 3388 0
## 3389 0
## 3390 1
## 3391 1
## 3392 0
## 3393 0
## 3394 0
## 3395 0
## 3396 0
## 3397 1
## 3398 0
## 3399 0
## 3400 0
## 3401 0
## 3402 0
## 3403 0
## 3404 1
## 3405 0
## 3406 0
## 3407 0
## 3408 0
## 3409 1
## 3410 1
## 3411 1
## 3412 0
## 3413 0
## 3414 1
## 3415 1
## 3416 0
## 3417 0
## 3418 0
## 3419 1
## 3420 0
## 3421 0
## 3422 0
## 3423 0
## 3424 1
## 3425 1
## 3426 0
## 3427 0
## 3428 0
## 3429 1
## 3430 1
## 3431 1
## 3432 0
## 3433 0
## 3434 0
## 3435 1
## 3436 1
## 3437 0
## 3438 0
## 3439 1
## 3440 1
## 3441 0
## 3442 0
## 3443 1
## 3444 1
## 3445 0
## 3446 0
## 3447 1
## 3448 1
## 3449 0
## 3450 1
## 3451 0
## 3452 0
## 3453 0
## 3454 0
## 3455 1
## 3456 0
## 3457 0
## 3458 1
## 3459 0
## 3460 1
## 3461 1
## 3462 1
## 3463 0
## 3464 1
## 3465 1
## 3466 1
## 3467 0
## 3468 0
## 3469 0
## 3470 0
## 3471 0
## 3472 1
## 3473 1
## 3474 0
## 3475 0
## 3476 1
## 3477 1
## 3478 0
## 3479 1
## 3480 1
## 3481 0
## 3482 1
## 3483 1
## 3484 1
## 3485 1
## 3486 1
## 3487 0
## 3488 1
## 3489 0
## 3490 1
## 3491 1
## 3492 0
## 3493 1
## 3494 1
## 3495 1
## 3496 1
## 3497 0
## 3498 1
## 3499 0
## 3500 1
## 3501 0
## 3502 1
## 3503 0
## 3504 0
## 3505 1
## 3506 0
## 3507 0
## 3508 1
## 3509 0
## 3510 0
## 3511 0
## 3512 1
## 3513 1
## 3514 0
## 3515 0
## 3516 1
## 3517 1
## 3518 0
## 3519 1
## 3520 0
## 3521 1
## 3522 0
## 3523 0
## 3524 1
## 3525 0
## 3526 0
## 3527 0
## 3528 1
## 3529 1
## 3530 0
## 3531 0
## 3532 0
## 3533 1
## 3534 0
## 3535 1
## 3536 1
## 3537 0
## 3538 0
## 3539 0
## 3540 1
## 3541 1
## 3542 0
## 3543 0
## 3544 1
## 3545 1
## 3546 0
## 3547 0
## 3548 0
## 3549 0
## 3550 0
## 3551 0
## 3552 1
## 3553 0
## 3554 1
## 3555 0
## 3556 0
## 3557 0
## 3558 0
## 3559 0
## 3560 1
## 3561 0
## 3562 1
## 3563 0
## 3564 0
## 3565 1
## 3566 1
## 3567 0
## 3568 1
## 3569 1
## 3570 0
## 3571 0
## 3572 1
## 3573 0
## 3574 0
## 3575 0
## 3576 0
## 3577 0
## 3578 0
## 3579 1
## 3580 0
## 3581 0
## 3582 0
## 3583 0
## 3584 1
## 3585 0
## 3586 0
## 3587 0
## 3588 1
## 3589 0
## 3590 0
## 3591 0
## 3592 1
## 3593 1
## 3594 0
## 3595 0
## 3596 0
## 3597 0
## 3598 0
## 3599 0
## 3600 0
## 3601 1
## 3602 0
## 3603 0
## 3604 0
## 3605 0
## 3606 1
## 3607 0
## 3608 0
## 3609 1
## 3610 1
## 3611 0
## 3612 0
## 3613 1
## 3614 1
## 3615 0
## 3616 1
## 3617 0
## 3618 1
## 3619 1
## 3620 1
## 3621 0
## 3622 1
## 3623 0
## 3624 0
## 3625 0
## 3626 1
## 3627 0
## 3628 0
## 3629 1
## 3630 1
## 3631 1
## 3632 1
## 3633 0
## 3634 0
## 3635 1
## 3636 0
## 3637 1
## 3638 1
## 3639 0
## 3640 0
## 3641 0
## 3642 0
## 3643 1
## 3644 0
## 3645 0
## 3646 1
## 3647 0
## 3648 0
## 3649 0
## 3650 0
## 3651 0
## 3652 0
## 3653 1
## 3654 1
## 3655 0
## 3656 0
## 3657 1
## 3658 0
## 3659 0
## 3660 0
## 3661 0
## 3662 0
## 3663 1
## 3664 1
## 3665 1
## 3666 0
## 3667 0
## 3668 1
## 3669 0
## 3670 0
## 3671 0
## 3672 1
## 3673 1
## 3674 1
## 3675 1
## 3676 0
## 3677 0
## 3678 1
## 3679 1
## 3680 1
## 3681 1
## 3682 1
## 3683 0
## 3684 1
## 3685 0
## 3686 0
## 3687 0
## 3688 0
## 3689 0
## 3690 1
## 3691 1
## 3692 0
## 3693 0
## 3694 0
## 3695 1
## 3696 0
## 3697 0
## 3698 1
## 3699 0
## 3700 0
## 3701 0
## 3702 0
## 3703 1
## 3704 1
## 3705 1
## 3706 1
## 3707 0
## 3708 1
## 3709 0
## 3710 1
## 3711 1
## 3712 1
## 3713 1
## 3714 0
## 3715 0
## 3716 0
## 3717 1
## 3718 0
## 3719 0
## 3720 1
## 3721 1
## 3722 1
## 3723 1
## 3724 1
## 3725 1
## 3726 1
## 3727 0
## 3728 1
## 3729 1
## 3730 0
## 3731 0
## 3732 1
## 3733 0
## 3734 1
## 3735 0
## 3736 1
## 3737 0
## 3738 1
## 3739 0
## 3740 1
## 3741 0
## 3742 0
## 3743 1
## 3744 1
## 3745 0
## 3746 0
## 3747 0
## 3748 1
## 3749 0
## 3750 0
## 3751 1
## 3752 1
## 3753 1
## 3754 1
## 3755 0
## 3756 1
## 3757 1
## 3758 0
## 3759 0
## 3760 0
## 3761 0
## 3762 1
## 3763 1
## 3764 1
## 3765 1
## 3766 0
## 3767 1
## 3768 0
## 3769 0
## 3770 0
## 3771 1
## 3772 0
## 3773 0
## 3774 0
## 3775 1
## 3776 0
## 3777 0
## 3778 1
## 3779 0
## 3780 1
## 3781 0
## 3782 1
## 3783 0
## 3784 1
## 3785 1
## 3786 1
## 3787 0
## 3788 1
## 3789 0
## 3790 0
## 3791 0
## 3792 0
## 3793 0
## 3794 1
## 3795 0
## 3796 0
## 3797 0
## 3798 1
## 3799 0
## 3800 0
## 3801 1
## 3802 0
## 3803 0
## 3804 0
## 3805 0
## 3806 1
## 3807 0
## 3808 0
## 3809 1
## 3810 0
## 3811 1
## 3812 1
## 3813 0
## 3814 1
## 3815 0
## 3816 0
## 3817 1
## 3818 0
## 3819 1
## 3820 1
## 3821 0
## 3822 0
## 3823 0
## 3824 1
## 3825 1
## 3826 0
## 3827 0
## 3828 0
## 3829 0
## 3830 1
## 3831 1
## 3832 1
## 3833 0
## 3834 0
## 3835 1
## 3836 0
## 3837 1
## 3838 0
## 3839 1
## 3840 1
## 3841 0
## 3842 0
## 3843 1
## 3844 0
## 3845 0
## 3846 0
## 3847 0
## 3848 0
## 3849 1
## 3850 0
## 3851 0
## 3852 1
## 3853 0
## 3854 0
## 3855 1
## 3856 0
## 3857 1
## 3858 0
## 3859 0
## 3860 0
## 3861 1
## 3862 1
## 3863 1
## 3864 0
## 3865 0
## 3866 1
## 3867 0
## 3868 1
## 3869 1
## 3870 0
## 3871 0
## 3872 1
## 3873 1
## 3874 0
## 3875 0
## 3876 1
## 3877 0
## 3878 0
## 3879 0
## 3880 0
## 3881 0
## 3882 0
## 3883 0
## 3884 0
## 3885 0
## 3886 0
## 3887 0
## 3888 0
## 3889 1
## 3890 0
## 3891 0
## 3892 1
## 3893 1
## 3894 0
## 3895 1
## 3896 0
## 3897 0
## 3898 0
## 3899 1
## 3900 0
## 3901 0
## 3902 0
## 3903 0
## 3904 1
## 3905 1
## 3906 0
## 3907 0
## 3908 0
## 3909 1
## 3910 0
## 3911 0
## 3912 0
## 3913 0
## 3914 0
## 3915 1
## 3916 0
## 3917 0
## 3918 1
## 3919 0
## 3920 0
## 3921 0
## 3922 1
## 3923 1
## 3924 0
## 3925 0
## 3926 0
## 3927 0
## 3928 1
## 3929 1
## 3930 0
## 3931 1
## 3932 1
## 3933 1
## 3934 0
## 3935 0
## 3936 0
## 3937 1
## 3938 0
## 3939 0
## 3940 0
## 3941 1
## 3942 0
## 3943 1
## 3944 0
## 3945 0
## 3946 1
## 3947 0
## 3948 1
## 3949 1
## 3950 0
## 3951 1
## 3952 0
## 3953 1
## 3954 1
## 3955 1
## 3956 0
## 3957 0
## 3958 1
## 3959 1
## 3960 1
## 3961 0
## 3962 0
## 3963 1
## 3964 1
## 3965 1
## 3966 0
## 3967 0
## 3968 0
## 3969 0
## 3970 1
## 3971 1
## 3972 0
## 3973 1
## 3974 0
## 3975 1
## 3976 0
## 3977 0
## 3978 1
## 3979 0
## 3980 0
## 3981 0
## 3982 0
## 3983 0
## 3984 0
## 3985 1
## 3986 0
## 3987 1
## 3988 0
## 3989 1
## 3990 0
## 3991 0
## 3992 0
## 3993 0
## 3994 0
## 3995 0
## 3996 0
## 3997 1
## 3998 1
## 3999 1
## 4000 1
## 4001 1
## 4002 0
## 4003 0
## 4004 0
## 4005 0
## 4006 0
## 4007 0
## 4008 0
## 4009 0
## 4010 1
## 4011 0
## 4012 0
## 4013 1
## 4014 1
## 4015 0
## 4016 1
## 4017 1
## 4018 1
## 4019 0
## 4020 0
## 4021 0
## 4022 0
## 4023 1
## 4024 0
## 4025 0
## 4026 0
## 4027 0
## 4028 0
## 4029 1
## 4030 1
## 4031 0
## 4032 0
## 4033 0
## 4034 0
## 4035 0
## 4036 0
## 4037 0
## 4038 0
## 4039 1
## 4040 0
## 4041 0
## 4042 0
## 4043 1
## 4044 0
## 4045 0
## 4046 0
## 4047 0
## 4048 1
## 4049 1
## 4050 0
## 4051 0
## 4052 0
## 4053 0
## 4054 0
## 4055 1
## 4056 0
## 4057 0
## 4058 1
## 4059 0
## 4060 0
## 4061 1
## 4062 1
## 4063 1
## 4064 1
## 4065 0
## 4066 1
## 4067 0
## 4068 1
## 4069 0
## 4070 1
## 4071 0
## 4072 1
## 4073 0
## 4074 1
## 4075 0
## 4076 0
## 4077 0
## 4078 0
## 4079 0
## 4080 0
## 4081 1
## 4082 1
## 4083 1
## 4084 1
## 4085 1
## 4086 1
## 4087 0
## 4088 0
## 4089 1
## 4090 1
## 4091 0
## 4092 0
## 4093 0
## 4094 0
## 4095 1
## 4096 1
## 4097 0
## 4098 0
## 4099 0
## 4100 0
## 4101 0
## 4102 1
## 4103 0
## 4104 1
## 4105 1
## 4106 0
## 4107 1
## 4108 0
## 4109 1
## 4110 0
## 4111 0
## 4112 1
## 4113 1
## 4114 0
## 4115 0
## 4116 1
## 4117 0
## 4118 1
## 4119 1
## 4120 1
## 4121 0
## 4122 0
## 4123 0
## 4124 0
## 4125 0
## 4126 1
## 4127 0
## 4128 0
## 4129 0
## 4130 0
## 4131 0
## 4132 0
## 4133 1
## 4134 0
## 4135 0
## 4136 1
## 4137 1
## 4138 0
## 4139 0
## 4140 0
## 4141 1
## 4142 0
## 4143 0
## 4144 0
## 4145 0
## 4146 0
## 4147 0
## 4148 0
## 4149 0
## 4150 0
## 4151 0
## 4152 1
## 4153 0
## 4154 0
## 4155 1
## 4156 0
## 4157 1
## 4158 0
## 4159 0
## 4160 0
## 4161 1
## 4162 0
## 4163 0
## 4164 0
## 4165 0
## 4166 0
## 4167 1
## 4168 1
## 4169 0
## 4170 0
## 4171 0
## 4172 0
## 4173 1
## 4174 0
## 4175 1
## 4176 0
## 4177 0
## 4178 0
## 4179 0
## 4180 1
## 4181 0
## 4182 1
## 4183 1
## 4184 0
## 4185 0
## 4186 0
## 4187 0
## 4188 0
## 4189 0
## 4190 0
## 4191 0
## 4192 1
## 4193 1
## 4194 1
## 4195 1
## 4196 0
## 4197 0
## 4198 1
## 4199 1
## 4200 1
## 4201 0
## 4202 1
## 4203 1
## 4204 0
## 4205 1
## 4206 0
## 4207 1
## 4208 1
## 4209 0
## 4210 0
## 4211 1
## 4212 1
## 4213 1
## 4214 1
## 4215 1
## 4216 0
## 4217 1
## 4218 1
## 4219 0
## 4220 1
## 4221 0
## 4222 1
## 4223 1
## 4224 0
## 4225 1
## 4226 0
## 4227 0
## 4228 0
## 4229 0
## 4230 1
## 4231 1
## 4232 0
## 4233 0
## 4234 0
## 4235 1
## 4236 0
## 4237 1
## 4238 0
## 4239 0
## 4240 1
## 4241 1
## 4242 1
## 4243 1
## 4244 1
## 4245 0
## 4246 0
## 4247 0
## 4248 0
## 4249 1
## 4250 0
## 4251 0
## 4252 0
## 4253 0
## 4254 0
## 4255 0
## 4256 0
## 4257 1
## 4258 0
## 4259 0
## 4260 0
## 4261 0
## 4262 0
## 4263 1
## 4264 0
## 4265 0
## 4266 1
## 4267 0
## 4268 0
## 4269 0
## 4270 0
## 4271 1
## 4272 0
## 4273 1
## 4274 0
## 4275 0
## 4276 0
## 4277 0
## 4278 0
## 4279 0
## 4280 0
## 4281 0
## 4282 0
## 4283 0
## 4284 0
## 4285 0
## 4286 0
## 4287 0
## 4288 1
## 4289 0
## 4290 1
## 4291 1
## 4292 0
## 4293 1
## 4294 0
## 4295 0
## 4296 0
## 4297 1
## 4298 0
## 4299 0
## 4300 1
## 4301 0
## 4302 0
## 4303 0
## 4304 0
## 4305 0
## 4306 1
## 4307 0
## 4308 0
## 4309 0
## 4310 1
## 4311 0
## 4312 0
## 4313 0
## 4314 0
## 4315 0
## 4316 0
## 4317 0
## 4318 0
## 4319 0
## 4320 1
## 4321 1
## 4322 0
## 4323 0
## 4324 1
## 4325 1
## 4326 0
## 4327 0
## 4328 1
## 4329 0
## 4330 1
## 4331 0
## 4332 1
## 4333 1
## 4334 1
## 4335 0
## 4336 0
## 4337 1
## 4338 1
## 4339 0
## 4340 1
## 4341 0
## 4342 0
## 4343 0
## 4344 0
## 4345 0
## 4346 0
## 4347 0
## 4348 0
## 4349 1
## 4350 1
## 4351 1
## 4352 1
## 4353 1
## 4354 0
## 4355 0
## 4356 0
## 4357 0
## 4358 0
## 4359 0
## 4360 0
## 4361 0
## 4362 1
## 4363 0
## 4364 1
## 4365 0
## 4366 1
## 4367 0
## 4368 0
## 4369 0
## 4370 1
## 4371 0
## 4372 0
## 4373 0
## 4374 0
## 4375 0
## 4376 0
## 4377 1
## 4378 0
## 4379 1
## 4380 0
## 4381 1
## 4382 1
## 4383 0
## 4384 0
## 4385 1
## 4386 1
## 4387 1
## 4388 0
## 4389 1
## 4390 1
## 4391 1
## 4392 0
## 4393 0
## 4394 0
## 4395 1
## 4396 1
## 4397 1
## 4398 1
## 4399 1
## 4400 0
## 4401 1
## 4402 0
## 4403 1
## 4404 0
## 4405 0
## 4406 1
## 4407 1
## 4408 0
## 4409 1
## 4410 1
## 4411 0
## 4412 0
## 4413 1
## 4414 1
## 4415 0
## 4416 0
## 4417 0
## 4418 0
## 4419 1
## 4420 0
## 4421 1
## 4422 1
## 4423 0
## 4424 0
## 4425 0
## 4426 1
## 4427 1
## 4428 0
## 4429 0
## 4430 1
## 4431 0
## 4432 0
## 4433 0
## 4434 0
## 4435 1
## 4436 0
## 4437 0
## 4438 1
## 4439 0
## 4440 0
## 4441 1
## 4442 1
## 4443 0
## 4444 1
## 4445 0
## 4446 1
## 4447 1
## 4448 0
## 4449 0
## 4450 0
## 4451 1
## 4452 0
## 4453 0
## 4454 0
## 4455 1
## 4456 0
## 4457 0
## 4458 0
## 4459 0
## 4460 0
## 4461 0
## 4462 1
## 4463 1
## 4464 0
## 4465 1
## 4466 1
## 4467 1
## 4468 1
## 4469 0
## 4470 1
## 4471 0
## 4472 1
## 4473 1
## 4474 1
## 4475 1
## 4476 1
## 4477 1
## 4478 0
## 4479 0
## 4480 0
## 4481 1
## 4482 1
## 4483 1
## 4484 0
## 4485 1
## 4486 1
## 4487 0
## 4488 0
## 4489 0
## 4490 1
## 4491 0
## 4492 0
## 4493 0
## 4494 1
## 4495 0
## 4496 0
## 4497 1
## 4498 1
## 4499 1
## 4500 1
## 4501 0
## 4502 0
## 4503 0
## 4504 0
## 4505 0
## 4506 0
## 4507 1
## 4508 1
## 4509 0
## 4510 1
## 4511 1
## 4512 0
## 4513 1
## 4514 1
## 4515 0
## 4516 0
## 4517 0
## 4518 1
## 4519 1
## 4520 1
## 4521 1
## 4522 1
## 4523 0
## 4524 1
## 4525 1
## 4526 0
## 4527 1
## 4528 0
## 4529 0
## 4530 1
## 4531 0
## 4532 0
## 4533 1
## 4534 1
## 4535 1
## 4536 1
## 4537 0
## 4538 0
## 4539 1
## 4540 1
## 4541 0
## 4542 0
## 4543 0
## 4544 1
## 4545 0
## 4546 1
## 4547 0
## 4548 0
## 4549 1
## 4550 0
## 4551 0
## 4552 0
## 4553 1
## 4554 1
## 4555 1
## 4556 0
## 4557 0
## 4558 1
## 4559 1
## 4560 1
## 4561 0
## 4562 1
## 4563 1
## 4564 0
## 4565 0
## 4566 1
## 4567 0
## 4568 1
## 4569 0
## 4570 0
## 4571 0
## 4572 0
## 4573 0
## 4574 1
## 4575 0
## 4576 1
## 4577 1
## 4578 0
## 4579 1
## 4580 1
## 4581 1
## 4582 0
## 4583 0
## 4584 1
## 4585 1
## 4586 1
## 4587 0
## 4588 0
## 4589 0
## 4590 1
## 4591 0
## 4592 0
## 4593 0
## 4594 0
## 4595 0
## 4596 0
## 4597 0
## 4598 0
## 4599 0
## 4600 1
## 4601 0
## 4602 1
## 4603 1
## 4604 0
## 4605 0
## 4606 1
## 4607 1
## 4608 0
## 4609 0
## 4610 0
## 4611 0
## 4612 1
## 4613 1
## 4614 0
## 4615 1
## 4616 0
## 4617 1
## 4618 0
## 4619 1
## 4620 0
## 4621 0
## 4622 0
## 4623 0
## 4624 0
## 4625 1
## 4626 0
## 4627 1
## 4628 0
## 4629 1
## 4630 1
## 4631 1
## 4632 1
## 4633 1
## 4634 1
## 4635 1
## 4636 1
## 4637 1
## 4638 0
## 4639 1
## 4640 0
## 4641 1
## 4642 0
## 4643 0
## 4644 0
## 4645 0
## 4646 1
## 4647 0
## 4648 1
## 4649 1
## 4650 1
## 4651 1
## 4652 0
## 4653 0
## 4654 1
## 4655 0
## 4656 1
## 4657 1
## 4658 0
## 4659 1
## 4660 1
## 4661 0
## 4662 1
## 4663 1
## 4664 0
## 4665 1
## 4666 1
## 4667 0
## 4668 1
## 4669 1
## 4670 1
## 4671 0
## 4672 0
## 4673 1
## 4674 0
## 4675 0
## 4676 1
## 4677 1
## 4678 0
## 4679 1
## 4680 0
## 4681 0
## 4682 0
## 4683 0
## 4684 1
## 4685 0
## 4686 1
## 4687 1
## 4688 1
## 4689 0
## 4690 0
## 4691 0
## 4692 0
## 4693 0
## 4694 0
## 4695 1
## 4696 0
## 4697 0
## 4698 0
## 4699 0
## 4700 1
## 4701 1
## 4702 1
## 4703 0
## 4704 0
## 4705 0
## 4706 0
## 4707 1
## 4708 0
## 4709 0
## 4710 0
## 4711 0
## 4712 0
## 4713 0
## 4714 1
## 4715 1
## 4716 1
## 4717 0
## 4718 1
## 4719 0
## 4720 0
## 4721 0
## 4722 0
## 4723 0
## 4724 0
## 4725 0
## 4726 1
## 4727 0
## 4728 1
## 4729 1
## 4730 1
## 4731 0
## 4732 1
## 4733 1
## 4734 0
## 4735 1
## 4736 0
## 4737 0
## 4738 0
## 4739 1
## 4740 0
## 4741 1
## 4742 0
## 4743 0
## 4744 1
## 4745 1
## 4746 0
## 4747 1
## 4748 0
## 4749 0
## 4750 1
## 4751 0
## 4752 0
## 4753 0
## 4754 1
## 4755 0
## 4756 0
## 4757 1
## 4758 0
## 4759 0
## 4760 1
## 4761 0
## 4762 1
## 4763 0
## 4764 1
## 4765 1
## 4766 0
## 4767 0
## 4768 0
## 4769 0
## 4770 0
## 4771 0
## 4772 0
## 4773 0
## 4774 0
## 4775 0
## 4776 0
## 4777 1
## 4778 0
## 4779 0
## 4780 1
## 4781 1
## 4782 0
## 4783 0
## 4784 0
## 4785 0
## 4786 1
## 4787 1
## 4788 0
## 4789 1
## 4790 1
## 4791 0
## 4792 0
## 4793 1
## 4794 0
## 4795 1
## 4796 1
## 4797 0
## 4798 0
## 4799 1
## 4800 0
## 4801 0
## 4802 0
## 4803 0
## 4804 0
## 4805 0
## 4806 0
## 4807 1
## 4808 0
## 4809 0
## 4810 0
## 4811 1
## 4812 0
## 4813 0
## 4814 0
## 4815 0
## 4816 1
## 4817 0
## 4818 0
## 4819 0
## 4820 0
## 4821 0
## 4822 0
## 4823 0
## 4824 1
## 4825 0
## 4826 0
## 4827 0
## 4828 1
## 4829 1
## 4830 0
## 4831 1
## 4832 0
## 4833 0
## 4834 0
## 4835 0
## 4836 0
## 4837 0
## 4838 0
## 4839 1
## 4840 0
## 4841 0
## 4842 1
## 4843 0
## 4844 0
## 4845 0
## 4846 0
## 4847 1
## 4848 1
## 4849 0
## 4850 1
## 4851 1
## 4852 1
## 4853 0
## 4854 0
## 4855 0
## 4856 0
## 4857 1
## 4858 0
## 4859 0
## 4860 1
## 4861 1
## 4862 1
## 4863 0
## 4864 1
## 4865 0
## 4866 0
## 4867 0
## 4868 0
## 4869 0
## 4870 1
## 4871 0
## 4872 0
## 4873 0
## 4874 0
## 4875 0
## 4876 0
## 4877 1
## 4878 0
## 4879 0
## 4880 0
## 4881 0
## 4882 0
## 4883 1
## 4884 1
## 4885 0
## 4886 0
## 4887 1
## 4888 0
## 4889 0
## 4890 1
## 4891 0
## 4892 0
## 4893 0
## 4894 0
## 4895 0
## 4896 0
## 4897 1
## 4898 1
## 4899 0
## 4900 0
## 4901 1
## 4902 0
## 4903 0
## 4904 1
## 4905 1
## 4906 0
## 4907 0
## 4908 0
## 4909 1
## 4910 0
## 4911 0
## 4912 0
## 4913 1
## 4914 1
## 4915 1
## 4916 0
## 4917 0
## 4918 0
## 4919 0
## 4920 1
## 4921 0
## 4922 0
## 4923 0
## 4924 0
## 4925 1
## 4926 1
## 4927 1
## 4928 1
## 4929 0
## 4930 1
## 4931 1
## 4932 0
## 4933 0
## 4934 1
## 4935 1
## 4936 0
## 4937 1
## 4938 0
## 4939 1
## 4940 1
## 4941 0
## 4942 1
## 4943 0
## 4944 1
## 4945 0
## 4946 0
## 4947 0
## 4948 1
## 4949 1
## 4950 0
## 4951 0
## 4952 1
## 4953 1
## 4954 0
## 4955 1
## 4956 1
## 4957 1
## 4958 0
## 4959 0
## 4960 0
## 4961 1
## 4962 1
## 4963 1
## 4964 0
## 4965 0
## 4966 0
## 4967 0
## 4968 1
## 4969 1
## 4970 0
## 4971 0
## 4972 0
## 4973 0
## 4974 0
## 4975 1
## 4976 0
## 4977 0
## 4978 1
## 4979 1
## 4980 1
## 4981 1
## 4982 0
## 4983 0
## 4984 0
## 4985 0
## 4986 1
## 4987 0
## 4988 0
## 4989 0
## 4990 0
## 4991 0
## 4992 1
## 4993 1
## 4994 1
## 4995 1
## 4996 1
## 4997 0
## 4998 1
## 4999 1
## 5000 0# Submit Data
submit <- read_csv("testing_data_tugas_praktikum_STA1581.csv")## Rows: 5000 Columns: 12
## ── Column specification ────────────────────────────────────────────────────────
## Delimiter: ","
## dbl (12): ID, X1, X2, X3, X4, X5, X6, X7, X8, X9, X10, X11
##
## ℹ Use `spec()` to retrieve the full column specification for this data.
## ℹ Specify the column types or set `show_col_types = FALSE` to quiet this message.submit <- submit %>% select(ID)
submit$Y <- ypredtest$.pred_classsubmit## # A tibble: 5,000 × 2
## ID Y
## <dbl> <fct>
## 1 45001 0
## 2 45002 0
## 3 45003 0
## 4 45004 0
## 5 45005 0
## 6 45006 0
## 7 45007 1
## 8 45008 1
## 9 45009 0
## 10 45010 0
## # ℹ 4,990 more rows# Simpan ke csv
lightGBM <- write.csv(submit, 'lightGBM1.csv', row.names=F)