install.packages("rpart")
install.packages("rpart.plot")
install.packages("readxl")

Örnek bir karar ağacı yapısı

- Eğer hava güneşli ve nem 70’in üzerinde ise golf maçı oynanmaz.
    (if hava=güneşli and nem>70 then oyun=hayır)
-   Eğer hava güneşli ve nem 70 ve altında ise golf maçı oynanır.
    (if hava=güneşli and nem<=70 then oyun=evet)
-   Eğer hava bulutlu ise golf maçı oynanır.
    (if hava=bulutlu then oyun=evet)
-   Eğer hava yağmurlu ve rüzgar varsa golf maçı oynanmaz.
    (if hava=yağmurlu and rüzgar=evet then oyun=hayır)
-   Eğer hava yağmurlu ve rüzgar yoksa golf maçı oynanır.
    (if hava=yağmurlu and rüzgar=hayır then oyun=evet)

\[Gain({{X}_{i}})=H(Y)-\sum\limits_{j=1}^{{{k}_{i}}}{P({{X}_{ij}})H(Y/{{X}_{ij}})}\,\,\,\,i=1,2,...,m\]

\(H(Y)\) : Sınıfa ait entropi değeri

\({{k}_{i}}\) : \(i\). özelliğin kategori (düzey, sınıf) sayısı

\(P({{X}_{ij}})\) : \(i\). özelliğin \(j\). düzeyinin ortaya çıkma olasılığı

\(H(Y/{{X}_{ij}})\) : \(i\). özelliğin \(j\). düzeyi için sınıfa ait entropi değeri

\(m\) : özellik sayısı

• Sınıf Değişkeni için Entropi \[H(Y)=H({{p}_{1}},{{p}_{2}},...,{{p}_{k}})\text{ }=\sum\limits_{j=1}^{k}{({{p}_{j}}{{\log}_{b}}(1/{{p}_{j}}))}\]

\[H(golf)=H\left( \frac{9}{14},\frac{5}{14} \right)=\frac{9}{14}{{\log }_{2}}\left( \frac{14}{9} \right)+\frac{5}{14}{{\log }_{2}}\left( \frac{14}{5} \right)=0.940\]

\[H(Y/{{X}_{11}})=\frac{2}{5}{{\log }_{2}}\left( \frac{5}{2} \right)+\frac{3}{5}{{\log }_{2}}\left( \frac{5}{3} \right)=0.971 {....{X}_{11}}:\text{hava güneşli}\]

\[H(Y/{{X}_{12}})=\frac{4}{4}{{\log }_{2}}\left( \frac{4}{4} \right)=0 {....................{X}_{12}}: \text{hava bulutlu}\]

\[H(Y/{{X}_{13}})=\frac{3}{5}{{\log }_{2}}\left( \frac{5}{3} \right)+\frac{2}{5}{{\log }_{2}}\left( \frac{5}{2} \right)=0.971 \text{ } {....{X}_{13}}:\text{hava yağmurlu}\]