Entendendo os dados

estimativas_raw %>% 
    select(ProjectCode, TaskNumber, HoursEstimate, HoursActual) %>% 
    skimr::skim()

Variable type: character

Variable type: numeric

Temos 20 projetos, com 12299 estimativas_raw. Não há apenas uma estimativa por tarefa, já que há apenas 10266 valores distintos de TaskNumber.

estimativas_raw %>% 
    group_by(TaskNumber) %>% 
    mutate(estimativas = n()) %>% 
    filter(estimativas > 1) %>% 
    count(TaskNumber, sort = T)

## # A tibble: 1,384 x 2
## # Groups:   TaskNumber [1,384]
##    TaskNumber     n
##    <chr>      <int>
##  1 10605          8
##  2 6889           8
##  3 10089          7
##  4 10974          7
##  5 11056          7
##  6 11270          7
##  7 13124          7
##  8 13190          7
##  9 13253          7
## 10 3812           7
## # … with 1,374 more rows

estimativas = estimativas_raw %>%
    group_by(ProjectCode, TaskNumber, Category, Priority, Summary) %>%
    summarise(
        HoursEstimate = mean(HoursEstimate),
        HoursActual = mean(HoursActual),
        DeveloperPerformance = mean(DeveloperPerformance)
    ) %>%
    ungroup()

estimado_real <- estimativas %>% 
    mutate(erro_medio_abs = abs(HoursEstimate - HoursActual))

p <- estimado_real %>%
    ggplot(aes(erro_medio_abs)) +
             hrbrthemes::theme_ft_rc() +
             theme(legend.position = "top") +
             geom_density(alpha = .2, fill = "#ffbf69", color="#ff9f1c") +
             labs(
              x = "Erro médio (horas)", y = "Densidade", fill = NULL,
              title = "Erro em horas (Estimado x Real)"
             )
p

sem_outliers <- estimado_real %>%
    mutate(outlier = outliers::scores(erro_medio_abs, type="z", prob=0.95)) %>% 
    filter(outlier == FALSE)

p <- sem_outliers %>%
    ggplot(aes(erro_medio_abs)) +
             hrbrthemes::theme_ft_rc() +
             theme(legend.position = "") +
             geom_density(alpha = .2, fill = "#ffbf69", color="#ff9f1c") +
             labs(
              x = "Erro médio (horas)", y = "Densidade", title = "Erro em horas (Estimado x Real)"
             )
p

Coeficientes de correlação

Os coeficientes de correlação são métodos estatísticos utilizados para medir as relações entre variáveis. A partir dos valores deles é possível identificar a força e o sinal da relação. Iremos, aqui, utilizar 3 desses coeficientes:

O coeficiente de correlação de Pearson, também chamado de correlação linear ou r de Pearson, é um grau de relação entre duas variáveis quantitativas e exprime o grau de correlação através de valores situados entre -1 e 1.

O coeficiente de correlação de postos de Spearman é uma medida de correlação não paramétrica também avaliado no intervalo entre -1 e 1.

O coeficiente de correlação de Kendall é uma medida de associação para variáveis ordinais.

Vejamos, então, os valores dos coeficientes para nossas variáveis HoursEstimate e HoursActual.

sem_outliers %>%
  summarise(Pearson = cor(HoursEstimate, HoursActual, method = "pearson"),
            Spearman = cor(HoursEstimate, HoursActual, method = "spearman"),
            Kendall = cor(HoursEstimate, HoursActual, method = "kendall"))

## # A tibble: 1 x 3
##   Pearson Spearman Kendall
##     <dbl>    <dbl>   <dbl>
## 1   0.780    0.826   0.696

Encontramos valores semelhantes para os 3 coeficientes. Embora o coeficiente de Pearson seja mais sensível à outliers que os outros dois, como realizamos uma filtragem, seus valores tendem a se aproximar.

Confirmando nossas suspeitas levantadas pelo gráfico, podemos concluir que existe uma relação forte e positiva ([0.7, 1[) entre as as horas estimadas e as horas reais. Ou seja, novamente, as horas estimadas para essas tarefas é bem próxima da quantidade real de horas utilizadas.

Vejamos se isso se repete quando separamos as tasks por categoria.

p <- sem_outliers  %>% 
    ggplot(aes(x = HoursEstimate,
               y = HoursActual)) +
    geom_point(alpha = .8,
               colour = "#CBA135") +
    scale_x_log10() +
    scale_y_log10() +
    facet_grid(. ~ Category) +
    labs(title = "Relação entre horas estimadas e reais",
         x = "Estimadas log10(horas)",
         y = "Reais log10(horas)") +
   hrbrthemes::theme_ft_rc()

p

O gráfico nos levar a crer que existe uma relação forte e positiva entre as variáveis para as 3 categorias. Vejamos se os coeficientes confirmam isso:

sem_outliers %>%
    group_by(Category) %>% 
    summarise(Pearson = cor(HoursEstimate, HoursActual, method = "pearson"),
            Spearman = cor(HoursEstimate, HoursActual, method = "spearman"),
            Kendall = cor(HoursEstimate, HoursActual, method = "kendall"))

## # A tibble: 3 x 4
##   Category    Pearson Spearman Kendall
##   <chr>         <dbl>    <dbl>   <dbl>
## 1 Development   0.773    0.832   0.698
## 2 Management    0.841    0.759   0.641
## 3 Operational   0.716    0.850   0.735

De acordo com o coeficiente de Pearson, em todas as categorias existe uma relação positiva e forte entre as horas estimadas e as horas reais. O mesmo para o coeficiente de Spearman. Já no coeficiente de Kendall, as variáveis na categoria Management possuem um relação moderada, enquanto as outras categorias possuem uma relação forte. Todas positivas.

Concluimos que existe uma relação positiva e forte entre as variáveis HoursEstimate e HoursActual para as 3 categorias de tasks, com exceção da categoria Management quando consideramos o coeficiente de Kendall.