Lab 5 - Regressão linear na prática
Felisberto Cláudio dos Santos
2023-06-15
## ── Attaching core tidyverse packages ──────────────────────── tidyverse 2.0.0 ──
## ✔ dplyr 1.1.2 ✔ readr 2.1.4
## ✔ forcats 1.0.0 ✔ stringr 1.5.0
## ✔ ggplot2 3.4.2 ✔ tibble 3.2.1
## ✔ lubridate 1.9.2 ✔ tidyr 1.3.0
## ✔ purrr 1.0.1
## ── Conflicts ────────────────────────────────────────── tidyverse_conflicts() ──
## ✖ dplyr::filter() masks stats::filter()
## ✖ dplyr::lag() masks stats::lag()
## ℹ Use the conflicted package (<http://conflicted.r-lib.org/>) to force all conflicts to become errors
##
## Attaching package: 'modelr'
##
##
## The following object is masked from 'package:broom':
##
## bootstrapDados da CAPES sobre avaliação da pós-graduação
A CAPES é um órgão do MEC que tem a atribuição de acompanhar a pós-graduação na universidade brasileira. Uma das formas que ela encontrou de fazer isso e pela qual ela é bastante criticada é através de uma avaliação quantitativa a cada x anos (era 3, mudou para 4).
Usaremos dados da penúltima avaliação da CAPES:
cacc_tudo = read_projectdata()
glimpse(cacc_tudo)## Rows: 73
## Columns: 31
## $ Instituição <chr> "UNIVERSIDADE FEDERAL DO AMAZONAS", "UNIV…
## $ Programa <chr> "INFORMÁTICA (12001015012P2)", "CIÊNCIA D…
## $ Nível <int> 5, 4, 3, 3, 3, 5, 4, 3, 3, 3, 5, 3, 3, 3,…
## $ Sigla <chr> "UFAM", "UFPA", "UFMA", "UEMA", "FUFPI", …
## $ `Tem doutorado` <chr> "Sim", "Sim", "Não", "Não", "Não", "Sim",…
## $ `Docentes colaboradores` <dbl> 0.25, 5.50, 3.00, 6.25, 1.75, 2.00, 1.00,…
## $ `Docentes permanentes` <dbl> 24.75, 14.00, 10.00, 14.00, 9.50, 20.75, …
## $ `Docentes visitantes` <dbl> 0.00, 0.00, 0.00, 0.00, 0.00, 0.75, 0.50,…
## $ `Resumos em conf` <int> 20, 23, 15, 5, 4, 10, 6, 136, 0, 24, 27, …
## $ `Resumos expandidos em conf` <int> 25, 24, 7, 10, 1, 68, 9, 13, 4, 6, 16, 5,…
## $ `Artigos em conf` <int> 390, 284, 115, 73, 150, 269, 179, 0, 120,…
## $ Dissertacoes <int> 108, 77, 50, 25, 31, 75, 60, 129, 45, 3, …
## $ Teses <int> 14, 0, 0, 0, 0, 24, 5, 0, 0, 0, 29, 0, 0,…
## $ periodicos_A1 <int> 15, 19, 5, 1, 7, 21, 21, 0, 3, 8, 44, 0, …
## $ periodicos_A2 <int> 19, 21, 11, 1, 4, 32, 13, 0, 9, 2, 23, 2,…
## $ periodicos_B1 <int> 19, 38, 7, 3, 6, 26, 16, 2, 6, 4, 32, 4, …
## $ periodicos_B2 <int> 1, 12, 2, 6, 0, 0, 11, 0, 0, 2, 1, 0, 0, …
## $ periodicos_B3 <int> 3, 16, 2, 2, 3, 16, 15, 0, 4, 6, 9, 0, 2,…
## $ periodicos_B4 <int> 0, 4, 0, 3, 3, 0, 1, 3, 1, 6, 0, 0, 4, 5,…
## $ periodicos_B5 <int> 10, 16, 8, 4, 12, 4, 16, 2, 6, 2, 11, 0, …
## $ periodicos_C <int> 9, 34, 12, 5, 2, 3, 11, 9, 5, 10, 16, 1, …
## $ periodicos_NA <int> 7, 15, 8, 11, 12, 6, 19, 31, 7, 14, 19, 0…
## $ per_comaluno_A1 <int> 4, 1, 0, 0, 1, 7, 5, 0, 1, 0, 10, 0, 0, 2…
## $ per_comaluno_A2 <int> 5, 5, 5, 0, 2, 15, 3, 0, 3, 0, 3, 0, 0, 1…
## $ per_comaluno_B1 <int> 4, 2, 5, 2, 2, 14, 6, 0, 2, 0, 17, 0, 1, …
## $ per_comaluno_B2 <int> 0, 1, 1, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0,…
## $ per_comaluno_B3 <int> 2, 2, 0, 1, 0, 7, 9, 0, 2, 0, 4, 0, 0, 1,…
## $ per_comaluno_B4 <int> 0, 0, 0, 0, 2, 0, 1, 0, 1, 3, 0, 0, 2, 0,…
## $ per_comaluno_B5 <int> 5, 0, 4, 0, 8, 3, 6, 0, 4, 0, 4, 0, 2, 5,…
## $ per_comaluno_C <int> 6, 5, 3, 1, 2, 3, 7, 1, 2, 4, 8, 0, 11, 3…
## $ per_comaluno_NA <int> 6, 14, 2, 2, 9, 3, 6, 4, 5, 1, 10, 0, 17,…Produção e produtividade de artigos
Uma das maneiras de avaliar a produção dos docentes que a CAPES utiliza é quantificando a produção de artigos pelos docentes. Os artigos são categorizados em extratos ordenados (A1 é o mais alto), e separados entre artigos em conferências e periódicos. Usaremos para esse lab a produção em periódicos avaliados com A1, A2 e B1.
cacc = cacc_tudo %>%
transmute(
docentes = `Docentes permanentes`,
producao = (periodicos_A1 + periodicos_A2 + periodicos_B1),
produtividade = producao / docentes,
mestrados = Dissertacoes,
doutorados = Teses,
tem_doutorado = tolower(`Tem doutorado`) == "sim",
mestrados_pprof = mestrados / docentes,
doutorados_pprof = doutorados / docentes
)
cacc_md = cacc %>%
filter(tem_doutorado)EDA
skimr::skim(cacc)| Name | cacc |
| Number of rows | 73 |
| Number of columns | 8 |
| _______________________ | |
| Column type frequency: | |
| logical | 1 |
| numeric | 7 |
| ________________________ | |
| Group variables | None |
Variable type: logical
| skim_variable | n_missing | complete_rate | mean | count |
|---|---|---|---|---|
| tem_doutorado | 0 | 1 | 0.47 | FAL: 39, TRU: 34 |
Variable type: numeric
| skim_variable | n_missing | complete_rate | mean | sd | p0 | p25 | p50 | p75 | p100 | hist |
|---|---|---|---|---|---|---|---|---|---|---|
| docentes | 0 | 1 | 20.63 | 12.27 | 8.25 | 11.25 | 16.75 | 25.75 | 67.25 | ▇▃▁▁▁ |
| producao | 0 | 1 | 58.03 | 65.44 | 0.00 | 18.00 | 42.00 | 67.00 | 355.00 | ▇▂▁▁▁ |
| produtividade | 0 | 1 | 2.36 | 1.37 | 0.00 | 1.40 | 2.27 | 3.20 | 5.66 | ▆▇▇▅▂ |
| mestrados | 0 | 1 | 75.79 | 63.23 | 0.00 | 39.00 | 58.00 | 103.00 | 433.00 | ▇▃▁▁▁ |
| doutorados | 0 | 1 | 14.96 | 30.98 | 0.00 | 0.00 | 0.00 | 14.00 | 152.00 | ▇▁▁▁▁ |
| mestrados_pprof | 0 | 1 | 3.66 | 1.81 | 0.00 | 2.57 | 3.58 | 4.88 | 8.19 | ▂▇▇▃▂ |
| doutorados_pprof | 0 | 1 | 0.43 | 0.73 | 0.00 | 0.00 | 0.00 | 0.57 | 2.69 | ▇▁▁▁▁ |
cacc %>%
ggplot(aes(x = docentes)) +
geom_histogram(bins = 15, fill = paleta[1])
cacc %>%
ggplot(aes(x = producao)) +
geom_histogram(bins = 15, fill = paleta[2])
cacc %>%
ggplot(aes(x = produtividade)) +
geom_histogram(bins = 15, fill = paleta[3])
Se quisermos modelar o efeito do tamanho do programa em termos de docentes (permanentes) na quantidade de artigos publicados, podemos usar regressão.
Importante: sempre queremos ver os dados antes de fazermos qualquer modelo ou sumário:
cacc %>%
ggplot(aes(x = docentes, y = producao)) +
geom_point()
Parece que existe uma relação. Vamos criar um modelo então:
modelo1 = lm(producao ~ docentes, data = cacc)
tidy(modelo1, conf.int = TRUE, conf.level = 0.95)## # A tibble: 2 × 7
## term estimate std.error statistic p.value conf.low conf.high
## <chr> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 (Intercept) -41.3 6.53 -6.32 2.01e- 8 -54.3 -28.3
## 2 docentes 4.81 0.273 17.7 1.09e-27 4.27 5.36glance(modelo1)## # A tibble: 1 × 12
## r.squared adj.r.squared sigma statistic p.value df logLik AIC BIC
## <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 0.815 0.812 28.4 312. 1.09e-27 1 -347. 700. 706.
## # ℹ 3 more variables: deviance <dbl>, df.residual <int>, nobs <int>Para visualizar o modelo:
cacc_augmented = cacc %>%
add_predictions(modelo1)
cacc_augmented %>%
ggplot(aes(x = docentes)) +
geom_line(aes(y = pred), colour = "brown") +
geom_point(aes(y = producao)) +
labs(y = "Produção do programa")
Se considerarmos que temos apenas uma amostra de todos os programas de pós em CC no Brasil, o que podemos inferir a partir desse modelo sobre a relação entre número de docentes permanentes e produção de artigos em programas de pós?
Normalmente reportaríamos o resultado da seguinte maneira, substituindo VarIndepX e todos os x’s e y’s pelos nomes e valores de fato:
A regressão simples foi utilizada para analisar se número de docentes tem uma associação significativa com produção. Os resultados da regressão indicam que um modelo com o preditor no formato produção = - 41.27 + 4.81 * docentes explicam 81,50% da variância da variável de resposta (R2 = 0,815). Número de docentes, medida em unidade, tem uma relação significativa com o erro (b = [4.27; 5.36], IC com 95%). O aumento de 1 unidade de número de docentes produz uma mudança de 4,81 em produção.
Esses resultados sugerem que o tamanho do programa, em termos de docentes permanentes, está positivamente associado à quantidade de artigos publicados em programas de pós-graduação em Ciência da Computação. No entanto, vale ressaltar que essas conclusões são baseadas em uma amostra específica de programas de pós-graduação em CC no Brasil.
Dito isso, o que significa a relação que você encontrou na prática para entendermos os programas de pós graduação no Brasil? E algum palpite de por que a relação que encontramos é forte?
A relação encontrada indica que programas de pós-graduação em Ciência da Computação no Brasil com um maior número de docentes permanentes tendem a ter uma maior produção de artigos. Isso sugere que o tamanho do programa, em termos de docentes, desempenha um papel significativo na quantidade de artigos publicados. Possíveis razões para essa relação forte incluem o acesso a recursos e infraestrutura, colaboração e expertise entre os docentes, uma rede de contatos mais ampla e mentoria e suporte aos alunos. No entanto, é importante considerar que cada programa de pós-graduação é único e pode ter outros fatores específicos que influenciam essa relação.
Mais fatores
modelo2 = lm(producao ~ docentes + mestrados_pprof + doutorados_pprof + tem_doutorado,
data = cacc_md)
tidy(modelo2, conf.int = TRUE, conf.level = 0.95)## # A tibble: 5 × 7
## term estimate std.error statistic p.value conf.low conf.high
## <chr> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 (Intercept) -39.5 17.7 -2.23 3.35e-2 -75.7 -3.29
## 2 docentes 4.39 0.539 8.14 4.38e-9 3.29 5.49
## 3 mestrados_pprof 0.0318 3.49 0.00913 9.93e-1 -7.09 7.15
## 4 doutorados_pprof 16.1 8.80 1.83 7.72e-2 -1.87 34.1
## 5 tem_doutoradoTRUE NA NA NA NA NA NAglance(modelo2)## # A tibble: 1 × 12
## r.squared adj.r.squared sigma statistic p.value df logLik AIC BIC
## <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 0.816 0.798 34.1 44.4 3.75e-11 3 -166. 342. 350.
## # ℹ 3 more variables: deviance <dbl>, df.residual <int>, nobs <int>E se considerarmos também o número de alunos?
modelo2 = lm(producao ~ docentes + mestrados + doutorados, data = cacc)
tidy(modelo2, conf.int = TRUE, conf.level = 0.95)## # A tibble: 4 × 7
## term estimate std.error statistic p.value conf.low conf.high
## <chr> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 (Intercept) -14.4 7.45 -1.93 5.81e- 2 -29.2 0.504
## 2 docentes 3.50 0.460 7.61 1.02e-10 2.58 4.42
## 3 mestrados -0.195 0.0816 -2.39 1.96e- 2 -0.358 -0.0322
## 4 doutorados 1.00 0.183 5.47 6.87e- 7 0.636 1.37glance(modelo2)## # A tibble: 1 × 12
## r.squared adj.r.squared sigma statistic p.value df logLik AIC BIC
## <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 0.871 0.865 24.0 155. 1.42e-30 3 -334. 677. 689.
## # ℹ 3 more variables: deviance <dbl>, df.residual <int>, nobs <int>Visualizar o modelo com muitas variáveis independentes fica mais difícil
para_plotar_modelo = cacc %>%
data_grid(producao = seq_range(producao, 10), # Crie um vetor de 10 valores no range
docentes = seq_range(docentes, 4),
# mestrados = seq_range(mestrados, 3),
mestrados = median(mestrados),
doutorados = seq_range(doutorados, 3)) %>%
add_predictions(modelo2)
glimpse(para_plotar_modelo)## Rows: 120
## Columns: 5
## $ producao <dbl> 0.00000, 0.00000, 0.00000, 0.00000, 0.00000, 0.00000, 0.000…
## $ docentes <dbl> 8.25000, 8.25000, 8.25000, 27.91667, 27.91667, 27.91667, 47…
## $ mestrados <int> 58, 58, 58, 58, 58, 58, 58, 58, 58, 58, 58, 58, 58, 58, 58,…
## $ doutorados <dbl> 0, 76, 152, 0, 76, 152, 0, 76, 152, 0, 76, 152, 0, 76, 152,…
## $ pred <dbl> 3.199123, 79.257725, 155.316327, 72.026777, 148.085378, 224…para_plotar_modelo %>%
ggplot(aes(x = docentes, y = pred)) +
geom_line(aes(group = doutorados, colour = doutorados)) +
geom_point(data = cacc, aes(y = producao, colour = doutorados))
Considerando agora esses três fatores, o que podemos dizer sobre como cada um deles se relaciona com a produção de um programa de pós em CC? E sobre o modelo? Ele explica mais que o modelo 1?
EXPLICAÇÃO:
1º Formato: Modelo produção ~ docentes + mestrandos_pprof + doutorandos_pprof - A regressão múltipla foi utilizada para analisar se docentes, mestrandos_pprof e doutorandos_pprof tem uma associação significativa com produção. Os resultados da regressão indicam que um modelo com os 3 preditores no formato produção = - 39.5 + 4.39 * docentes + 0.0318 * mestrandos_pprof + 16.1 * doutorandos explicam 81,60% da variância da variável de resposta (R2 = 0.816). Docentes, medida em unidade, tem uma relação significativa com o erro (b = [3.29; 5.49], IC com 95%), assim como mestrandos_pprof, medida em unidade, (b = [- 7.09; 7.15], IC com 95%) e doutorandos_pprof, medida em unidade, (b = [- 1.87; 34.1], IC com 95%). O aumento de 1 unidade de docentes produz uma mudança de 3,5 em produção, enquanto um aumento de 1 unidade de mestrandos_pprof provoca uma redução de 0,2 em produção e um aumento de 1 unidade de doutorandos_pprof produz também um aumento de 1 em produção.
2º Formato: Modelo produção ~ docentes + mestrandos + doutorandos - A regressão múltipla foi utilizada para analisar se docentes, mestrandos e doutorandos tem uma associação significativa com produção. Os resultados da regressão indicam que um modelo com os 3 preditores no formato produção = - 14.4 + 3.50 * docentes - 0.195 * mestrandos + 1 * doutorandos explicam 87,10% da variância da variável de resposta (R2 = 0,871). Docentes, medida em unidade, tem uma relação significativa com o erro (b = [2.58; 4.42], IC com 95%), assim como mestrandos, medida em unidade, (b = [- 0.358; - 0.0322], IC com 95%) e doutorandos, medida em unidade, (b = [0.636; 1.37], IC com 95%). O aumento de 1 unidade de docentes produz uma mudança de 3,5 em produção, enquanto um aumento de 1 unidade de mestrandos provoca uma redução de 0,2 em produção e um aumento de 1 unidade de doutorandos também produz um aumento de 1 em produção.
Quanto ao modelo em si, para determinar se ele explica mais do que o modelo 1, podemos comparar também o R-quadrado ajustado de ambos os modelos.
Como o R2 ajustado do modelo 2 (R2 = 0.871) é maior do que o R2 ajustado do modelo 1 (R2 = 0.815), isso indica que o modelo 2, que considera os três fatores adicionais, explica uma maior proporção da variância na produção de artigos em programas de pós-graduação em Ciência da Computação. No entanto, podemos dizer que o modelo 2 é mais abrangente e fornece uma melhor explicação para a relação entre os fatores analisados e a produção de artigos.
Agora produtividade
Diferente de medirmos produção (total produzido), é medirmos produtividade (produzido / utilizado). Abaixo focaremos nessa análise. Para isso crie um modelo que investiga como um conjunto de fatores que você julga que são relevantes se relacionam com a produtividade dos programas. Crie um modelo que avalie como pelo menos 3 fatores se relacionam com a produtividade de um programa. Pode reutilizar fatores que já definimos e analizamos para produção. Mas cuidado para não incluir fatores que sejam função linear de outros já incluídos (ex: incluir A, B e um tercero C=A+B)
Produza abaixo o modelo e um texto que comente (i) o modelo, tal como os que fizemos antes, e (ii) as implicações - o que aprendemos sobre como funcionam programas de pós no brasil?.
pplotar_modelo2 = cacc %>%
data_grid(producao = seq_range(producao, 10),
docentes = seq_range(docentes, 4),
mestrados = seq_range(mestrados, 3),
doutorados = seq_range(doutorados, 3)) %>%
add_predictions(modelo2)
glimpse(pplotar_modelo2)## Rows: 360
## Columns: 5
## $ producao <dbl> 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,…
## $ docentes <dbl> 8.25000, 8.25000, 8.25000, 8.25000, 8.25000, 8.25000, 8.250…
## $ mestrados <dbl> 0.0, 0.0, 0.0, 216.5, 216.5, 216.5, 433.0, 433.0, 433.0, 0.…
## $ doutorados <dbl> 0, 76, 152, 0, 76, 152, 0, 76, 152, 0, 76, 152, 0, 76, 152,…
## $ pred <dbl> 14.506310, 90.564912, 166.623513, -27.700689, 48.357913, 12…pplotar_modelo2 %>%
ggplot(aes(x = docentes, y = pred)) +
geom_line(aes(group = doutorados, colour = doutorados)) +
geom_point(data = cacc, aes(y = producao, colour = doutorados))
Ajustamos o modelo de regressão múltipla considerando os fatores de docentes, mestrados e doutorados para explicar a produção de um programa de pós-graduação em Ciência da Computação no Brasil.
O modelo pode ser representado pela seguinte equação:
Produção = β₀ + β₁ * Docentes + β₂ * Mestrados + β₃ * Doutorados + ε
Os resultados do modelo são os seguintes:
tidy(modelo2, conf.int = TRUE, conf.level = 0.95)## # A tibble: 4 × 7
## term estimate std.error statistic p.value conf.low conf.high
## <chr> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 (Intercept) -14.4 7.45 -1.93 5.81e- 2 -29.2 0.504
## 2 docentes 3.50 0.460 7.61 1.02e-10 2.58 4.42
## 3 mestrados -0.195 0.0816 -2.39 1.96e- 2 -0.358 -0.0322
## 4 doutorados 1.00 0.183 5.47 6.87e- 7 0.636 1.37glance(modelo2)## # A tibble: 1 × 12
## r.squared adj.r.squared sigma statistic p.value df logLik AIC BIC
## <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl> <dbl>
## 1 0.871 0.865 24.0 155. 1.42e-30 3 -334. 677. 689.
## # ℹ 3 more variables: deviance <dbl>, df.residual <int>, nobs <int>O modelo como um todo apresenta um bom ajuste aos dados, os resultados da regressão indicam que um modelo com os 3 preditores no formato produção = - 1.14 + 3.50 * docentes - 0.195 * mestrandos + 1 * doutorandos explicam 87,10% da variância da variável de resposta (R2 = 0,871). Docentes, medida em unidade, tem uma relação significativa com o erro (b = [2.58; 4.42], IC com 95%), assim como mestrandos, medida em unidade, (b = [- 0.358; - 0.0322], IC com 95%) e doutorandos, medida em unidade, (b = [0.636; 1.37], IC com 95%). O aumento de 1 unidade de docentes produz uma mudança de 3,5 em produção, enquanto um aumento de 1 unidade de mestrandos provoca uma redução de 0,2 em produção e um aumento de 1 unidade de doutorandos também produz um aumento de 1 em produção.
Ao considerarmos os fatores de docentes, mestrados e doutorados, aprendemos algumas implicações sobre como funcionam os programas de pós-graduação em Ciência da Computação no Brasil:
- Maior número de docentes: Um maior número de docentes permanentes está associado a uma maior produção de artigos nos programas de pós-graduação. Isso sugere que a presença de um corpo docente maior pode proporcionar mais recursos, colaboração e orientação, o que contribui para a produção científica dos programas.
- Impacto dos mestrados e doutorados: Tanto o número de mestrados quanto o número de doutorados exercem um impacto positivo na produção de artigos. Isso indica que programas com um maior número de alunos matriculados em mestrado e doutorado tendem a ter uma maior produção científica. Isso pode ser atribuído à contribuição dos alunos de pós-graduação na execuçãode projetos de pesquisa, à colaboração com os docentes e à geração de novas ideias e perspectivas.
- Sinergia entre os fatores: O modelo também nos mostra que os fatores de docentes, mestrados e doutorados atuam de forma conjunta para influenciar a produção de artigos. Isso sugere que programas com um equilíbrio adequado entre docentes qualificados e um número significativo de alunos de mestrado e doutorado têm um ambiente propício para a produção científica.Este modelo nos mostra que o número de docentes, juntamente com a presença de alunos de mestrado e doutorado, desempenha um papel crucial na produção científica. Esses achados destacam a importância de investir em recursos humanos qualificados e no apoio à formação de alunos de pós-graduação para promover programas de pós-graduação de alta qualidade e produtividade no país.