Dados da CAPES sobre avaliação da pós-graduação

A CAPES é um órgão do MEC que tem a atribuição de acompanhar a pós-graduação na universidade brasileira. Uma das formas que ela encontrou de fazer isso e pela qual ela é bastante criticada é através de uma avaliação quantitativa a cada x anos (era 3, mudou para 4).

Usaremos dados da penúltima avaliação da CAPES:

cacc_tudo = read_projectdata()

glimpse(cacc_tudo)
Rows: 73
Columns: 31
$ Instituição                  <chr> "UNIVERSIDADE FEDERAL DO AMAZONAS", "UNIVERSIDADE FEDERAL DO PARÁ", "UNIV…
$ Programa                     <chr> "INFORMÁTICA (12001015012P2)", "CIÊNCIA DA COMPUTAÇÃO (15001016047P9)", "…
$ Nível                        <int> 5, 4, 3, 3, 3, 5, 4, 3, 3, 3, 5, 3, 3, 3, 4, 6, 3, 3, 3, 3, 3, 3, 4, 3, 4…
$ Sigla                        <chr> "UFAM", "UFPA", "UFMA", "UEMA", "FUFPI", "UFC", "UNIFOR", "UECE/Prof", "U…
$ `Tem doutorado`              <chr> "Sim", "Sim", "Não", "Não", "Não", "Sim", "Sim", "Não", "Não", "Não", "Si…
$ `Docentes colaboradores`     <dbl> 0.25, 5.50, 3.00, 6.25, 1.75, 2.00, 1.00, 6.25, 2.75, 0.75, 2.25, 2.00, 4…
$ `Docentes permanentes`       <dbl> 24.75, 14.00, 10.00, 14.00, 9.50, 20.75, 16.00, 15.75, 8.50, 9.00, 26.25,…
$ `Docentes visitantes`        <dbl> 0.00, 0.00, 0.00, 0.00, 0.00, 0.75, 0.50, 1.00, 0.50, 0.00, 0.00, 0.00, 0…
$ `Resumos em conf`            <int> 20, 23, 15, 5, 4, 10, 6, 136, 0, 24, 27, 4, 30, 20, 5, 14, 49, 63, 33, 3,…
$ `Resumos expandidos em conf` <int> 25, 24, 7, 10, 1, 68, 9, 13, 4, 6, 16, 5, 25, 29, 28, 81, 65, 38, 14, 6, …
$ `Artigos em conf`            <int> 390, 284, 115, 73, 150, 269, 179, 0, 120, 92, 389, 60, 127, 322, 338, 763…
$ Dissertacoes                 <int> 108, 77, 50, 25, 31, 75, 60, 129, 45, 3, 108, 12, 94, 108, 104, 433, 92, …
$ Teses                        <int> 14, 0, 0, 0, 0, 24, 5, 0, 0, 0, 29, 0, 0, 0, 40, 144, 0, 0, 0, 0, 0, 0, 2…
$ periodicos_A1                <int> 15, 19, 5, 1, 7, 21, 21, 0, 3, 8, 44, 0, 6, 21, 20, 93, 70, 16, 16, 0, 22…
$ periodicos_A2                <int> 19, 21, 11, 1, 4, 32, 13, 0, 9, 2, 23, 2, 6, 20, 15, 43, 23, 5, 5, 1, 12,…
$ periodicos_B1                <int> 19, 38, 7, 3, 6, 26, 16, 2, 6, 4, 32, 4, 2, 11, 29, 51, 29, 11, 8, 1, 14,…
$ periodicos_B2                <int> 1, 12, 2, 6, 0, 0, 11, 0, 0, 2, 1, 0, 0, 4, 1, 10, 6, 1, 2, 0, 1, 3, 2, 1…
$ periodicos_B3                <int> 3, 16, 2, 2, 3, 16, 15, 0, 4, 6, 9, 0, 2, 6, 16, 20, 13, 9, 2, 0, 12, 0, …
$ periodicos_B4                <int> 0, 4, 0, 3, 3, 0, 1, 3, 1, 6, 0, 0, 4, 5, 1, 3, 3, 5, 3, 0, 4, 2, 2, 2, 2…
$ periodicos_B5                <int> 10, 16, 8, 4, 12, 4, 16, 2, 6, 2, 11, 0, 4, 16, 9, 29, 18, 16, 18, 0, 3, …
$ periodicos_C                 <int> 9, 34, 12, 5, 2, 3, 11, 9, 5, 10, 16, 1, 14, 28, 8, 19, 24, 23, 9, 0, 7, …
$ periodicos_NA                <int> 7, 15, 8, 11, 12, 6, 19, 31, 7, 14, 19, 0, 27, 26, 18, 29, 19, 21, 25, 0,…
$ per_comaluno_A1              <int> 4, 1, 0, 0, 1, 7, 5, 0, 1, 0, 10, 0, 0, 2, 8, 63, 1, 1, 3, 0, 5, 0, 3, 1,…
$ per_comaluno_A2              <int> 5, 5, 5, 0, 2, 15, 3, 0, 3, 0, 3, 0, 0, 1, 11, 22, 0, 0, 0, 0, 2, 0, 13, …
$ per_comaluno_B1              <int> 4, 2, 5, 2, 2, 14, 6, 0, 2, 0, 17, 0, 1, 5, 18, 37, 0, 1, 1, 0, 2, 0, 9, …
$ per_comaluno_B2              <int> 0, 1, 1, 0, 0, 0, 1, 0, 0, 0, 1, 0, 0, 0, 1, 4, 0, 0, 0, 0, 1, 0, 1, 0, 0…
$ per_comaluno_B3              <int> 2, 2, 0, 1, 0, 7, 9, 0, 2, 0, 4, 0, 0, 1, 10, 12, 0, 0, 0, 0, 2, 0, 6, 4,…
$ per_comaluno_B4              <int> 0, 0, 0, 0, 2, 0, 1, 0, 1, 3, 0, 0, 2, 0, 0, 2, 0, 2, 0, 0, 0, 1, 0, 1, 1…
$ per_comaluno_B5              <int> 5, 0, 4, 0, 8, 3, 6, 0, 4, 0, 4, 0, 2, 5, 3, 17, 1, 4, 5, 0, 0, 5, 2, 0, …
$ per_comaluno_C               <int> 6, 5, 3, 1, 2, 3, 7, 1, 2, 4, 8, 0, 11, 3, 8, 13, 4, 5, 2, 0, 0, 13, 6, 1…
$ per_comaluno_NA              <int> 6, 14, 2, 2, 9, 3, 6, 4, 5, 1, 10, 0, 17, 6, 7, 17, 0, 3, 5, 0, 1, 8, 6, …

Produção e produtividade de artigos

Uma das maneiras de avaliar a produção dos docentes que a CAPES utiliza é quantificando a produção de artigos pelos docentes. Os artigos são categorizados em extratos ordenados (A1 é o mais alto), e separados entre artigos em conferências e periódicos. Usaremos para esse lab a produção em periódicos avaliados com A1, A2 e B1.

cacc = cacc_tudo %>%
  transmute(
    docentes = `Docentes permanentes`,
    producao = (periodicos_A1 + periodicos_A2 + periodicos_B1),
    produtividade = producao / docentes,
    mestrados = Dissertacoes,
    doutorados = Teses,
    tem_doutorado = tolower(`Tem doutorado`) == "sim",
    mestrados_pprof = mestrados / docentes,
    doutorados_pprof = doutorados / docentes
  )

cacc_md = cacc %>% 
  filter(tem_doutorado)

EDA

skimr::skim(cacc)
── Data Summary ────────────────────────
                           Values
Name                       cacc  
Number of rows             73    
Number of columns          8     
_______________________          
Column type frequency:           
  logical                  1     
  numeric                  7     
________________________         
Group variables            None  
cacc %>% 
  ggplot(aes(x = docentes)) + 
  geom_histogram(bins = 15, fill = paleta[1])


cacc %>% 
  ggplot(aes(x = producao)) + 
  geom_histogram(bins = 15, fill = paleta[2])


cacc %>% 
  ggplot(aes(x = produtividade)) + 
  geom_histogram(bins = 15, fill = paleta[3])

Se quisermos modelar o efeito do tamanho do programa em termos de docentes (permanentes) na quantidade de artigos publicados, podemos usar regressão.

Importante: sempre queremos ver os dados antes de fazermos qualquer modelo ou sumário:

cacc %>% 
  ggplot(aes(x = docentes, y = producao)) + 
  geom_point()

Parece que existe uma relação. Vamos criar um modelo então:

modelo1 = lm(producao ~ docentes, data = cacc)

t1 = tidy(modelo1, conf.int = TRUE, conf.level = 0.95)
g1 = glance(modelo1)

t1
g1

Para visualizar o modelo:

cacc_augmented = cacc %>% 
  add_predictions(modelo1) 

cacc_augmented %>% 
  ggplot(aes(x = docentes)) + 
  geom_line(aes(y = pred), colour = "brown") + 
  geom_point(aes(y = producao)) + 
  labs(y = "Produção do programa")

Se considerarmos que temos apenas uma amostra de todos os programas de pós em CC no Brasil, o que podemos inferir a partir desse modelo sobre a relação entre número de docentes permanentes e produção de artigos em programas de pós?

Normalmente reportaríamos o resultado da seguinte maneira, substituindo VarIndepX e todos os x’s e y’s pelos nomes e valores de fato:

Regressão múltipla foi utilizada para analisar se VarIndep1 e VarIndep2 tem uma associação significativa com VarDep. Os resultados da regressão indicam que um modelo com os 2 preditores no formato VarDep = XXX.VarIndep1 + YYY.VarIndep2 explicam XX,XX% da variância da variável de resposta (R2 = XX,XX). VarIndep1, medida como/em [unidade ou o que é o 0 e o que é 1] tem uma relação significativa com o erro (b = [yy,yy; zz,zz], IC com 95%), assim como VarIndep2 medida como [unidade ou o que é o 0 e o que é 1] (b = [yy,yy; zz,zz], IC com 95%). O aumento de 1 unidade de VarIndep1 produz uma mudança de xxx em VarDep, enquanto um aumento…

Produza aqui a sua versão desse texto, portanto:


Regressão linear simples foi utilizada para analisar se o número de docentes permanentes tem uma associação significativa com a produção de artigos (A1, A2, B1) de um programa. Os resultados da regressão indicam que um modelo com os dois preditores no formato Produção = -41.27 + 4.81 * Docentes explica 81.46% da variância da variável de resposta (R2 = 0.81). O número de docentes tem uma relação significativa e positiva com a produção (b = 4.81, IC com 95% [4.27; 5.36]). O aumento de 1 docente permanente produz uma mudança média de 4.81 artigos na produção do programa.


Dito isso, o que significa a relação que você encontrou na prática para entendermos os programas de pós graduação no Brasil? E algum palpite de por que a relação que encontramos é forte?


A relação forte e positiva indica que o tamanho do corpo docente (docentes permanentes) é o principal motor do volume de publicações de alta qualidade (A1, A2, B1). Mais professores geram mais pesquisas e orientações, o que resulta em mais artigos. No entanto, focar apenas na produção total pode mascarar a eficiência de cada docente (produtividade), já que um programa maior naturalmente produzirá mais que um programa menor.


Mais fatores

modelo2 = lm(producao ~ docentes + mestrados_pprof + doutorados_pprof + tem_doutorado, 
             data = cacc_md)

t2_md = tidy(modelo2, conf.int = TRUE, conf.level = 0.95)
g2_md = glance(modelo2)

t2_md
g2_md

E se considerarmos também o número de alunos?

modelo2 = lm(producao ~ docentes + mestrados + doutorados, data = cacc)

t2 = tidy(modelo2, conf.int = TRUE, conf.level = 0.95)
g2 = glance(modelo2)

t2
g2

Visualizar o modelo com muitas variáveis independentes fica mais difícil

para_plotar_modelo = cacc %>% 
  data_grid(producao = seq_range(producao, 10), # Crie um vetor de 10 valores no range
            docentes = seq_range(docentes, 4),  
            # mestrados = seq_range(mestrados, 3),
            mestrados = median(mestrados),
            doutorados = seq_range(doutorados, 3)) %>% 
  add_predictions(modelo2)

glimpse(para_plotar_modelo)
para_plotar_modelo %>% 
  ggplot(aes(x = docentes, y = pred)) + 
  geom_line(aes(group = doutorados, colour = doutorados)) + 
  geom_point(data = cacc, aes(y = producao, colour = doutorados))

Considerando agora esses três fatores, o que podemos dizer sobre como cada um deles se relaciona com a produção de um programa de pós em CC? E sobre o modelo? Ele explica mais que o modelo 1?


EXPLICAÇÃO: Regressão múltipla foi utilizada para analisar se o número de docentes, de mestrados (dissertações) e de doutorados (teses) possuem uma associação significativa com a produção de artigos. O modelo explica 87.07% da variância da produção (R2 = 0.87). O número de docentes (3.5, IC 95% [2.58; 4.42]) e o número de doutorados (1, IC 95% [0.64; 1.37]) possuem relação significativa e positiva com a produção. Já a quantidade de mestrados (-0.19, IC 95% [-0.36; -0.03]) tem um efeito bem menor. Esse modelo explica mais variância do que o Modelo 1, indicando que a formação de doutores agrega uma contribuição própria à produção do programa além do simples número de professores.

Agora produtividade

Diferente de medirmos produção (total produzido), é medirmos produtividade (produzido / utilizado). Abaixo focaremos nessa análise. Para isso crie um modelo que investiga como um conjunto de fatores que você julga que são relevantes se relacionam com a produtividade dos programas. Crie um modelo que avalie como pelo menos 3 fatores se relacionam com a produtividade de um programa. Pode reutilizar fatores que já definimos e analizamos para produção. Mas cuidado para não incluir fatores que sejam função linear de outros já incluídos (ex: incluir A, B e um tercero C=A+B)

Produza abaixo o modelo e um texto que comente (i) o modelo, tal como os que fizemos antes, e (ii) as implicações - o que aprendemos sobre como funcionam programas de pós no brasil?.

modelo_prod = lm(produtividade ~ tem_doutorado + mestrados_pprof + doutorados_pprof, data = cacc)

t3 = tidy(modelo_prod, conf.int = TRUE, conf.level = 0.95)
g3 = glance(modelo_prod)

t3
g3

Discussão do Modelo de Produtividade: Regressão múltipla foi utilizada para analisar se a presença de doutorado (tem_doutorado), a razão de mestrados por professor (mestrados_pprof) e a razão de doutorados por professor (doutorados_pprof) estão associados à produtividade de um programa. O modelo gerado explica cerca de 51.34% da variância na produtividade (R2 = 0.51).

Analisando as estimativas (coeficientes):

Implicações: O que aprendemos é que a formação de doutores é a grande engrenagem de produtividade na pós-graduação em Computação no Brasil. Programas que orientam e titulam mais doutores tendem a ser mais eficientes na produção acadêmica do que aqueles focados no mestrado.

---
title: "Regressão linear na prática"
output: html_notebook
editor_options: 
  markdown: 
    wrap: 72
---

```{r warning=FALSE, echo=FALSE}
library(tidyverse)
library(broom)
library(modelr)
source(here::here("code/lib.R"))
theme_set(theme_bw())

knitr::opts_chunk$set(tidy = FALSE,
                      fig.width = 6,
                      fig.height = 5)

paleta = c("#404E4D",
           "#92DCE5",
           "#938BA1",
           "#2D3142",
           "#F4743B")
```

## Dados da CAPES sobre avaliação da pós-graduação

A CAPES é um órgão do MEC que tem a atribuição de acompanhar a
pós-graduação na universidade brasileira. Uma das formas que ela
encontrou de fazer isso e pela qual ela é bastante criticada é através
de uma avaliação quantitativa a cada x anos (era 3, mudou para 4).

Usaremos dados da penúltima avaliação da CAPES:

```{r}
cacc_tudo = read_projectdata()

glimpse(cacc_tudo)
```

### Produção e produtividade de artigos

Uma das maneiras de avaliar a produção dos docentes que a CAPES utiliza
é quantificando a produção de artigos pelos docentes. Os artigos são
categorizados em extratos ordenados (A1 é o mais alto), e separados
entre artigos em conferências e periódicos. Usaremos para esse lab a
produção em periódicos avaliados com A1, A2 e B1.

```{r}
cacc = cacc_tudo %>%
  transmute(
    docentes = `Docentes permanentes`,
    producao = (periodicos_A1 + periodicos_A2 + periodicos_B1),
    produtividade = producao / docentes,
    mestrados = Dissertacoes,
    doutorados = Teses,
    tem_doutorado = tolower(`Tem doutorado`) == "sim",
    mestrados_pprof = mestrados / docentes,
    doutorados_pprof = doutorados / docentes
  )

cacc_md = cacc %>% 
  filter(tem_doutorado)
```

### EDA

```{r}
skimr::skim(cacc)
```

```{r}
cacc %>% 
  ggplot(aes(x = docentes)) + 
  geom_histogram(bins = 15, fill = paleta[1])

cacc %>% 
  ggplot(aes(x = producao)) + 
  geom_histogram(bins = 15, fill = paleta[2])

cacc %>% 
  ggplot(aes(x = produtividade)) + 
  geom_histogram(bins = 15, fill = paleta[3])
```

Se quisermos modelar o efeito do tamanho do programa em termos de
docentes (permanentes) na quantidade de artigos publicados, podemos usar
regressão.

*Importante*: sempre queremos ver os dados antes de fazermos qualquer
modelo ou sumário:

```{r}
cacc %>% 
  ggplot(aes(x = docentes, y = producao)) + 
  geom_point()
```

Parece que existe uma relação. Vamos criar um modelo então:

```{r}
modelo1 = lm(producao ~ docentes, data = cacc)

t1 = tidy(modelo1, conf.int = TRUE, conf.level = 0.95)
g1 = glance(modelo1)

t1
g1
```

Para visualizar o modelo:

```{r}
cacc_augmented = cacc %>% 
  add_predictions(modelo1) 

cacc_augmented %>% 
  ggplot(aes(x = docentes)) + 
  geom_line(aes(y = pred), colour = "brown") + 
  geom_point(aes(y = producao)) + 
  labs(y = "Produção do programa")
```

Se considerarmos que temos apenas uma amostra de todos os programas de
pós em CC no Brasil, o que podemos inferir a partir desse modelo sobre a
relação entre número de docentes permanentes e produção de artigos em
programas de pós?

Normalmente reportaríamos o resultado da seguinte maneira, substituindo
VarIndepX e todos os x's e y's pelos nomes e valores de fato:

> Regressão múltipla foi utilizada para analisar se VarIndep1 e
> VarIndep2 tem uma associação significativa com VarDep. Os resultados
> da regressão indicam que um modelo com os 2 preditores no formato
> VarDep = XXX.VarIndep1 + YYY.VarIndep2 explicam XX,XX% da variância da
> variável de resposta (R2 = XX,XX). VarIndep1, medida como/em [unidade
> ou o que é o 0 e o que é 1] tem uma relação significativa com o erro
> (b = [yy,yy; zz,zz], IC com 95%), assim como VarIndep2 medida como
> [unidade ou o que é o 0 e o que é 1] (b = [yy,yy; zz,zz], IC com 95%).
> O aumento de 1 unidade de VarIndep1 produz uma mudança de xxx em
> VarDep, enquanto um aumento...

Produza aqui a sua versão desse texto, portanto:

------------------------------------------------------------------------

Regressão linear simples foi utilizada para analisar se o número de
docentes permanentes tem uma associação significativa com a produção de
artigos (A1, A2, B1) de um programa. Os resultados da regressão indicam
que um modelo com os dois preditores no formato Produção =
`r round(t1$estimate[1], 2)` + `r round(t1$estimate[2], 2)` \* Docentes
explica `r round(g1$r.squared * 100, 2)`% da variância da variável de
resposta (R2 = `r round(g1$r.squared, 2)`). O número de docentes tem uma
relação significativa e positiva com a produção (b =
`r round(t1$estimate[2], 2)`, IC com 95% [`r round(t1$conf.low[2], 2)`;
`r round(t1$conf.high[2], 2)`]). O aumento de 1 docente permanente
produz uma mudança média de `r round(t1$estimate[2], 2)` artigos na
produção do programa.

------------------------------------------------------------------------

Dito isso, o que significa a relação que você encontrou na prática para
entendermos os programas de pós graduação no Brasil? E algum palpite de
por que a relação que encontramos é forte?

------------------------------------------------------------------------

A relação forte e positiva indica que o tamanho do corpo docente
(docentes permanentes) é o principal motor do volume de publicações de
alta qualidade (A1, A2, B1). Mais professores geram mais pesquisas e
orientações, o que resulta em mais artigos. No entanto, focar apenas na
produção total pode mascarar a eficiência de cada docente
(produtividade), já que um programa maior naturalmente produzirá mais
que um programa menor.

------------------------------------------------------------------------

## Mais fatores

```{r}
modelo2 = lm(producao ~ docentes + mestrados_pprof + doutorados_pprof + tem_doutorado, 
             data = cacc_md)

t2_md = tidy(modelo2, conf.int = TRUE, conf.level = 0.95)
g2_md = glance(modelo2)

t2_md
g2_md
```

E se considerarmos também o número de alunos?

```{r}
modelo2 = lm(producao ~ docentes + mestrados + doutorados, data = cacc)

t2 = tidy(modelo2, conf.int = TRUE, conf.level = 0.95)
g2 = glance(modelo2)

t2
g2
```

Visualizar o modelo com muitas variáveis independentes fica mais difícil

```{r}
para_plotar_modelo = cacc %>% 
  data_grid(producao = seq_range(producao, 10), # Crie um vetor de 10 valores no range
            docentes = seq_range(docentes, 4),  
            # mestrados = seq_range(mestrados, 3),
            mestrados = median(mestrados),
            doutorados = seq_range(doutorados, 3)) %>% 
  add_predictions(modelo2)

glimpse(para_plotar_modelo)

```

```{r}
para_plotar_modelo %>% 
  ggplot(aes(x = docentes, y = pred)) + 
  geom_line(aes(group = doutorados, colour = doutorados)) + 
  geom_point(data = cacc, aes(y = producao, colour = doutorados))
```

Considerando agora esses três fatores, o que podemos dizer sobre como
cada um deles se relaciona com a produção de um programa de pós em CC? E
sobre o modelo? Ele explica mais que o modelo 1?

------------------------------------------------------------------------

## **EXPLICAÇÃO**: Regressão múltipla foi utilizada para analisar se o número de docentes, de mestrados (dissertações) e de doutorados (teses) possuem uma associação significativa com a produção de artigos. O modelo explica `r round(g2$r.squared * 100, 2)`% da variância da produção (R2 = `r round(g2$r.squared, 2)`). O número de docentes (`r round(t2$estimate[2], 2)`, IC 95% [`r round(t2$conf.low[2], 2)`; `r round(t2$conf.high[2], 2)`]) e o número de doutorados (`r round(t2$estimate[4], 2)`, IC 95% [`r round(t2$conf.low[4], 2)`; `r round(t2$conf.high[4], 2)`]) possuem relação significativa e positiva com a produção. Já a quantidade de mestrados (`r round(t2$estimate[3], 2)`, IC 95% [`r round(t2$conf.low[3], 2)`; `r round(t2$conf.high[3], 2)`]) tem um efeito bem menor. Esse modelo explica mais variância do que o Modelo 1, indicando que a formação de doutores agrega uma contribuição própria à produção do programa além do simples número de professores.

## Agora produtividade

Diferente de medirmos produção (total produzido), é medirmos
produtividade (produzido / utilizado). Abaixo focaremos nessa análise.
Para isso crie um modelo que investiga como um conjunto de fatores que
você julga que são relevantes se relacionam com a produtividade dos
programas. Crie um modelo que avalie como *pelo menos 3 fatores* se
relacionam com a produtividade de um programa. Pode reutilizar fatores
que já definimos e analizamos para produção. Mas cuidado para não
incluir fatores que sejam função linear de outros já incluídos (ex:
incluir A, B e um tercero C=A+B)

Produza abaixo o modelo e um texto que comente (i) o modelo, tal como os
que fizemos antes, e (ii) as implicações - o que aprendemos sobre como
funcionam programas de pós no brasil?.

```{r}
modelo_prod = lm(produtividade ~ tem_doutorado + mestrados_pprof + doutorados_pprof, data = cacc)

t3 = tidy(modelo_prod, conf.int = TRUE, conf.level = 0.95)
g3 = glance(modelo_prod)

t3
g3
```

------------------------------------------------------------------------

**Discussão do Modelo de Produtividade**: Regressão múltipla foi
utilizada para analisar se a presença de doutorado (`tem_doutorado`), a
razão de mestrados por professor (`mestrados_pprof`) e a razão de
doutorados por professor (`doutorados_pprof`) estão associados à
produtividade de um programa. O modelo gerado explica cerca de
`r round(g3$r.squared * 100, 2)`% da variância na produtividade (R2 =
`r round(g3$r.squared, 2)`).

Analisando as estimativas (coeficientes):

- **Presença de Doutorado** (`r round(t3$estimate[2], 2)`, IC 95%
  [`r round(t3$conf.low[2], 2)`; `r round(t3$conf.high[2], 2)`]):
  Programas com curso de doutorado possuem um aumento esperado médio
  significativo na sua produtividade (efeito positivo forte).

- **Doutorados por Professor** (`r round(t3$estimate[4], 2)`, IC 95%
  [`r round(t3$conf.low[4], 2)`; `r round(t3$conf.high[4], 2)`]): A taxa
  de teses concluídas por professor também contribui positivamente.
  Quanto maior a formação de doutores, mais produtivo é o corpo docente.

- **Mestrados por Professor** (`r round(t3$estimate[3], 2)`, IC 95%
  [`r round(t3$conf.low[3], 2)`; `r round(t3$conf.high[3], 2)`]): Tem
  impacto menor, indicando que um alto volume de dissertações por si só
  não alavanca as publicações de alto estrato (A1-B1) comparado ao
  doutorado.

**Implicações**: O que aprendemos é que a formação de doutores é a
grande engrenagem de produtividade na pós-graduação em Computação no
Brasil. Programas que orientam e titulam mais doutores tendem a ser mais
eficientes na produção acadêmica do que aqueles focados no mestrado.
