Regressão linear na prática
Dados da CAPES sobre avaliação da pós-graduação
A CAPES é um órgão do MEC que tem a atribuição de acompanhar a pós-graduação na universidade brasileira. Uma das formas que ela encontrou de fazer isso e pela qual ela é bastante criticada é através de uma avaliação quantitativa a cada x anos (era 3, mudou para 4).
Usaremos dados da penúltima avaliação da CAPES:
cacc_tudo = read.csv('cacc.csv')
glimpse(cacc_tudo)Rows: 73
Columns: 31
$ Instituição <chr> "UNIVERSIDADE FEDERAL…
$ Programa <chr> "INFORMÁTICA (1200101…
$ Nível <int> 5, 4, 3, 3, 3, 5, 4, …
$ Sigla <chr> "UFAM", "UFPA", "UFMA…
$ Tem.doutorado <chr> "Sim", "Sim", "Não", …
$ Docentes.colaboradores <dbl> 0.25, 5.50, 3.00, 6.2…
$ Docentes.permanentes <dbl> 24.75, 14.00, 10.00, …
$ Docentes.visitantes <dbl> 0.00, 0.00, 0.00, 0.0…
$ Resumos.em.conf <int> 20, 23, 15, 5, 4, 10,…
$ Resumos.expandidos.em.conf <int> 25, 24, 7, 10, 1, 68,…
$ Artigos.em.conf <int> 390, 284, 115, 73, 15…
$ Dissertacoes <int> 108, 77, 50, 25, 31, …
$ Teses <int> 14, 0, 0, 0, 0, 24, 5…
$ periodicos_A1 <int> 15, 19, 5, 1, 7, 21, …
$ periodicos_A2 <int> 19, 21, 11, 1, 4, 32,…
$ periodicos_B1 <int> 19, 38, 7, 3, 6, 26, …
$ periodicos_B2 <int> 1, 12, 2, 6, 0, 0, 11…
$ periodicos_B3 <int> 3, 16, 2, 2, 3, 16, 1…
$ periodicos_B4 <int> 0, 4, 0, 3, 3, 0, 1, …
$ periodicos_B5 <int> 10, 16, 8, 4, 12, 4, …
$ periodicos_C <int> 9, 34, 12, 5, 2, 3, 1…
$ periodicos_NA <int> 7, 15, 8, 11, 12, 6, …
$ per_comaluno_A1 <int> 4, 1, 0, 0, 1, 7, 5, …
$ per_comaluno_A2 <int> 5, 5, 5, 0, 2, 15, 3,…
$ per_comaluno_B1 <int> 4, 2, 5, 2, 2, 14, 6,…
$ per_comaluno_B2 <int> 0, 1, 1, 0, 0, 0, 1, …
$ per_comaluno_B3 <int> 2, 2, 0, 1, 0, 7, 9, …
$ per_comaluno_B4 <int> 0, 0, 0, 0, 2, 0, 1, …
$ per_comaluno_B5 <int> 5, 0, 4, 0, 8, 3, 6, …
$ per_comaluno_C <int> 6, 5, 3, 1, 2, 3, 7, …
$ per_comaluno_NA <int> 6, 14, 2, 2, 9, 3, 6,…Produção e produtividade de artigos
Uma das maneiras de avaliar a produção dos docentes que a CAPES utiliza é quantificando a produção de artigos pelos docentes. Os artigos são categorizados em extratos ordenados (A1 é o mais alto), e separados entre artigos em conferências e periódicos. Usaremos para esse lab a produção em periódicos avaliados com A1, A2 e B1.
cacc = cacc_tudo %>%
transmute(
docentes = `Docentes.permanentes`,
producao = (periodicos_A1 + periodicos_A2 + periodicos_B1),
produtividade = producao / docentes,
mestrados = Dissertacoes,
doutorados = Teses,
tem_doutorado = tolower(`Tem.doutorado`) == "sim",
mestrados_pprof = mestrados / docentes,
doutorados_pprof = doutorados / docentes
)
cacc_md = cacc %>%
filter(tem_doutorado)EDA
skimr::skim(cacc)── Data Summary ────────────────────────
Values
Name cacc
Number of rows 73
Number of columns 8
_______________________
Column type frequency:
logical 1
numeric 7
________________________
Group variables None cacc %>%
ggplot(aes(x = docentes)) +
geom_histogram(bins = 15, fill = paleta[1])
cacc %>%
ggplot(aes(x = producao)) +
geom_histogram(bins = 15, fill = paleta[2])
cacc %>%
ggplot(aes(x = produtividade)) +
geom_histogram(bins = 15, fill = paleta[3])
Se quisermos modelar o efeito do tamanho do programa em termos de docentes (permanentes) na quantidade de artigos publicados, podemos usar regressão.
Importante: sempre queremos ver os dados antes de fazermos qualquer modelo ou sumário:
cacc %>%
ggplot(aes(x = docentes, y = producao)) +
geom_point()
Parece que existe uma relação. Vamos criar um modelo então:
modelo1 = lm(producao ~ docentes, data = cacc)
tidy(modelo1, conf.int = TRUE, conf.level = 0.95)glance(modelo1)Para visualizar o modelo:
cacc_augmented = cacc %>%
add_predictions(modelo1)
cacc_augmented %>%
ggplot(aes(x = docentes)) +
geom_line(aes(y = pred), colour = "brown") +
geom_point(aes(y = producao)) +
labs(y = "Produção do programa")
Se considerarmos que temos apenas uma amostra de todos os programas de pós em CC no Brasil, o que podemos inferir a partir desse modelo sobre a relação entre número de docentes permanentes e produção de artigos em programas de pós?
Normalmente reportaríamos o resultado da seguinte maneira, substituindo VarIndepX e todos os x’s e y’s pelos nomes e valores de fato:
Regressão múltipla foi utilizada para analisar se VarIndep1 e VarIndep2 tem uma associação significativa com VarDep. Os resultados da regressão indicam que um modelo com os 2 preditores no formato VarDep = XXX.VarIndep1 + YYY.VarIndep2 explicam XX,XX% da variância da variável de resposta (R2 = XX,XX). VarIndep1, medida como/em [unidade ou o que é o 0 e o que é 1] tem uma relação significativa com o erro (b = [yy,yy; zz,zz], IC com 95%), assim como VarIndep2 medida como [unidade ou o que é o 0 e o que é 1] (b = [yy,yy; zz,zz], IC com 95%). O aumento de 1 unidade de VarIndep1 produz uma mudança de xxx em VarDep, enquanto um aumento…
Produza aqui a sua versão desse texto, portanto:
A regressão linear simples foi utilizada para analisar se o número de docentes permanentes tem uma associação com a produção de artigos. Os resultados indicam que um modelo com um preditor no formato produção = -41.27309 + 4.81337 * docentes explica 81,4% da variância da variável de resposta (R² = 0.8145886). O número de docentes permanentes tem uma relação significativa com a produção de artigos (b = [4.269955, 5.356786], IC com 95%). O aumento de 1 unidade no número de docentes permanentes produz uma mudança de aproximadamente 4.8134 na produção de artigos, o que sugere que programas com mais docentes permanentes tendem a produzir mais artigos.
Em suma, os resultados indicam que há uma forte relação entre o número de docentes permanentes e a produção de artigos em programas de pós-graduação em ciência da computação no Brasil, na qual programas com mais docentes permanentes costumam produzir mais artigos.
Dito isso, o que significa a relação que você encontrou na prática para entendermos os programas de pós graduação no Brasil? E algum palpite de por que a relação que encontramos é forte?
A forte relação positiva encontrada entre o número de docentes permanentes e a produção de artigos sugere que investir em um corpo docente qualificado e de tamanho adequado é essencial para a produção acadêmica.
Mais fatores
modelo2 = lm(producao ~ docentes + mestrados_pprof + doutorados_pprof + tem_doutorado,
data = cacc_md)
tidy(modelo2, conf.int = TRUE, conf.level = 0.95)glance(modelo2)E se considerarmos também o número de alunos?
modelo2 = lm(producao ~ docentes + mestrados + doutorados, data = cacc)
tidy(modelo2, conf.int = TRUE, conf.level = 0.95)glance(modelo2)Visualizar o modelo com muitas variáveis independentes fica mais difícil
para_plotar_modelo = cacc %>%
data_grid(producao = seq_range(producao, 10), # Crie um vetor de 10 valores no range
docentes = seq_range(docentes, 4),
# mestrados = seq_range(mestrados, 3),
mestrados = median(mestrados),
doutorados = seq_range(doutorados, 3)) %>%
add_predictions(modelo2)
glimpse(para_plotar_modelo)Rows: 120
Columns: 5
$ producao <dbl> 0.00000, 0.00000, 0.00000, 0.00000, 0…
$ docentes <dbl> 8.25000, 8.25000, 8.25000, 27.91667, …
$ mestrados <int> 58, 58, 58, 58, 58, 58, 58, 58, 58, 5…
$ doutorados <dbl> 0, 76, 152, 0, 76, 152, 0, 76, 152, 0…
$ pred <dbl> 3.199123, 79.257725, 155.316327, 72.0…para_plotar_modelo %>%
ggplot(aes(x = docentes, y = pred)) +
geom_line(aes(group = doutorados, colour = doutorados)) +
geom_point(data = cacc, aes(y = producao, colour = doutorados))
Considerando agora esses três fatores, o que podemos dizer sobre como cada um deles se relaciona com a produção de um programa de pós em CC? E sobre o modelo? Ele explica mais que o modelo 1?
A regressão linear múltipla foi empregada para investigar a relação entre docentes permanentes, proporção de mestrados, proporção de doutorados e a produção de artigos em programas de pós-graduação em ciência da computação no Brasil. O modelo produção = -14.36631 + 3.49971 * docentes - 0.19495 * mestrados + 1.00077 * doutorados explica 87.06% da variância da produção de artigos (R² = 0.8706). Os resultados revelam que docentes (b = [2.5827, 4.4167], IC com 95%, p < 0.001) e doutorados (b = [0.6355, 1.3660], IC com 95%, p < 0.001) têm associações significativas e positivas com a produção de artigos, enquanto mestrados apresentam uma associação negativa (b = [-0.3577, -0.0322], IC com 95%, p = 0.020). Isso sugere que um aumento no número de docentes e na proporção de doutorados está associado a uma maior produção acadêmica, enquanto uma maior proporção de mestrados pode influenciar negativamente a produção de artigos.
O modelo ajustado (R² = 0.8706) explica mais da variância na produção de artigos em comparação com o modelo anterior (R² = 0.8145), indicando uma melhor capacidade de previsão com base nos fatores considerados.
Agora produtividade
Diferente de medirmos produção (total produzido), é medirmos produtividade (produzido / utilizado). Abaixo focaremos nessa análise. Para isso crie um modelo que investiga como um conjunto de fatores que você julga que são relevantes se relacionam com a produtividade dos programas. Crie um modelo que avalie como pelo menos 3 fatores se relacionam com a produtividade de um programa. Pode reutilizar fatores que já definimos e analizamos para produção. Mas cuidado para não incluir fatores que sejam função linear de outros já incluídos (ex: incluir A, B e um tercero C=A+B)
Produza abaixo o modelo e um texto que comente (i) o modelo, tal como os que fizemos antes, e (ii) as implicações - o que aprendemos sobre como funcionam programas de pós no brasil?.
Para garantir que os fatores escolhidos não sofram de multicolinearidade, calculou-se o VIF (Variance Inflation Factor) para cada variável independente no modelo. O VIF é uma medida que mede o quanto a variância de um coeficiente de regressão está inflacionada devido à multicolinearidade com outras variáveis independentes no modelo. Se o VIF for maior que 10, considera-se que há multicolinearidade alta.
model <- lm(produtividade ~ ., data = cacc)
vif_values <- vif(model)
print(vif_values) docentes producao mestrados
14.420573 9.099823 14.272466
doutorados tem_doutorado mestrados_pprof
18.021248 2.147811 4.098670
doutorados_pprof
8.372931 Vamos manter no modelo apenas as variáveis com VIF abaixo de 10.
new_model <- lm(produtividade ~ tem_doutorado + mestrados_pprof + doutorados_pprof + producao, data = cacc)
new_vif_values <- vif(new_model)
print(new_vif_values)A redução dos valores de VIF após ajustar o modelo indica que a multicolinearidade foi reduzida.
summary(new_model)
Call:
lm(formula = produtividade ~ tem_doutorado + mestrados_pprof +
doutorados_pprof + producao, data = cacc)
Residuals:
Min 1Q Median 3Q Max
-1.3435 -0.5552 -0.0296 0.5887 2.4509
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 1.150847 0.237499 4.846 7.64e-06
tem_doutoradoTRUE 0.827323 0.247867 3.338 0.00137
mestrados_pprof 0.022634 0.052419 0.432 0.66726
doutorados_pprof -0.027724 0.211708 -0.131 0.89620
producao 0.013050 0.002225 5.864 1.47e-07
(Intercept) ***
tem_doutoradoTRUE **
mestrados_pprof
doutorados_pprof
producao ***
---
Signif. codes:
0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 0.8028 on 68 degrees of freedom
Multiple R-squared: 0.6768, Adjusted R-squared: 0.6578
F-statistic: 35.6 on 4 and 68 DF, p-value: 5.028e-16O modelo ajustado é dado por:
produtividade= 1.150847 +0.827323×tem_doutoradoTRUE+0.022634×mestrados_pprof−0.027724×doutorados_pprof+0.013050×producao
Com um R² = 0.6768, indicando que cerca de 67.68% da variabilidade na produtividade é explicada pelas variáveis independentes escolhidas.
tem_doutorado (0.827323, p = 0.00137): Programas que possuem doutorado têm, em média, 0.827323 unidades a mais em produtividade do que programas que não possuem doutorado.
mestrados_pprof (0.022634, p=0.66726) : Este coeficiente indica uma associação positiva entre a proporção de mestrados profissionais e a produtividade. No entanto, o p-valor é maior que o nível de significância, o que significa que não é estatisticamente significativo.
doutorados_pprof (-0.027724, p=0.89620): Indica uma fraca associação negativa entre a proporção de doutorados profissionais e a produtividade, porém aqui novamente o p-valor é alto, indicando falta de significância estatística.
producao (0.013050, p < 0.001)): O aumento de uma unidade na produção está associado a um aumento de 0.013050 unidades na produtividade. É altamente significativo, sugerindo uma forte associação positiva entre produção e produtividade.
Esses resultados revelam que a presença de docentes com doutorado e o nível de produção acadêmica são fatores cruciais para a produtividade dos programas de pós-graduação em computação no Brasil.