Regressão Logística Multinomial

Introdução

Um modelo estatístico é uma entidade matemática que busca explicar relações existentes entre duas ou mais variáveis.

De modo geral, em um modelo temos dois tipos de variáveis:

• Dependentes ou resposta - Variáveis sob as quais se deseja compreender o comportamento.

• Independentes ou explicativas - Variáveis que, em hipótese, afetam o comportamento das variáveis dependentes.

O tipo de modelo utilizado depende de uma série de fatores:

• Natureza das variáveis dependentes.

• Tipo de relação teórica entre variáveis dependentes e independentes.

• Pressupostos relacionados a ambas as variáveis, dentre outros.

Modelos para variáveis qualitativas

Suponha a seguinte situação:

Na pesquisa da SECOM, a variável 17 apresenta 5 respostas possíveis para a seguinte pergunta:

Na sua opinião, qual dessas ações deve ser a prioridade do Governo Federal?

• Diminuir a inflação.

• Investir mais em educação pública.

• Combater mais a corrupção.

• Ampliar os programas sociais.

• Melhorar a situação da economia do país.

Será que as características socioeconômicas influenciam nessa resposta? Como temos mais de dois níveis de variáveis, a regressão logística não é uma opção.

Regressão Logística Multinomial

Em situaçõs como essa, em que a resposta possui mais de dois níveis qualitativos, podemos ter variáveis nominais ou ordinais.

No nosso exemplo, as variáveis são nominais. Nesse caso, o modelo mais adequado é o modelo de Regressão Logística Multinomial.

Distribuição Multinomial

Seja \(Y\) uma variável aleatória com \(k\) categorias, em que \(\pi_1, \pi_2, \cdots, \pi_k\) são as respectivas probabilidades de ocorrência e \(\sum\limits_{i = 1}^k\pi_i = 1\).

Suponha \(n\) realizações dessa variável. Teremos \(Y_1\) observações na categoria 1, \(Y_2\) observações na categoria 2, e assim sucessivamente, até que tenhamos \(Y_k\) observações na categoria \(k\), de modo que \(\sum\limits_{k=1}^n Y_k = n\).

Nesse contexto, temos que

\[ P(Y_1 = y_1, Y_2 = y_2, \cdots, Y_k = y_k|n) = \dfrac{n!}{y_1!y_2!\cdots y_k!}\pi_1^{y_1} \pi_2^{y_2} \cdots \pi_k^{y_k} \]

e dizemos que \(Y \sim Multinomial (n, \pi_1, \pi_2, \cdots, \pi_k)\), com

\[ E(Y_k) = n\pi_k ~~\text{e}~~ Var(Y_k) = n\pi_k(1-\pi_k) \]

Regressão Logística Multinomial

A Regressão Logística Multinomial carrega muitas semelhanças com a regressão logística binária.

Enquanto na regressão logística binária testamos as chances de uma resposta versos a outra, na regressão logística multinomial é necessário definir uma categoria de referência, que será comparada com as demais.

Após essa definição, em termos práticos, para um modelo cuja variável resposta tem \(k\) níveis, é como se ajustássemos \(k-1\) modelos de regressão logística binária.

Regressão Logística Multinomial

Em um modelo de \(K\) níveis, supondo que a primeira variável seja escolhida como referência, teríamos os seguintes logitos para as demais categorias:

\[ logito(\pi_k) = \log\left(\frac{\pi_k}{\pi_1}\right) = x^T\beta_k,~~k = 2, 3, \cdots, K \]

Assim, são geradas \(K-1\) equações logísticas, que são otimizadas simultaneamente para a obtenção dos parâmetros \(\beta_k\).

Os valores ajustados para cada nível fica dado por

\[ \hat{\pi_k} = \dfrac{exp(x^T\hat{\beta_k})}{1 + \sum_{k=2}^Kexp(x^T\hat{\beta_k})},~~k = 2, 3, \cdots, K \]

Regressão Logística Multinomial

Regressão Logística Multinomial - Exemplo

A variável P17 do questionário é a seguinte:

Na sua opinião, qual dessas ações deve ser a prioridade do Governo Federal?

Será que essa avaliação de prioridades varia conforme o sexo e a escolaridade?

Primeiramente vamos fazer algumas transformações nas variáveis, pois elas possuem muitos níveis:

• Escolaridade: Vamos agrupar em até ensino fundamental, ensino médio (completo ou incompleto) e ensino superior (incompleto, completo ou pós-graduado).

• Prioridades:

  • Economia (Diminuir a inflação, melhorar a economia).

  • Investimento (Investir em educação ou programas sociais).

  • Combate à corrupção.

Regressão Logística Multinomial - Exemplo

pesquisa_secom <- pesquisa_secom %>% 
  mutate(escolaridade = case_when(
  pf3 %in% c("Analfabeto", "Sabe ler e escrever", "Ensino Fundamental Incompleto", "Ensino Fundamental Completo") ~ "Até Ensino Fundamental",
  pf3 %in% c("Ensino Médio Incompleto", "Ensino Médio Completo") ~ "Ensino Médio",
  pf3 %in% c("Ensino Superior Incompleto", "Ensino Superior Completo", "Pós Graduado: Especialização, Mestrado ou Doutorado") ~ "Ensino Superior"),
         prioridade = case_when(
  p17 %in% c("Investir mais em educação pública", "Ampliar os programas sociais") ~ "Investimento",
  p17 %in% c("Diminuir a inflação", "Melhorar a situação da economia do país") ~ "Economia",
  p17 == "Combater mais a corrupção" ~ "Combate à Corrupção",
  .default = NA))

Vamos gerar uma tabela de contingência para analisar as variáveis

Regressão Logística Multinomial - Exemplo

pesquisa_secom %>% tbl_summary(by = prioridade, include = c(pf1, escolaridade))

Regressão Logística Multinomial - Exemplo

Regressão Logística Multinomial - Exemplo

Aparentemente o sexo influencia mais a questão do que a escolaridade.

Para verificar a influência de cada variável, vamos ajustar um modelo de regressão logística multinomial.

No R, a regressão logística multinomial é realizada por meio da função multinom(), do pacote nnet.

Por padrão, a função escolhe a categoria por ordem alfabética. Mas vamos escolher a categoria “Economia” como categoria de referência. Para isso, utilizaremos a função relevel().

#Conversão para fator
pesquisa_secom <- pesquisa_secom %>% 
  mutate(prioridade = factor(prioridade) %>% 
           relevel(ref = "Economia"))

#Verificando os níveis
levels(pesquisa_secom$prioridade)

[1] "Economia"            "Combate à Corrupção" "Investimento"       

Regressão Logística Multinomial - Exemplo

Vamos agora ajustar nosso modelo de regressão logística multinomial. Os parâmetros da função multinom() são semelhantes aos da função lm(): formula e data:

#Carregando o pacote
pacman::p_load(nnet, sjPlot)

#Ajuste do modelo
modelo <- multinom(prioridade ~ pf1 + escolaridade, data = pesquisa_secom)

# weights:  15 (8 variable)
initial  value 2134.603677 
iter  10 value 1971.550591
final  value 1970.793912 
converged

#Coeficientes do modelo

Para visualizar os resultados do modelo, vamos utilizar a função tab_model() do pacote sjPlot. Essa função, além de apresentar os testes de hipóteses, já fornece o resultado das odds ratio

Regressão Logística Multinomial - Exemplo

tab_model(modelo)

Regressão Logística Multinomial - Exemplo

Logo, do modelo em estudo, podemos concluir que:

• A escolaridade não afeta a escolha da prioridade por parte dos entrevistados.

• Homens tem uma chance 74% maior de escolher como prioridade o combate à corrupção em detrimento da melhora da economia, se comparados com as mulheres.

Exercício

Teste se as variáveis faixa etária, desempenho de trabalho remunerado e renda afetam a prioridade do entrevistado em relação à economia, investimento ou combate à corrupção, mas dessa vez, utilize o nível economia como categoria de referência. Lembre-se de excluir os níveis que não representam respostas válidas.