Classificação de diagnóstico de Diabetes via função logística

2.1 Regressão Logistica no contexto MLG

A regressão logística tem se constituído num dos principais métodos de modelagem estatística de dados. Sua origem vem dos modelos lineares generalizados(MLG), que foram criados no intuito de expandir a análise de regressão linear normal para dados com distribuição não normal, mas restritos a família exponencial.

Seu uso é feito em dados com distribuição Binomial, ou seja, modelos que contabilizam a quantidade de sucessos e fracassos, dado que a quantidade de tentativas seja conhecida, ou seja:

\[P(y; \pi,m) = {m \choose y}\pi^y(1-\pi)^{(m-y)}\] onde m é a quantidade de tentativas conhecida, y é a quantidade de sucessos e \(0 \leq \pi \leq 1\) é a probabilidade de sucesso.

Temos, portanto, que um caso de uso específico da regressão logística é o de sucessos e fracassos, ou seja, uma variável resposta com distribuição Bernoulli, sendo este também o caso de uso mais comum.

Desta maneira, o modelo é definido como:

\[Y_i|X_i \sim Binomial(m, \pi_i)\]

\[\begin{equation} \label{eq:1} y = mx+b \end{equation}\] \[\eta(\pi_i) = logit(\pi_i) = \log\frac{\pi_i}{1-\pi_i} = X\beta\] Segundo (Paula 2004), alguns pesquisadores fazem a dicotomização das variáveis quando a variável de interesse não é originalmente do tipo binário a fim de que a probabilidade de sucesso possa ser ajustada pela regressão logistíca. Isso ocorre, por exemplo, em análise de sobrevivência discreta em que a resposta de interesse é o tempo de sobrevivência, no entanto, em algumas pesquisas, a função de risco tem sido ajustada por modelos logísticos. Tudo isso se deve, principalmente, pela facilidade de interpretação dos parâmetros de um modelo logístico e também pela possibilidade do uso desse tipo de metodologia em análise discriminante.

2.2 Redes Neurais

Uma rede neural é um mecanismo de aprendizado de máquina (Machine Learning) muito poderoso que imita basicamente como um cérebro humano aprende. O cérebro recebe o estímulo do mundo exterior, faz o processamento e gera o resultado. À medida que a tarefa se torna complicada, vários neurônios formam uma rede complexa, transmitindo informações entre si. O modelo de neurônio artificial é uma simplificação do modelo apresentado por (Haykin 2007), e pode ser dado conforme a figura abaixo.

rede neural

Este modelo é composto por três elementos básicos:

• um conjunto de n conexões de entrada (x1, x2, …, xn),caracterizadas por pesos (p1, p2, …, pn);
• um somador para acumular os sinais de entrada;
• uma função de ativação (símbolo do phi) que limita o intervalo permissível de amplitude do sinal de saída (y) a um valor fixo.

Os neurônios fazem uma transformação linear na entrada pelos pesos. A transformação não linear é feita pela função de ativação.

O comportamento das conexões entre os neurônios é simulado por meio de seus pesos. Os valores de tais pesos podem ser negativos ou positivos, dependendo de as conexões serem inibitórias ou excitatórias. O efeito de um sinal proveniente de um outro neurônio é determinado pela multiplicação do valor (intensidade) do sinal recebido pelo peso da conexão correspondente(xi X pi). É efetuada a soma dos valores (xi X pi) de todas as conexões, e o valor resultante é enviado para a função de ativação, que define a saída (y) do neurônio. Combinando diversos neurônios, forma-se uma rede neural artificial. De uma forma simplificada, uma rede neural artificial pode ser vista como um grafo onde os nós são os neurônios e as ligações fazem a função das sinapses, como exemplificado na figura abaixo.

rede neural

No contexto de redes neurais, a seleção da função de ativação dos neurônios passa a ser fundamental. Elas basicamente decidem se um neurônio deve ser ativado ou não. Ou seja, se a informação que o neurônio está recebendo é relevante para a informação fornecida ou deve ser ignorada. Existem diversas funções matemáticas que são utilizadas como função de ativação. Neste trabalho será utilizado a função logística.

As Funções logísticas são frequentemente usadas em redes neurais para introduzir não linearidade no modelo ou para prender sinais dentro de um intervalo especificado, sendo uma função que varia de 0 a 1. Um elemento de rede neural popular calcula uma combinação linear de seus sinais de entrada e aplica uma função logística limitada ao resultado; esse modelo pode ser visto como uma variante “suavizada” do neurônio do limiar clássico. Uma escolha comum para as funções de ativação ou “esmagamento”, usada para cortar grandes magnitudes para manter a resposta da rede neural limitada é dada por:

\[{\displaystyle g(h)={\frac {1}{1+e^{-2\beta h}}}}{\displaystyle g(h)={\frac {1}{1+e^{-2\beta h}}}}\]

que é uma função logística. Essas relações resultam em implementações simplificadas de redes neurais artificiais com neurônios artificiais. Os profissionais alertam que as funções sigmoidais antissimétricas sobre a origem (por exemplo, a tangente hiperbólica) levam a uma convergência mais rápida ao treinar redes com retropropagação. A função logística é ela própria, a derivada de outra função de ativação proposta, o softplus.

3.1 Simulação dos modelos

Objetivando uma visualização do comportamento do modelo logístico e de redes neurais, foram realizadas para cada modelo 1000 simulações com 50 observações nos dois modelos para análise de poder preditivo, e 1000 observações para treino, sendo considerando a distribuição binomial. Para avaliarmos mais detalhadamente os modelo simulados, calculamos a sensibilidade e especificidade, as taxas de decisão como PFP e PVP da Rede Neural, para fins de comparação, do modelo logístico.

Sensibilidade: representa a proporção de verdadeiros positivos, ou seja, a capacidade do modelo em avaliar o evento como \(\hat{Y} = 1\) dado que ele é evento real \(Y = 1\): \[SENS = PFP = \frac {VP}{VP+FP} \]

Especificidade: a proporção apresentada dos verdadeiros negativos, ou seja, o poder de predição do modelo em avaliar como “não evento” \(\hat{Y} = 0\) sendo que ele não é evento \(Y = 0\): \[ESPEC = 1 - PFP = \frac {VN}{VN+FN} \] Como foram geradas 1000 simulações, para cada uma das taxas calculadas, considerou-se o valor médio destas simulações. Os resultados gerais da simulação dos dois modelos foram dados por:

Observa-se que nas simulações geradas, os dois modelos não apresentam uma boa sensibilidade, ou sejam, ambos os modelos não conseguiram classificar de forma eficiente os indivíduos simulados nas categorias 0, e 1. Além disso, ambos os modelos apresentam uma baixa especificidade. Com os resultados visualizados, observa-se que o modelo neural teve um desempenho levemente superior ao modelo neural.

3.2 Aplicação

No trabalho, considerou-se uma população de 392 pacientes, sendo estes nativos americanos que estavam em estudo contínuo desde 1965 pelo Instituto Nacional de Diabetes e Doenças Digestivas e Renais devido à sua alta taxa de incidência de diabetes. Os modelos de regressão logística e de redes neurais foram estimados considerando as seguintes covariáveis: glucose, mass, pedigree, age, sendo estas significativas a um nível de 5%, e diabetes como variável resposta, variável esta que mostra se o indíviduo tem ou não diabetes. 70% dos dados foram utilizados para o aprendizado do modelo, enquanto que os 30% restantes foram utilizados para testar a capacidade preditiva do mesmo.

Considerando a variável resposta sendo binária, faz-se necessário escolher escolher uma regra de predição, já que o valor estimado é uma probabilidade que assume valores entre 0 e 1. O problema está em saber o ponto de corte que vai determinar se o valor estimado se aproxima mais do 0(negativo) ou do 1(positvo). A curva ROC (Receiver Operating Characteristic Curve) auxilia na determinação do ponto de corte, “plotando” o gráfico com a sensibilidade chamado de PVP(Probabilidade de Verdadeiro Postivo) vesus 1 − especificidade chamado de PFP(Probabilidade de Falso Positivo) para possíveis pontos de corte entre 0 e 1.

uma vez que entendemos que um falso diagnóstico de diabetes pode trazer diversas consequências negativas na vida do paciente, inclusive causar diabetes devido ao tratamento com insulina, O ponto de corte foi escolhido de forma a minimizar a PFP e maximizar a PVP. Através da combinação destas probabilidades, escolhemos o ponto de corte de forma a classificar o indivíduo como tendo diabetes ou não.

Para identificar a eficiência dos modelos em classificar corretamente um indivíduo como tendo ou não diabetes, foram calculados as taxas sensibilidades, e especificidades tanto para o modelo logístico como o Neural.

A curva ROC do modelo logístico aplicado foi dado por:

Probabilidade de corte

Considerou-se com o valor de corte para o predição desse modelo, 0.2636898, ou seja, os valores acima de 0.2636898 será considerado como positivo(tem a doença) e abaixo desse valor será considerado como negativo(não tem a doença).

Assim, o modelo de regressão logística tem uma PFP = 0.1375 e uma PVP = 0.8157895

A curva ROC do modelo de redes neurais aplicado foi dado por:

Probabilidade de corte

Considerou-se com o valor de corte para o predição desse modelo, 0.5067552, ou seja, os valores acima de 0.5067552 será considerado como positivo(tem a doença) e abaixo desse valor será considerado como negativo(não tem a doença).

Assim, o modelo de redes neurais tem uma PFP = 0.1481481 e uma PVP = 0.6756757

Os resultados Gerais da aplicação dos dois modelos foram dados por: