XAI - Explicabilidade de Modelos de Aprendizado Profundo

Filipe Costa
Orientador: Prof. Dr. Ricardo de Andrade Lira Rabêlo

Universidade Federal do Piauí

Modelos Black-Box

São sistemas de inteligência artificial cujas regras internas, cálculos intermediários e lógica de decisão são desconhecidos ou complexos demais para serem interpretados por seres humanos.

Como funciona um modelo Black-Box?

Dividida em três etapas:

  • Entrada (Input): Você fornece os dados ao sistema (ex.: dados financeiros de um cliente).

  • Processamento Oculto: O algoritmo processa esses dados por meio de milhões ou bilhões de parâmetros interligados de forma não linear.

  • Saída (Output): O sistema gera o resultado (ex.: aprovação ou negação do empréstimo).

Como o Resultado foi Obtido?

O que é XAI?

Definição

Conjunto de técnicas e métodos que tornam as decisões dos modelos de IA compreensíveis para seres humanos.

Pares de conceitos

Acurácia (adaptabilidade) vs. Explicabilidade (modelos simples são fáceis de entender, mas menos precisos; modelos complexos são mais precisos, mas difíceis de entender).

Objetivo

não é apenas entender o código, mas entender a razão por trás do resultado.

XAI

XAI concept

Artigos

  • On Interpretability of Artificial Neural Networks: A Survey

  • Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI

  • Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead

  • Xplainable Artificial Intelligence (XAI)—From Theory to Methods and Applications

Métodos e Técnicas de XAI

Explicabilidade Global vs. Local:

  • Global: Como o modelo funciona no geral?

  • Local: Por que o modelo tomou esta decisão específica para este indivíduo?

Ferramentas mais usadas:

  • SHAP
  • LIME

São técnicas que mostram quais fatores tiveram maior peso no resultado final.

Objetivos

Interessados Motivação
Especialistas de domínio/usuários do modelo (por exemplo, médicos, agentes de seguros) Confiar no próprio modelo, ganhar conhecimento científico
Entidades/agências reguladoras Certificar modelo de cumprimento da legislação em vigor, auditorias
Gerentes e membros do conselho executivo Avaliar a conformidade regulamentar, entender os aplicativos corporativos de IA
Cientistas de dados, desenvolvedores, proprietários de produtos Garantir ou melhorar a eficiência do produto, pesquisa, novas funcionalidades
Usuários afetados pelas decisões do modelo Entender a situação deles, verificar as decisões justas

Aplicação

  • Prever risco de infestação a partir de dados IoT (temperatura, umidade do ar/solo, precipitação) combinados com imagens de drone — por que entender quais variáveis e regiões da imagem levaram à predição é essencial para o produtor confiar e agir a tempo.

Aplicação