Inteligência artificial explicável (XAI): o que é e como funciona

Um cliente pede aumento de limite pelo aplicativo e recebe a negativa em segundos.

Ele pergunta o motivo.

O atendente consulta o sistema e encontra um número, não uma razão.

O modelo que decidiu é uma rede neural com centenas de variáveis, e ninguém naquela conversa consegue explicar o que pesou contra ele.

Essa cena é o problema que a inteligência artificial explicável, ou XAI (do inglês explainable AI), tenta resolver. ## O que XAI significa, sem rodeios XAI é o conjunto de métodos que torna compreensível para uma pessoa como um modelo de machine learning chegou a uma decisão ou previsão.

A definição aparece nas documentações da IBM, da Red Hat e da Databricks, e o núcleo é sempre o mesmo: transformar a saída de um sistema em uma justificativa que um humano consiga entender, questionar e contestar.

Aqui vale separar dois termos que costumam ser usados como sinônimos, mas não são.

Interpretabilidade é uma propriedade do próprio modelo: uma regressão linear ou uma árvore de decisão rasa são interpretáveis porque você lê os coeficientes e entende o peso de cada variável.

Explicabilidade é o que se constrói depois, para modelos que não se deixam ler, como as redes neurais profundas.

Um modelo interpretável não precisa de XAI.

Um modelo opaco, sim. ## As duas rotas técnicas da explicabilidade Existem dois caminhos para obter explicações, e a escolha entre eles define o custo e a qualidade da resposta.

O primeiro é projetar o modelo para ser transparente desde o início.

Sistemas baseados em regras, árvores de decisão curtas e modelos lineares caem nessa categoria.

A vantagem é que a explicação é fiel por construção: não há estimativa, há o modelo real.

A limitação é de desempenho.

Em tarefas complexas, como visão computacional ou processamento de linguagem natural, esses modelos costumam perder para as redes profundas.

O segundo caminho é gerar explicações pós-hoc, ou seja, depois que o modelo já está treinado e em produção.

Duas técnicas dominam esse campo.

O LIME perturba a entrada e observa como a saída muda, construindo um modelo simples e local que aproxima o comportamento do sistema original naquele caso específico.

O SHAP vem da teoria dos jogos cooperativos e distribui a contribuição de cada variável para a decisão final, atribuindo um valor a cada uma.

Se um pedido de crédito foi negado, o SHAP pode mostrar que a renda comprometida pesou 40% e o tempo de relacionamento com o banco pesou 15% a favor.

Há ainda a abordagem neuro-simbólica, que combina redes neurais com regras simbólicas legíveis por humanos.

A IBM cita essa via como uma forma de manter capacidade de aprendizado e rastreabilidade ao mesmo tempo.

O ponto que costuma ser omitido: existe um trade-off real entre desempenho e explicabilidade.

Quanto mais complexo o modelo, maior tende a ser a precisão e menor a facilidade de explicar.

Não há almoço grátis nessa conta. ## Explicação local e explicação global servem a públicos diferentes Uma equipe de engenharia e um auditor regulatório não precisam da mesma resposta.

A explicação local responde a uma pergunta pontual: por que este cliente, neste dia, recebeu esta negativa.

É o que o LIME e o SHAP entregam bem.

Serve para o atendimento ao consumidor, para a contestação individual e para o time que investiga um caso suspeito.

A explicação global descreve o comportamento do modelo como um todo: quais variáveis ele valoriza, onde estão os vieses sistemáticos, como ele se comporta em diferentes faixas de renda ou regiões.

É o que interessa ao compliance, ao regulador e ao time de risco.

Um modelo pode acertar caso a caso e, ainda assim, penalizar de forma consistente um grupo inteiro.

Só a visão global revela isso. ## A regulação transformou XAI de boa prática em obrigação No Brasil, o artigo 20 da LGPD garante ao titular o direito de solicitar revisão de decisões tomadas unicamente por tratamento automatizado que afetem seus interesses.

Na prática, isso significa que a empresa precisa ser capaz de oferecer uma explicação inteligível.

Na Europa, o artigo 22 do GDPR segue linha parecida, e o AI Act adota uma abordagem por nível de risco, com exigências mais pesadas para sistemas classificados como de alto risco.

O efeito prático é que setores como crédito, seguros, saúde e recrutamento passaram a tratar explicabilidade como requisito de conformidade, não como recurso opcional.

Um sistema de triagem de currículos que descarta candidatos sem justificativa auditável é um passivo jurídico, não apenas um problema técnico. ## Explicar não é o mesmo que estar certo Uma explicação bem construída não garante que o modelo seja correto ou justo.

Ela pode, inclusive, expor que ele aprendeu um atalho enviesado, como associar CEP a risco de inadimplência.

Esse é o valor real da XAI: dar visibilidade ao que estava escondido, inclusive quando o que aparece é desconfortável.

Por isso, explicabilidade costuma ser tratada como um dos pilares da chamada IA responsável, ao lado de privacidade, segurança e mitigação de viés.

São conceitos relacionados, mas não idênticos. ## Perguntas que aparecem com frequência **XAI é a mesma coisa que IA responsável?** Não.

IA responsável é o guarda-chuva que reúne ética, privacidade, segurança e equidade.

XAI é uma das ferramentas que sustentam esse guarda-chuva, focada especificamente em tornar decisões compreensíveis. **Se eu uso um modelo simples, preciso de XAI?** Se o modelo é interpretável por natureza, a explicação já está embutida e você não precisa das técnicas pós-hoc.

O que você precisa é documentar as variáveis e monitorar se elas continuam fazendo sentido ao longo do tempo.