CAS: métrica de atribuição causal para IA explicável

O que aconteceu

Pesquisadores apresentaram no arXiv (ID 2608.12555) o Causal Attribution Score (CAS), uma arquitetura de pontuação para explicabilidade causal em modelos de aprendizado de máquina. O objetivo é separar o que apenas prevê a saída de um modelo do que explica variações em um efeito causal estimado. O CAS usa um jogo de coalizão intervencional identificado e contribuições causais de Shapley para transformar efeitos brutos em escalas de saída em relatórios locais e globais.

Nos testes de benchmark, com oito simulações repetidas de interações primárias (2.200 amostras cada), o erro médio absoluto (MAE) do CAS coalizão-consciente foi 0,107, contra 0,173 de uma normalização um-a-um e 0,213 de um vetor global de efeito absoluto normalizado. A vantagem sobre a normalização um-a-um aumentou de -0,003 em cenários aditivos para 0,091 em interações fortes.

Contexto

Métodos comuns de explicabilidade preditiva, como SHAP, atribuem a saída do modelo, mas não o efeito de intervenções no mundo real. Isso pode levar a rankings enganosos de características quando o objetivo é entender causalidade. O CAS insere-se como uma camada de relato local-para-global com alvo de intervenção explícito, sem alterar a fórmula de Shapley.

Por que importa

Em datasets empíricos com DoubleML, o CAS mudou substancialmente as ordens de importância. No dataset de elegibilidade 401(k) (9.915 observações) e no de bônus de reemprego da Pensilvânia (5.099 observações), os rankings preditivos de SHAP/TreeSHAP divergiram dos rankings Feature-CAS de modificadores de efeito de tratamento. No caso da Pensilvânia, a variável "exatamente um dependente" (dep1) foi do 13º lugar preditivo para o 2º em Feature-CAS, tornando-se o principal modificador local.

Impacto

O resultado indica que ferramentas que só preveem podem não refletir onde uma intervenção teria efeito real. Para empresas e políticas públicas, isso pode orientar decisões mais eficazes. No Brasil, a discussão é relevante para regulações futuras de IA, como o PL 2338/2023, que exige transparência e explicabilidade em sistemas de alto risco.

O que muda

A proposta não é um novo pacote de explicabilidade, mas uma camada de relato causal que pode ser integrada a frameworks existentes. Isso permite que analistas distingam predictividade de causalidade em modelos de crédito, saúde e políticas públicas.

O que vem agora

Os autores disponibilizam o estudo no arXiv e esperam que a métrica seja testada em outros cenários. Ainda não há divulgação de código, mas o trabalho sugere abertura para validação independente.

Fontes

• [arXiv cs.AI | RESEARCH] CAS: A Causal Attribution Score for Local and Global Explainable Artificial Intelligence — arXiv:2608.12555v1 (https://arxiv.org/abs/2608.12555)