Framework AI M&M propõe revisão estruturada de falhas em IA clínica

O que aconteceu

Pesquisadores submeteram ao arXiv, em 31 de agosto de 2026, o artigo científico "AI Morbidity and Mortality: A Framework for Clinical AI Failure Review" (arXiv:2609.00076). O estudo propõe o framework AI M&M, uma estrutura de revisão baseada em casos, projetada para reconstruir e aprender com falhas individuais de sistemas de inteligência artificial (IA) usados em ambientes clínicos reais. O AI M&M combina coleta padronizada de casos, preservação de evidências, reconstrução em nível de investigador, atribuição com ferramentas no loop e rastreamento de ações corretivas. Cada evento é classificado em quatro dimensões interligadas: Trigger (gatilho), Mechanism (mecanismo), Clinical Pathway (caminho clínico) e Corrective Action (ação corretiva), separando a condição que expôs uma vulnerabilidade do processo que gerou o risco, sua consequência para o cuidado e a remediação atribuída.

O framework AI M&M foi demonstrado com cinco casos ilustrativos de medicação ambulatorial e suporte à decisão clínica. Dois revisores clínicos aplicaram independentemente os quatro eixos de classificação e alcançaram concordância em todas as 20 classificações de nível de eixo. Essa taxa de 100% de concordância sugere que a estrutura é consistente e aplicável na prática, embora os autores reconheçam que a avaliação prospectiva em múltiplas instituições, sistemas de IA e ambientes clínicos ainda é necessária.

Contexto

A inteligência artificial clínica está cada vez mais integrada ao cuidado real, mas os mecanismos de segurança existentes são mal adaptados para reconstruir e aprender com erros individuais relacionados à IA. O monitoramento agregado de modelos, por exemplo, pode identificar mudanças de desempenho, e os relatórios tradicionais de segurança do paciente podem capturar eventos adversos. No entanto, nenhum desses métodos foi projetado para explicar como o risco emerge na interação entre sistemas de IA, clínicos, fluxos de trabalho e controles institucionais. O AI M&M surge como uma resposta a essa lacuna, oferecendo uma revisão de caso estruturada e sem culpa, que converte falhas individuais de IA em aprendizado institucional acionável.

Por que importa

O impacto prático do AI M&M está na possibilidade de transformar erros de IA em oportunidades de melhoria contínua, sem punir profissionais. Hospitais e clínicas que adotarem o framework poderão identificar não apenas o que falhou, mas também por que falhou, considerando os fatores humanos e organizacionais. Isso é particularmente relevante no Brasil, onde a regulação de IA na saúde ainda está em desenvolvimento e a segurança do paciente é prioridade crescente. O framework complementa, em vez de substituir, o monitoramento de modelos e os sistemas de notificação, permitindo que as instituições aprendam com cada caso individual.

Impacto

No curto prazo, o AI M&M pode ser incorporado a comitês de morbimortalidade já existentes em hospitais, adaptando sua metodologia para revisar falhas envolvendo IA. No médio prazo, a abordagem pode influenciar políticas de segurança do paciente e exigir que fornecedores de IA documentem melhor os limites de seus sistemas. A concordância de 100% entre revisores, embora baseada em apenas cinco casos, indica que a estrutura é viável. Porém, a validação prospectiva em larga escala ainda é um passo necessário antes da adoção generalizada.

O que vem agora

Os autores do artigo planejam realizar uma avaliação prospectiva do AI M&M em diferentes instituições, sistemas de IA e cenários clínicos. Essa etapa é essencial para confirmar a robustez da classificação em quatro eixos e para refinar o processo de coleta de casos e preservação de evidências. Enquanto isso, a comunidade clínica pode começar a discutir como integrar o framework a protocolos existentes de segurança do paciente e revisão de eventos adversos. O artigo está disponível no arXiv e pode ser acessado para implementação experimental.

FONTES

• arXiv: "AI Morbidity and Mortality: A Framework for Clinical AI Failure Review" (https://arxiv.org/abs/2609.00076)