Uso real de IA segue opaco para pesquisadores, aponta novo observatório

O que aconteceu

Um grupo de pesquisadores liderado por Anka Reuel, doutoranda do Stanford Trustworthy AI Research (STAIR) Lab, publicou uma análise independente sobre como as pessoas realmente usam ferramentas de IA generativa. A plataforma, chamada AI Observatory, agregou dados de sete conjuntos públicos de conversas com modelos como Claude e Gemini, sempre com consentimento dos usuários. O objetivo é fornecer uma fonte neutra para pesquisadores e formuladores de políticas públicas, que hoje dependem de dados divulgados pelas próprias empresas.

O primeiro resultado: quando a equipe aplicou a metodologia do Anthropic Economic Index — o relatório mais citado sobre uso de IA — ao seu conjunto de dados, 48% das conversas foram filtradas por não serem relacionadas a trabalho. Entre essas conversas descartadas, a proporção de temas sensíveis era muito maior do que a reportada pela Anthropic: saúde e relacionamentos apareciam em 44,2% (contra 31,2% na análise da empresa), assédio e discurso de ódio em 27,5% (contra 5,66%) e conteúdo sexual em 16,7% (contra 2,4%).

Segundo o artigo publicado pela MIT Technology Review em 18 de agosto de 2026, a Anthropic reconhece em posts separados que o Claude é usado para suporte emocional, companhia e até para gerar material de abuso sexual infantil, mas a fragmentação desses dados em relatórios isolados dificulta uma visão completa. "Não há fonte independente para corroborar", afirmou Reuel.

Contexto

Empresas como Anthropic e OpenAI publicam periodicamente relatórios sobre uso de seus produtos — como o Anthropic Economic Index e o relatório da OpenAI sobre o ChatGPT, que em 2025 apontou que apenas 30% do uso dos consumidores era relacionado a trabalho. Esses documentos são amplamente citados por acadêmicos, investidores e órgãos reguladores para avaliar benefícios e riscos da IA. No entanto, os critérios de seleção e os filtros usados pelas empresas não são transparentes, o que, segundo os pesquisadores, pode distorcer o panorama real.

Por que importa

A falta de dados independentes sobre o uso de IA tem consequências práticas. Decisões sobre regulamentação, políticas de segurança e alocação de recursos são tomadas com base em estatísticas que subestimam usos pessoais, emocionais e sensíveis em favor de métricas de produtividade. Para o Brasil, onde o ChatGPT é amplamente usado no trabalho e na vida pessoal, entender essa lacuna ajuda a calibrar expectativas sobre o impacto da IA — inclusive em áreas como saúde mental e educação.

Impacto

No curto prazo, o AI Observatory pode pressionar as empresas a divulgar dados mais completos ou a explicitar seus filtros. No médio prazo, a pesquisa deve alimentar debates sobre transparência algorítmica e a necessidade de fontes independentes de medição em IA. David Widder, professor assistente envolvido no projeto, destacou que a "visão panorâmica" do observatório permite comparações consistentes entre diferentes usos, algo que relatórios fragmentados não entregam.

O que vem agora

A equipe do AI Observatory planeja expandir o número de datasets analisados e lançar atualizações periódicas com dados públicos. Pesquisadores de outras universidades e órgãos como a União Europeia podem adotar a metodologia como referência para avaliar o uso real de IA. Empresas como Anthropic e OpenAI ainda não comentaram publicamente os achados.

Fontes

• MIT Technology Review: We still don’t know how people are really using AI