AI Observatory: o que os relatórios de OpenAI e Anthropic não mostram

O que aconteceu

O AI Observatory, um projeto de pesquisa independente, divulgou uma análise sobre como as pessoas usam inteligência artificial. Segundo o estudo, os relatórios publicados por empresas como Anthropic e OpenAI mostram apenas os dados que elas querem que o público veja, sem uma fonte independente para corroborar. A análise do observatório encontrou comportamentos muito mais sensíveis do que os capturados nos relatórios das grandes empresas, que tendem a focar no uso profissional em vez do pessoal.

Além disso, a pesquisa revelou diferenças significativas entre os modelos: as pessoas recorrem mais à Anthropic para codificação, ao Gemini para usos sociais e roleplay, e ao ChatGPT para ajuda com lição de casa.

Em paralelo, a Flock Safety, conhecida por sua rede de cerca de 120 mil leitores automáticos de placas nos EUA, anunciou mudanças em sua plataforma para evitar usos ilegítimos, como perseguição. Mas defensores argumentam que as câmeras ajudam a resolver crimes. A questão, segundo o MIT Technology Review, é que tipo de sistema de combate ao crime a Flock escolheu construir, com decisões sobre coleta, busca, retenção e compartilhamento de dados.

Contexto

Empresas de IA como OpenAI e Anthropic publicam regularmente relatórios sobre o uso de seus produtos, mas esses dados são selecionados. O AI Observatory surge para preencher essa lacuna, oferecendo uma visão independente. A pesquisa também destaca que os relatórios corporativos focam mais no trabalho do que no uso pessoal, deixando de fora comportamentos sensíveis.

No caso da Flock, a empresa é um gigante da tecnologia policial, com uma vasta rede de leitores de placas. As recentes mudanças na plataforma visam prevenir abusos, mas o debate vai além: as escolhas de design da empresa definem os termos do equilíbrio entre segurança e liberdades civis.

Por que importa

Para usuários de IA, entender como os modelos são realmente usados é crucial para avaliar riscos e benefícios. A falta de dados independentes significa que decisões sobre regulamentação e desenvolvimento de produtos podem ser baseadas em informações incompletas. No caso da Flock, as decisões de design afetam diretamente a privacidade e a vigilância em massa, um tema relevante também no Brasil, onde câmeras de reconhecimento de placas são usadas em algumas cidades.

Impacto

A curto prazo, o AI Observatory pode pressionar as empresas de IA a serem mais transparentes sobre seus dados de uso. A médio prazo, pode influenciar políticas públicas e práticas de desenvolvimento. Para a Flock, as críticas podem levar a mudanças mais profundas em sua plataforma, mas também gerar resistência de defensores da segurança pública.

O que vem agora

O AI Observatory pretende continuar monitorando o uso de IA, expandindo sua análise. A Flock, por sua vez, terá que lidar com as consequências de suas escolhas de design, enquanto o julgamento sobre privacidade infantil contra o Meta, que começa hoje, pode estabelecer precedentes para a regulação de plataformas digitais.

Fontes

• MIT Technology Review: The Download: how people really use AI, and Flock’s design choices