Meta não detecta 350 anúncios de abuso infantil com IA

O que aconteceu

No início do mês passado, a Meta removeu cerca de 50 anúncios veiculados no Facebook, no Instagram e no Threads que continham material de abuso sexual infantil (CSAM). A exclusão ocorreu depois de uma reportagem da WIRED sobre o tema. Na ocasião, a empresa afirmou que a maioria das peças havia sido publicada antes da implantação de novas ferramentas de IA para "detectar e bloquear" anúncios nocivos.

O sistema de IA, porém, não foi totalmente eficaz. Em vez de registrar queda, os pesquisadores do Tech Transparency Project (TTP) encontraram mais de 250 anúncios adicionais com CSAM desde o início de agosto. No total, a Meta publicou mais de 350 anúncios de abuso infantil desde o fim do ano passado, segundo levantamento do TTP compartilhado com a WIRED.

Diferente dos 53 anúncios descobertos inicialmente, os novos permitiram identificar imagens de crianças reais. Um dos casos envolve um menor de uma família real europeia: uma fotografia divulgada oficialmente foi manipulada para virar um vídeo de ato sexual explícito. O TTP não revela o nome da vítima para protegê-la e informou que contatou autoridades do país. A WIRED confirmou que a imagem original foi retirada do site oficial de uma família real.

Os anúncios, no total de mais de 350, foram publicados pela Meta desde o fim do ano passado e muitos traziam links para aplicativos de "nudificação" ligados a desenvolvedores chineses. Os pesquisadores disseram ter reportado cada peça às autoridades americanas de proteção à infância e pelas ferramentas de denúncia da Meta enquanto os anúncios ainda estavam no ar. A WIRED também identificou, de forma independente, centenas de outros anúncios de "nudificação" com conteúdo explícito de adultos nas plataformas da Meta.

Contexto

A Meta tinha dito que a maior parte dos anúncios abusivos foi veiculada antes da adoção das novas ferramentas de IA. A promessa era detectar e bloquear conteúdo nocivo antes da publicação. O resultado prático, no entanto, foi a reincidência. Pesquisadores encontraram anúncios recentes idênticos aos que a Meta removeu em agosto, o que indica que a moderação não aprendeu com o primeiro lote de denúncias.

O caso também mostra a evolução do problema. No primeiro grupo de anúncios, não foi possível confirmar se as imagens eram de crianças reais. No novo lote, sim. A manipulação de fotos oficiais de uma família real europeia eleva a gravidade: não se trata apenas de conteúdo sintético, mas de crime contra uma vítima identificável.

Por que importa

Katie Paul, diretora do Tech Transparency Project, disse que o problema vai além do material gerado por inteligência artificial. "O que estamos vendo aqui não é simplesmente CSAM gerado por IA", afirmou. Para ela, o fato de imagens serem retiradas da web e reaproveitadas em anúncios cria um dano adicional. "Há muito dano que pode vir disso, tudo enquanto a Meta ganha dinheiro no processo", completou.

A Meta, dona do Facebook, do Instagram e do Threads, lucra com publicidade e falhou em barrar anúncios criminosos. Para as vítimas, a revitimização é imediata: a foto oficial de uma criança, publicada por uma família real, foi transformada em cena de abuso. O conteúdo pode circular indefinidamente, e a criança real permanece exposta.

Impacto

Legisladores disseram que planejam investigar o caso, segundo a WIRED. A pressão política deve se somar a questionamentos sobre a eficácia das ferramentas de moderação da Meta. Anunciantes também podem rever onde suas marcas aparecem, já que os anúncios foram exibidos a usuários reais nas plataformas da Meta. O episódio mostra que a combinação de IA generativa e moderação frágil criou um canal para abuso em escala industrial.

O que vem agora

A investigação legislativa é o próximo passo conhecido. O Tech Transparency Project já entregou os achados às autoridades dos EUA e compartilhou os detalhes com a WIRED. A Meta terá de explicar por que anúncios idênticos aos removidos voltaram ao ar e o que fará com as ferramentas de IA que não cumpriram a promessa de detectar esse tipo de conteúdo.

FONTES: WIRED