Desenvolvedores já burlam marcas d'água invisíveis do Claude

O que aconteceu

A Anthropic confirmou na semana passada que seus modelos Claude passariam a incorporar marcas d'água invisíveis e legíveis por máquina em todo conteúdo gerado por IA, como parte das exigências do AI Act da União Europeia. Em apenas quatro horas, o desenvolvedor Guillaume Meyer publicou um código para remover essas marcas de textos gerados pelo Claude. O código viralizou no GitHub, foi marcado mais de 20 mil vezes no X e atraiu mais de 100 contribuidores, com muitos outros incorporando a tecnologia em seus próprios projetos.

Contexto

As novas regras da UE, que entraram em vigor neste mês, determinam que provedores de modelos como Anthropic e OpenAI rotulem áudio, imagem, vídeo ou texto sintético para que máquinas possam detectar que o conteúdo foi gerado por IA. O descumprimento pode resultar em multas de até 3% do faturamento anual. No entanto, as regras não proíbem ferramentas independentes de circumvention, apenas a comercialização de tais ferramentas pelos próprios provedores.

Por que importa

Meyer, que é falante nativo de francês e usa Claude e outras ferramentas de IA para editar seus textos, argumenta que a marca d'água é uma solução problemática. Ele aponta riscos de falsos positivos e a dificuldade de distinguir entre uso leve e pesado de IA. Como a própria Anthropic admite que só pode gerar uma probabilidade de que o texto foi tocado pelo Claude, o uso da marca d'água como evidência poderia levar a rejeições injustas de candidatos ou acusações infundadas contra pesquisadores.

Impacto

A rápida disseminação do workaround indica que a rotulagem obrigatória pode ser facilmente contornada, o que pode minar a confiança na eficácia das regras da UE. A comunidade de desenvolvedores está dividida: alguns buscam evadir a marca d'água por discordarem da rotulagem de todo conteúdo gerado por IA, enquanto outros, como Meyer, encaram o desafio técnico como um estímulo. O episódio também expõe a tensão entre transparência e praticidade no uso de IA.

O que muda

A Anthropic pode precisar revisar sua abordagem de marca d'água, seja tornando-a mais robusta ou reconsiderando sua implementação. A UE, por sua vez, pode avaliar se suas regras são eficazes diante de contornos tão rápidos. Para usuários de IA, o episódio mostra que a rotulagem obrigatória ainda está longe de ser uma solução definitiva.

O que vem agora

Meyer e outros desenvolvedores continuam aprimorando ferramentas de remoção, e é provável que novos workarounds surjam. A Anthropic pode responder com atualizações ou defender a necessidade de transparência, mas a batalha entre rotulagem e circumvention parece longe de terminar. Enquanto isso, a UE observa se suas regras terão o efeito desejado ou se precisarão de ajustes.