OpenAI apoia projeto de lei da Califórnia para segurança de IA para jovens

O que aconteceu

A OpenAI manifestou apoio ao projeto de lei SB 1119, da Califórnia, que propõe medidas de segurança específicas para adolescentes no uso de inteligência artificial. O anúncio foi feito por meio de um comunicado oficial no blog da empresa, publicado recentemente. O texto defende que o SB 1119 avança “fortes salvaguardas de IA apropriadas para a idade” enquanto preserva “oportunidades para aprender, criar e explorar”. A OpenAI, sediada em São Francisco, não divulgou valores ou prazos de implementação, mas destacou o alinhamento com sua política de segurança.

O projeto de lei SB 1119, da Califórnia, foi apresentado no legislativo estadual e ainda não teve sua votação finalizada. A OpenAI é a primeira grande empresa de IA a se posicionar publicamente a favor da proposta. Segundo o comunicado, a empresa acredita que a legislação pode servir de modelo para outros estados e países.

Contexto

A Califórnia tem sido um dos estados mais ativos na regulação da inteligência artificial. Nos últimos anos, propostas como o SB 1047, focado em segurança de modelos de alto risco, geraram intensos debates entre empresas de tecnologia, acadêmicos e legisladores. O SB 1119, porém, tem um recorte etário: ele se concentra em como plataformas de IA devem tratar usuários menores de idade.

A OpenAI, fundada em 2015, tem enfrentado pressão de reguladores e grupos de defesa dos direitos infantis sobre o impacto de seus produtos, como o ChatGPT, em crianças e adolescentes. A empresa já havia implementado algumas restrições voluntárias, como a proibição de certos prompts sensíveis, mas o SB 1119 pode tornar essas regras obrigatórias na Califórnia.

Por que importa

O apoio da OpenAI ao SB 1119 sinaliza uma mudança de postura em relação à regulação. Até agora, a empresa havia resistido a leis estaduais específicas, preferindo um framework federal. O fato de apoiar uma lei estadual indica que a OpenAI reconhece a necessidade de regras imediatas para proteger adolescentes, especialmente em um momento em que o uso de IA por jovens cresce exponencialmente.

Para os pais, educadores e legisladores, o projeto representa um passo concreto para garantir que ferramentas como chatbots e geradores de imagem não exponham adolescentes a conteúdo inadequado ou manipulação. Para a indústria de tecnologia, pode significar a criação de um padrão que outras empresas terão que seguir, sob risco de ficarem fora do mercado californiano.

Impacto

No curto prazo, o SB 1119, se aprovado, exigirá que empresas como OpenAI, Google e Meta implementem verificações de idade e moderação de conteúdo específica para usuários menores de 18 anos. A OpenAI, por exemplo, teria que adaptar o ChatGPT para oferecer respostas mais restritas a adolescentes, sem eliminar funcionalidades educacionais.

No médio prazo, a medida pode influenciar outros estados, como Nova York e Texas, que já estudam projetos semelhantes. A aprovação na Califórnia, maior economia dos EUA, costuma criar um efeito cascata. Além disso, a União Europeia, que já tem o AI Act, pode se inspirar na abordagem etária para complementar suas regras.

O que muda

Para os adolescentes californianos, o principal ganho será a exigência de que plataformas de IA expliquem claramente como os dados são usados e ofereçam mecanismos de denúncia de abusos. O projeto também prevê a criação de um comitê consultivo com especialistas em desenvolvimento infantil e segurança digital.

A OpenAI, ao apoiar o SB 1119, se compromete a colaborar na elaboração de diretrizes técnicas. A empresa afirma que a legislação é um “passo importante” e que continuará trabalhando com legisladores para garantir que os jovens possam usar IA de forma segura e produtiva.

O que vem agora

O SB 1119 segue em tramitação na Assembleia Legislativa da Califórnia. A OpenAI prometeu acompanhar as audiências e fornecer contribuições técnicas. A expectativa é que o projeto seja votado nos próximos meses, com chances de aprovação, dado o apoio de uma das principais empresas do setor.

Paralelamente, a OpenAI também deve anunciar, em breve, novas funcionalidades de controle parental para o ChatGPT, como parte de sua estratégia de segurança. A empresa não deu detalhes sobre prazos, mas afirmou que as mudanças serão implementadas “independentemente do calendário legislativo”.