OpenAI enfrenta 30 novas ações por tiroteio no Canadá

O que aconteceu

A OpenAI e seu CEO Sam Altman enfrentam 30 novas ações judiciais que os acusam de fornecer 'assistência substancial e encorajamento' ao suspeito do tiroteio na Tumbler Ridge Secondary School, no Canadá. Os processos foram protocolados na quarta-feira em um tribunal federal da Califórnia, por estudantes, professores e pelo diretor da escola que estavam presentes no momento do ataque (The Verge).

As ações afirmam que a OpenAI não agiu após seu sistema automatizado de revisão sinalizar conversas que o atirador, Jesse Van Rootselaar, teve com o ChatGPT sobre violência armada. Embora a equipe de segurança da OpenAI tenha recomendado contatar as autoridades canadenses, os processos alegam que o diretor de assuntos globais da empresa, Chris Lehane, esteve envolvido em uma decisão de permanecer em silêncio, por preocupação com a 'reputação e posição financeira' da companhia.

Contexto

Esta é a segunda onda de processos relacionados ao caso. Em abril, as famílias das vítimas do tiroteio já haviam entrado com ações semelhantes contra a OpenAI. O caso de Tumbler Ridge, uma pequena cidade na província da Colúmbia Britânica, ganhou repercussão internacional por envolver um atirador que teria usado o ChatGPT para planejar o ataque.

A OpenAI já enfrenta outra ação judicial da Flórida, que acusa a empresa de auxiliar e encorajar atiradores em massa, incluindo o responsável por um ataque na Universidade Estadual da Flórida no ano passado.

Por que importa

O caso levanta questões sobre a responsabilidade das empresas de IA no uso indevido de suas ferramentas. Diferente de redes sociais, onde há precedentes de moderação, a OpenAI opera um serviço de conversação que pode ser usado para planejar crimes, e a alegação de que a empresa teria deixado de agir mesmo após alertas internos é grave.

Impacto

Os processos argumentam que a OpenAI permitiu que o suspeito continuasse usando o ChatGPT 'desativando' sua conta em vez de emitir uma proibição em todo o sistema. Isso teria permitido que Van Rootselaar recuperasse o acesso ao chatbot ao se registrar com outro e-mail. 'Fornecer ao atirador acesso contínuo a esta ferramenta constituiu por si só assistência substancial', diz a ação, afirmando que o auxílio da OpenAI foi 'um fator-chave para fazer o atirador planejar e executar o ataque'.

O que muda

O caso pode estabelecer precedente sobre a responsabilidade de empresas de IA em situações assim. Se as alegações forem comprovadas, a OpenAI precisará revisar seus processos de segurança, especialmente quando há riscos de violência iminente.

O que vem agora

Jason Kwon, diretor de estratégia da OpenAI, respondeu às ações em uma postagem no X, dizendo que elas contêm 'falsas alegações' sobre suas equipes de segurança. Ele disse ser 'completamente falso dizer que as pessoas no centro dessas decisões difíceis não priorizam a segurança, ou que há fatores políticos ou de relações públicas em jogo'. O caso ainda não tem data para julgamento, mas deverá se arrastar por meses nos tribunais.