OpenAI dissolve equipe de preparação para riscos de IA

O que aconteceu

De acordo com o Financial Times, a OpenAI dissolveu sua equipe de preparação (preparedness team) no final de julho. A equipe tinha a função de avaliar se os modelos de IA apresentavam riscos sérios e desenvolver formas de mitigá-los — como a possibilidade de um sistema agir de forma autônoma e invadir outra empresa. Segundo o FT, as responsabilidades foram divididas por áreas específicas, como biologia e cibersegurança, e transferidas para equipes já existentes.

A informação foi divulgada pelo The Verge, que também destaca que essa é a mais recente mudança na estrutura de segurança da OpenAI enquanto a empresa se aproxima de um IPO esperado como massivo.

Contexto

Nos últimos anos, a OpenAI vem desmontando gradualmente sua abordagem mais focada em segurança. A empresa já havia dissolvido os times de prontidão para AGI (AGI readiness) e superalinhamento (superalignment). Recentemente, também saíram a líder de ética Chloé Bakalar, o futurista-chefe Josh Achiam e o chefe de segurança Johannes Heidecke. O pesquisador Jan Leike, que renunciou à OpenAI em 2024, disse ao FT que a companhia estava ignorando a segurança em favor de "produtos brilhantes".

Por que importa

A dissolução da equipe de preparação levanta preocupações sobre o compromisso da OpenAI com a segurança em um momento crítico. Com a empresa se preparando para um IPO, críticos apontam que a prioridade pode estar se deslocando para o crescimento e a comercialização, em detrimento da mitigação de riscos existenciais e de segurança. A redistribuição das responsabilidades para times existentes pode diluir o foco em riscos emergentes, especialmente em áreas como biologia e cibersegurança.

Impacto

No curto prazo, a mudança pode afetar a capacidade da OpenAI de responder rapidamente a novos riscos identificados em seus modelos. A especialização em áreas específicas pode ser positiva, mas sem uma equipe dedicada, a supervisão pode se tornar fragmentada. No médio prazo, a reputação da empresa em segurança pode ser abalada, especialmente com as saídas de executivos-chave e as críticas públicas de pesquisadores como Jan Leike.

O que vem agora

O líder da equipe de preparação, Dylan Scandinaro, contratado da Anthropic em fevereiro, agora se concentrará nas implicações da "IA auto-melhoradora recursiva" (recursive self-improving AI). A OpenAI não comentou oficialmente a dissolução. Espera-se que a empresa detalhe sua nova estrutura de segurança em futuras comunicações, possivelmente antes do IPO.