OpenAI Dissolve Time Dedicado à Segurança de IA em Meio a Preparativos para IPO
A OpenAI, uma das empresas líderes em inteligência artificial (IA), anunciou recentemente a dissolução de seu time de preparedness, responsável por avaliar e mitigar riscos catastróficos associados aos seus modelos de IA. A decisão, reportada inicialmente pelo Financial Times, ocorre em um momento crítico para a empresa, que se prepara para uma oferta pública inicial (IPO) avaliada em bilhões de dólares. Especialistas e ex-membros da equipe levantam preocupações sobre os impactos dessa mudança na segurança e na governança da IA.
O Que Era o Time de Preparedness?
Criado para antecipar e mitigar riscos associados aos modelos de IA de ponta, o time de preparedness da OpenAI tinha como missão principal:
- Avaliar riscos catastróficos, como o potencial de modelos de IA “escaparem” do controle humano ou serem usados para fins maliciosos, como ciberataques ou desenvolvimento de armas biológicas.
- Desenvolver frameworks de segurança, como o Preparedness Framework, para orientar o desenvolvimento responsável de modelos avançados.
- Monitorar capacidades emergentes de IA, como autoaperfeiçoamento recursivo, que poderiam representar ameaças existenciais.
Liderado inicialmente por Dylan Scandinaro, ex-Anthropic, o time foi dissolvido no final de julho de 2025. Segundo fontes internas, suas responsabilidades foram redistribuídas entre equipes existentes, focadas em áreas específicas como cibersegurança e biosegurança.
Por Que a OpenAI Tomou Essa Decisão?
A dissolução do time de preparedness ocorre em um contexto de reestruturação organizacional e pressão para acelerar o desenvolvimento de produtos comerciais. Analistas apontam três fatores principais:
1. Preparação para a IPO
A OpenAI está em fase avançada de preparação para sua IPO, um movimento que deve atrair bilhões em investimentos. Em maio de 2025, a empresa anunciou a transição de sua estrutura para uma Public Benefit Corporation (PBC), um modelo que busca equilibrar lucro e impacto social. No entanto, críticos argumentam que a dissolução do time de preparedness sinaliza uma priorização de resultados financeiros de curto prazo em detrimento da segurança.
Em entrevista à Reuters, a CFO da OpenAI, Sarah Friar, afirmou que a nova estrutura “abre portas” para uma possível IPO, mas ressaltou que a decisão final dependerá das condições do mercado. A empresa já atraiu investimentos de mais de US$ 13 bilhões da Microsoft, e sua avaliação pode superar a marca de US$ 100 bilhões.
2. Pressão por Inovação e Produtos Comerciais
A OpenAI tem enfrentado pressão crescente para lançar produtos comerciais inovadores e manter sua liderança no mercado de IA. Nos últimos anos, a empresa tem priorizado o desenvolvimento de modelos como o GPT-5.6 e o Astra, este último temporariamente suspenso em 2025 após alertas de segurança. Ex-funcionários, como um ex-executivo citado pela GIGAZINE, afirmam que a empresa está “priorizando produtos chamativos em vez de segurança”.
3. Reestruturação Interna e Rotatividade de Lideranças
A OpenAI tem passado por uma série de mudanças em suas equipes de segurança. Em julho de 2024, o então Head of Preparedness, Aleksander Madry, foi realocado, e a responsabilidade pelo time foi compartilhada entre dois executivos. Um deles, Lilian Weng, deixou a empresa meses depois, enquanto o outro, Joaquin Quinonero Candela, migrou para a área de recrutamento em julho de 2025. Desde então, a empresa não nomeou um substituto para liderar a área de preparedness.
Reações e Críticas da Comunidade de IA
A decisão da OpenAI gerou uma onda de críticas entre especialistas em segurança de IA e ex-membros da empresa. As principais preocupações incluem:
Falta de Transparência
O Financial Times destacou que a OpenAI não divulgou uma explicação oficial para a dissolução do time, nem detalhou como as responsabilidades de segurança serão gerenciadas no futuro. Theo Bearman, pesquisador de IA, questionou em um post no X (antigo Twitter): “Por que estamos ouvindo sobre isso pela mídia, e não diretamente da empresa?”.
Riscos à Segurança de IA
Especialistas alertam que a ausência de uma equipe centralizada dedicada à segurança pode enfraquecer a capacidade da OpenAI de antecipar e mitigar riscos. Maura Grossman, professora da Universidade de Waterloo, descreveu o papel de Head of Preparedness como “quase impossível”, pois exige equilibrar interesses comerciais e de segurança. “Em algum momento, será necessário dizer a Sam Altman para desacelerar ou abandonar certos objetivos”, afirmou Grossman em entrevista ao Business Insider.
Além disso, a dissolução do time de preparedness ocorre em um momento em que a OpenAI enfrenta desafios técnicos significativos. Em julho de 2025, a empresa suspendeu temporariamente o desenvolvimento do modelo Astra após alertas de segurança, demonstrando a complexidade de equilibrar inovação e mitigação de riscos.
Comparações com Outras Empresas de IA
Enquanto a OpenAI dissolve seu time de preparedness, concorrentes como a Anthropic mantêm equipes robustas dedicadas à segurança. A Anthropic, fundada por ex-funcionários da OpenAI, utiliza o modelo de “Constitutional AI”, que treina modelos com base em princípios éticos predefinidos. Essa abordagem contrasta com a da OpenAI, que depende de aprendizado por reforço com feedback humano (RLHF), um método que, embora eficaz, pode ser contornado por usuários mal-intencionados.
O Futuro da Segurança de IA na OpenAI
A OpenAI afirmou em comunicados oficiais que continua comprometida com a segurança de seus modelos. Em abril de 2025, a empresa atualizou seu Preparedness Framework, reforçando seu compromisso em avaliar riscos catastróficos. No entanto, a ausência de uma equipe dedicada levanta dúvidas sobre como esses compromissos serão colocados em prática.
Sam Altman, CEO da OpenAI, reconheceu em um post no X que os modelos de IA “estão começando a apresentar desafios reais” e que o papel de Head of Preparedness é “crítico em um momento importante”. No entanto, a empresa ainda não anunciou um plano concreto para preencher essa posição ou reestruturar suas equipes de segurança.
Conclusão: Inovação vs. Segurança
A dissolução do time de preparedness da OpenAI reflete um dilema enfrentado por muitas empresas de tecnologia: como equilibrar inovação acelerada com responsabilidade e segurança?. Enquanto a empresa se prepara para sua IPO e busca consolidar sua posição no mercado, a decisão levanta questões sobre seu compromisso com a segurança de IA a longo prazo.
Para especialistas, a ausência de uma equipe dedicada à preparedness pode deixar a OpenAI vulnerável a riscos imprevistos, especialmente em um cenário onde modelos de IA se tornam cada vez mais poderosos e autônomos. Resta saber se a empresa conseguirá conciliar suas ambições comerciais com a necessidade de garantir que seus avanços tecnológicos sejam seguros e benéficos para a humanidade.
