Sacramento, CA — Em um movimento que pode redefinir a regulamentação da inteligência artificial (IA) nos Estados Unidos, o governador da Califórnia, Gavin Newsom, assinou uma ordem executiva histórica exigindo que empresas de IA desenvolvam um mecanismo de “interruptor de emergência” (ou ‘kill switch’) para seus modelos mais avançados. A medida, anunciada nesta sexta-feira, visa garantir que sistemas de IA possam ser desativados imediatamente em caso de comportamento imprevisível, riscos à segurança ou uso malicioso.
O Que é um ‘Kill Switch’ para IA?
O conceito de ‘kill switch’ refere-se a um protocolo de segurança que permite desligar ou limitar as operações de um sistema de IA em situações de emergência. Segundo especialistas, esse mecanismo seria uma medida preventiva para evitar cenários catastróficos, como a perda de controle de modelos de IA avançados ou seu uso em ataques cibernéticos, desenvolvimento de armas autônomas ou manipulação de informações em larga escala.
De acordo com a ordem executiva, as empresas serão obrigadas a:
- Implementar grupos de verificação independentes para auditorias regulares em seus sistemas de IA.
- Submeter seus relatórios de transparência e avaliações de risco a auditorias independentes.
- Desenvolver e implementar um ‘kill switch’ capaz de desativar modelos de IA que apresentem riscos inaceitáveis.
- Estabelecer padrões claros para incidentes de segurança crítica, incluindo perda de controle ou uso malicioso.
Reações e Implicações
A iniciativa de Newsom tem gerado tanto apoio quanto resistência. Especialistas em segurança de IA, como Usama Fayyad, diretor executivo do Instituto de IA Experiencial da Universidade Northeastern, destacam que a medida pode estabelecer um precedente importante para a segurança global de IA. “A Califórnia, como berço de muitas das maiores empresas de tecnologia do mundo, tem o poder de influenciar não apenas os Estados Unidos, mas também o cenário internacional”, afirmou Fayyad.
No entanto, alguns setores da indústria tecnológica expressaram preocupações de que regulamentações rígidas possam inibir a inovação. Empresas como OpenAI e Meta já manifestaram resistência a leis estaduais que exigem ‘kill switches’, argumentando que a regulamentação da IA deve ser gerenciada em nível federal para evitar uma abordagem fragmentada.
“A segurança da IA é uma questão crítica, mas é essencial que as empresas tenham flexibilidade para inovar sem medo de sanções desproporcionais”, declarou um porta-voz da OpenAI.
California como Pioneira
Com essa ordem executiva, a Califórnia não apenas acelera a implementação de seu registro de auditores de IA, originalmente previsto para dezembro de 2028, mas também antecipa para dezembro de 2027. Além disso, o estado está convocando um grupo de especialistas para desenvolver recomendações em até dois meses sobre como fortalecer as medidas de segurança da IA.
Newsom também instou o governo federal a assumir um papel mais ativo na regulamentação da IA, criticando a administração Trump por “abdicar de sua responsabilidade de proteger os americanos” à medida que a tecnologia avança. “Não podemos esperar que a inovação aconteça sem segurança. Precisamos de um equilíbrio que proteja o público e permita o progresso”, afirmou o governador.
Impacto no Mercado e Futuro da Regulamentação
O anúncio de Newsom chega em um momento em que empresas globais de tecnologia, incluindo gigantes como Amazon, Google e Microsoft, já haviam assinado um acordo voluntário para implementar ‘kill switches’ em modelos de IA considerados de alto risco. Esse acordo, resultado do Fórum de Segurança de IA de Seul, estabeleceu ‘linhas vermelhas’ que, se ultrapassadas, desencadeariam a desativação do desenvolvimento de modelos perigosos.
Analistas acreditam que a ordem executiva da Califórnia pode pressionar outras jurisdições a adotarem medidas semelhantes, criando um efeito dominó na regulamentação global de IA. No entanto, a eficácia dessas medidas ainda depende da colaboração entre setor público e privado e da capacidade de implementar auditorias independentes efetivas.
Enquanto a Califórnia avança em sua jornada para estabelecer padrões de segurança rigorosos, o mundo observa de perto como essa iniciativa pode moldar o futuro da IA — equilibrando inovação e proteção contra riscos potenciais.
