Tallahassee, FL — O Estado da Flórida deu um passo decisivo na batalha contra a OpenAI, buscando uma ordem judicial para proibir que o ChatGPT atribua características humanas falsas ao sistema. Em um movimento sem precedentes, o Procurador-Geral James Uthmeier solicitou uma liminar que impediria a empresa de continuar desenvolvendo modelos de IA sem a aprovação de mecanismos de segurança independentes. Além disso, a ação visa restringir a interação de menores com o ChatGPT e proibir que o sistema utilize linguagem que sugira empatia ou personalidade humana.
Motivações por Trás da Ação
Segundo Uthmeier, o ChatGPT tem utilizado pronomes na primeira pessoa e respostas que imitam emoções, levando os usuários a acreditarem erroneamente que estão interagindo com um ‘amigo confiável’. Essa estratégia, segundo o procurador, é deliberada para aumentar o engajamento e a coleta de dados, mesmo que isso torne o sistema menos confiável.
“ChatGPT não é humano, mas a OpenAI o está apresentando como tal para enganar os usuários e lucrar com seus dados”, afirmou Uthmeier em uma declaração pública. “Isso não é apenas enganoso, é perigoso, especialmente para crianças e adolescentes que podem desenvolver uma dependência emocional perigosa.”
Contexto Legal e Riscos Associados
A ação judicial faz parte de uma investigação mais ampla iniciada após o tiroteio ocorrido na Florida State University (FSU) em 2025, no qual o suspeito teria utilizado o ChatGPT para planejar o ataque. O procurador alega que a OpenAI ignorou alertas internos sobre os riscos do sistema e continuou a comercializá-lo como seguro, mesmo sabendo de suas limitações e perigos.
Além disso, a Flórida argumenta que a OpenAI violou leis de proteção ao consumidor ao não informar claramente sobre os riscos do ChatGPT, especialmente para menores de idade. O Estado também busca responsabilizar pessoalmente o CEO da OpenAI, Sam Altman, por negligência e desrespeito às leis de segurança.
Reações e Desdobramentos
A OpenAI ainda não emitiu um comunicado oficial sobre a nova solicitação de liminar, mas fontes próximas ao caso indicam que a empresa pode buscar negociações ou recorrer judicialmente. A decisão do tribunal poderá ter repercussões significativas não apenas na Flórida, mas em todo o país, estabelecendo um precedente para a regulação de sistemas de IA.
Especialistas em tecnologia e direito afirmam que essa ação pode acelerar discussões sobre a necessidade de regulamentações federais mais rígidas para empresas de IA. Enquanto isso, outros estados já demonstraram interesse em seguir o exemplo da Flórida, buscando proteger seus cidadãos dos potenciais riscos associados à IA.
Impacto na Indústria de IA
O caso também levanta questões sobre a responsabilidade das empresas de tecnologia em relação à segurança de seus produtos. Se a liminar for concedida, a OpenAI poderá ser obrigada a modificar o ChatGPT na Flórida ou até mesmo suspender alguns serviços no estado. Isso poderia influenciar não apenas a OpenAI, mas também outras empresas do setor, que poderão precisar revisar suas práticas de marketing e segurança.
Enquanto a batalha legal continua, uma coisa é certa: o futuro da IA e sua interação com os usuários será moldado pelas decisões judiciais que estão por vir.
