A OpenAI anunciou que começará a adicionar marcas d’água invisíveis nos textos gerados por ChatGPT e Codex, mas apenas para usuários na União Europeia (UE). A medida, que entra em vigor nas próximas semanas, é uma resposta direta às exigências do Regulamento de IA da UE, que entrou em vigor em 2 de agosto de 2026 e obriga as empresas de inteligência artificial a marcar conteúdo gerado por IA de forma identificável.
Marcas d’Água: Como Funciona?
A tecnologia utilizada pela OpenAI, chamada textGrain, introduz padrões estatísticos sutis nas escolhas de palavras dos modelos, tornando possível detectar se um texto foi gerado por IA. Essas marcas não são visíveis ao usuário comum, mas podem ser identificadas por ferramentas específicas. Segundo a empresa, a detecção é eficiente, com taxas de acerto que variam entre 92% e 95%, embora substituir até 25% das palavras por sinônimos possa reduzir significativamente essa eficácia, caindo para apenas 17%.
É importante ressaltar que a marca d’água não revela informações sobre o usuário, a conta utilizada, os prompts inseridos ou a conversa em si. Além disso, a OpenAI afirma que a qualidade do texto gerado não é comprometida pela aplicação dessa tecnologia.
Abordagem Regional e Optativa para Desenvolvedores
A OpenAI decidiu adotar uma abordagem regional, implementando as marcas d’água apenas na UE inicialmente. A empresa justifica essa decisão como uma forma de aprender com o uso real e feedback dos usuários antes de expandir globalmente. No entanto, desenvolvedores que utilizam a API da OpenAI em qualquer parte do mundo já podem optar por ativar a marca d’água em modelos selecionados, embora permaneça desativada por padrão.
Essa medida contrasta com a estratégia adotada pela concorrente Anthropic, que implementou marcas d’água em seu modelo Claude em nível global, o que gerou críticas de usuários que argumentam ser a IA apenas uma ferramenta e não a responsável pelas decisões ou contexto fornecidos.
Desafios e Críticas
Apesar dos esforços da OpenAI, especialistas alertam que as marcas d’água não são infalíveis. É possível contornar essa tecnologia, por exemplo, substituindo palavras ou utilizando ferramentas de edição de texto. Além disso, a detecção não é perfeita e pode falhar em certos cenários, como demonstrado pelos testes de substituição de palavras.
Outra questão em debate é a privacidade. Alguns usuários e especialistas questionam se a marca d’água pode ser usada para rastrear ou monitorar atividades de usuários, mesmo que a OpenAI garanta que não será possível identificar quem gerou o texto ou quais prompts foram utilizados.
Impacto e Futuro
A implementação das marcas d’água na UE pode servir como um modelo para outras regiões, especialmente à medida que regulamentações sobre IA se tornam mais comuns. A OpenAI também está trabalhando com parceiros em nuvem para estender essa funcionalidade a usuários que acessam seus modelos por meio de serviços de terceiros.
Enquanto isso, a empresa abriu inscrições para acesso ao detector de marcas d’água, mas o acesso será inicialmente restrito a pesquisadores e organizações especializadas, visando avaliar e aprimorar a tecnologia.
Essa medida marca um passo significativo na busca por transparência em IA, mas também levanta questões sobre os limites entre inovação, privacidade e regulamentação. O futuro mostrará se essa abordagem se tornará global ou se outras soluções surgirão para equilibrar conformidade e liberdade de uso.
