WASHINGTON — Um advogado de defesa que recorreu de uma condenação por assassinato em Nova México foi multado e considerado em desacato pela justiça após apresentar um recurso contendo depoimentos policiais falsos e testemunhas fabricadas, tudo gerado pelo ChatGPT. O caso levanta sérias questões sobre a confiabilidade da inteligência artificial em ambientes jurídicos e o dever dos profissionais de verificar informações antes de apresentá-las em tribunal.
Um erro com consequências graves
O advogado Stephen Aarons afirmou que utilizou o ChatGPT para preparar um resumo “à prova de balas” do caso, mas descobriu, posteriormente, que a ferramenta havia inventado detalhes cruciais, incluindo testemunhas e depoimentos que nunca existiram. A decisão do Supremo Tribunal de Nova México, divulgada na última quarta-feira, foi contundente: Aarons foi multado em US$ 5.000 e será encaminhado para uma investigação disciplinar pela ordem dos advogados.
Segundo o tribunal, o recurso apresentado por Aarons “continha depoimentos falsos de testemunhas totalmente fabricadas”. Além disso, os juízes destacaram a “falta de arrependimento e a falta de preocupação com seu cliente” por parte do advogado, agravando sua responsabilidade profissional.
ChatGPT e o fenômeno das ‘alucinações’ jurídicas
Este não é um caso isolado. Nos últimos anos, diversos advogados nos Estados Unidos foram sancionados por submeterem documentos jurídicos contendo citações falsas ou distorções geradas por ferramentas de IA. Em maio de 2026, por exemplo, dois advogados de Oregon foram multados em US$ 110.000 — a maior penalidade já registrada por esse tipo de infração — após incluírem 23 citações fabricadas e oito frases inventadas em seus argumentos.
Em 2023, um advogado de Nova York também foi flagrado citando seis casos judiciais falsos em um processo, gerados pelo ChatGPT. Ele admitiu ter usado a ferramenta para complementar suas pesquisas, mas não considerou a possibilidade de que as informações pudessem ser falsas. Esse caso chamou a atenção da mídia e resultou em uma audiência para determinar sanções.
Desde então, pelo menos 900 casos de ‘alucinações’ de IA foram documentados em documentos judiciais nos EUA desde 2023, segundo dados compilados por especialistas. A situação é tão grave que, atualmente, 900 tribunais federais exigem que advogados certifiquem o uso de IA em seus pleitos.
O papel da IA na advocacia: avanço ou risco?
A inteligência artificial tem se tornado uma ferramenta valiosa para advogados, ajudando na pesquisa jurídica, redação de documentos e até mesmo na previsão de decisões judiciais. No entanto, casos como o de Stephen Aarons mostram que sua utilização requer um nível elevado de cautela e verificação humana.
“Eu não sabia que a IA poderia inventar fatos”, declarou Aarons em suas defesas. Essa frase resume o dilema enfrentado por muitos profissionais: como conciliar a eficiência da IA com a precisão e ética exigidas pelo sistema judicial?
Especialistas alertam que, embora a tecnologia possa acelerar processos, ela não deve substituir a análise crítica e a responsabilidade humana. “A submissão de opiniões falsas traz danos significativos ao sistema de justiça”, afirmou o juiz P. Kevin Castel, responsável por um caso semelhante em Nova York.
O futuro da IA no Direito
À medida que a IA se integra cada vez mais às práticas jurídicas, tribunais e ordens de advogados estão adotando medidas para garantir a transparência e a precisão. Algumas sugestões incluem:
- Certificação obrigatória: Advogados devem declarar explicitamente quando utilizam IA em seus pleitos.
- Revisão humana obrigatória: Todos os documentos gerados por IA devem passar por uma análise rigorosa antes de serem apresentados.
- Treinamento especializado: Cursos para advogados sobre os limites e riscos da IA nas práticas jurídicas.
Enquanto isso, o caso de Stephen Aarons serve como um alerta: a inovação tecnológica não deve comprometer os princípios éticos e a integridade do sistema judicial. A questão agora é clara: a IA pode ser uma aliada poderosa, mas nunca deve ser uma substituta para a diligência e a responsabilidade profissional.
