Como tudo começou: Dos detectores de plágio aos detectores de IA
Há alguns anos, ferramentas como o Turnitin eram amplamente utilizadas por educadores e editores para identificar plágios em trabalhos acadêmicos e textos jornalísticos. Essas plataformas comparavam o conteúdo submetido com um vasto banco de dados de textos publicados na internet, artigos científicos e outros materiais, buscando semelhanças que indicassem cópia indevida. No entanto, com o avanço das ferramentas de inteligência artificial generativa, como o ChatGPT, Google Gemini e Microsoft Copilot, a dinâmica mudou. Agora, o foco não é apenas detectar plágio, mas também identificar se um texto foi gerado por IA.
Essa mudança trouxe consigo uma série de desafios e controvérsias, transformando a relação entre educadores, estudantes, jornalistas e editores em um campo minado de desconfiança.
A popularização dos detectores de IA e seus impactos
De acordo com uma pesquisa do Center for Democracy and Technology, realizada entre 2024 e 2025, 43% dos professores de sexto a décimo segundo ano nos Estados Unidos já utilizavam detectores de IA regularmente. Universidades e escolas adotaram essas ferramentas como uma forma de coibir o uso indevido de IA em trabalhos acadêmicos, mas os resultados têm sido controversos.
O problema é que os detectores de IA, como o Turnitin, GPTZero e Copyleaks, não são infalíveis. Eles operam com base em padrões estatísticos, como a perplexidade (medida de quão previsível é um texto) e a burstiness (variação na complexidade das frases). No entanto, esses algoritmos são vulneráveis a erros, especialmente quando se trata de textos escritos por falantes não nativos de inglês ou em gêneros textuais menos convencionais, como poesia ou listas.
Falsos positivos: Quando a tecnologia erra feio
Um dos maiores problemas dos detectores de IA é a alta taxa de falsos positivos. Em um experimento realizado pela Aos Fatos, um texto gerado pelo ChatGPT foi submetido a quatro detectores de IA. Apenas um deles identificou corretamente o texto como gerado por IA, enquanto os outros três o classificaram como escrito por humanos. Pior ainda, quando a reportagem submeteu um texto escrito por humanos, um dos detectores o classificou como gerado por IA.
Casos como esse não são isolados. Em um estudo conduzido por pesquisadores brasileiros, 300 textos dissertativos foram analisados por detectores de IA após passarem por diferentes níveis de intervenção algorítmica. Mesmo após reescritas automáticas e alterações semânticas para tornar o conteúdo mais “natural”, os detectores falharam em identificar corretamente a origem dos textos. Em um grupo que recebeu um “pacote completo” de camuflagem, apenas 4% dos casos foram identificados como IA, demonstrando a fragilidade desses sistemas.
Em outro caso emblemático, um usuário do Reddit relatou que seu TCC, escrito em 2017, foi classificado como 100% gerado por IA por um detector. Esse tipo de erro não apenas gera desconfiança, mas também pode ter consequências graves, como reprovações injustas, acusações de plágio e até o cancelamento de carreiras acadêmicas.
O viés linguístico e cultural dos detectores
Os detectores de IA são treinados principalmente com textos em inglês e escritos por adultos, o que os torna menos precisos quando aplicados a textos em outros idiomas ou produzidos por falantes não nativos. Um estudo mostrou que 61% das redações escritas por falantes não nativos de inglês foram erroneamente classificadas como geradas por IA. Isso cria um ambiente de desconfiança e injustiça, especialmente em instituições de ensino com diversidade cultural.
Além disso, textos acadêmicos e jornalísticos muitas vezes seguem padrões formais e estruturas previsíveis, o que pode ser confundido com a escrita de IA. Isso significa que até mesmo textos legítimos podem ser acusados de serem gerados por algoritmos, especialmente se forem longos e bem estruturados.
A corrida armamentista: Detectores vs. Ferramentas de “humanização”
Enquanto educadores e editores correm para adotar detectores de IA, estudantes e profissionais também buscam maneiras de contornar essas ferramentas. Surgiram no mercado plataformas como Humanize AI e BypassGPT, que prometem “humanizar” textos gerados por IA, tornando-os indetectáveis. Essas ferramentas utilizam técnicas como reescrita automática, substituição de termos e ajustes na estrutura das frases para driblar os algoritmos dos detectores.
O resultado é uma verdadeira corrida armamentista: de um lado, detectores cada vez mais sofisticados; do outro, ferramentas de “humanização” que se aprimoram para burlar esses sistemas. No meio desse fogo cruzado, quem sofre são os estudantes e profissionais que dependem da confiança e da justiça nos processos de avaliação.
O futuro dos detectores de IA: Tecnologia ou mediação humana?
Diante dos problemas e controvérsias, especialistas defendem que os detectores de IA não devem ser usados como única ferramenta de avaliação. Em vez disso, eles devem ser vistos como um complemento, uma camada adicional de análise que deve ser interpretada com cautela e sempre acompanhada de uma avaliação humana.
Um estudo publicado na revista Studies in Higher Education argumenta que o uso indiscriminado de detectores de IA pode sufocar a criatividade, a diversidade linguística e a subjetividade, elementos essenciais da escrita humana. Além disso, a desconfiança generalizada pode minar a relação entre educadores e estudantes, criando um ambiente acadêmico tóxico e improdutivo.
Para o professor Jhonata Jankowitsch, um dos autores do estudo brasileiro sobre as falhas dos detectores de IA, “confundir um texto legítimo com uma produção algorítmica pode gerar injustiças irreversíveis”. Ele defende que a tecnologia deve ser usada com senso crítico, transparência e apoio ético, sempre mediada por uma análise humana.
Conclusão: Um chamado à responsabilidade
Os detectores de IA representam uma tentativa de lidar com os desafios trazidos pela inteligência artificial generativa, mas seu uso indiscriminado tem gerado mais problemas do que soluções. Falsos positivos, viés linguístico e a corrida armamentista entre detectores e ferramentas de “humanização” são apenas algumas das questões que precisam ser enfrentadas.
Enquanto a tecnologia não evolui o suficiente para oferecer soluções precisas e justas, é fundamental que educadores, editores e instituições adotem uma abordagem equilibrada. Isso significa usar os detectores de IA com cautela, sempre acompanhados de uma avaliação humana criteriosa, e promover um ambiente de confiança e transparência.
Afinal, a escrita é uma das formas mais poderosas de expressão humana, e sua avaliação não pode ser reduzida a algoritmos imperfeitos. O futuro da educação e do jornalismo depende de nossa capacidade de equilibrar tecnologia e humanidade.
