Quando o Acusador É um Chatbot

O Que um Escândalo de Plágio no Brasil Nos Ensina Sobre IA e Integridade Acadêmica

eyesoneurope

Em meados de 2023, uma história vinda do Brasil viralizou por um motivo inesperado. Não se tratava de um estudante flagrado usando o ChatGPT para colar. Era o contrário: um professor havia usado o próprio ChatGPT para decidir que o trabalho de um estudante havia sido gerado por IA — e errou.

Uma estudante em Brasília viu o Trabalho de Conclusão de Curso (TCC) do tio ser barrado pela banca depois que um professor submeteu o texto ao ChatGPT e perguntou se a ferramenta o havia escrito. O ChatGPT, com sua confiança habitual, respondeu que sim. A acusação quase custou a nota do estudante — até ele encontrar uma forma de reverter a situação: submeteu ao mesmo chatbot um artigo publicado pelo próprio professor. O ChatGPT, com a mesma segurança, afirmou que também havia gerado aquele texto. O caso viralizou, alcançou milhões de visualizações e escancarou um problema muito maior.

Assim que a história se espalhou, outros estudantes relataram situações parecidas. Um estudante de ciência da computação no Rio de Janeiro contou que seu grupo recebeu nota zero depois que um professor os acusou de usar IA — sem apresentar nenhuma prova além da própria acusação. Ele e os colegas de grupo procuraram o professor, o coordenador do curso e a ouvidoria da universidade, sem sucesso. Já uma professora de português em São Paulo teve mais sorte: ela usou o ChatGPT para verificar redações de dois alunos do 7º ano dos quais desconfiava, e ao revelar o que havia feito, um dos alunos admitiu ter usado a ferramenta. Mas sua abordagem funcionou principalmente porque ela conhecia bem a escrita de seus alunos, por acompanhá-los de perto ao longo do ano — não porque o chatbot fosse, de fato, um detector de plágio confiável.

Por que “perguntar ao chatbot” não funciona

Vale entender com precisão por que esse método continua falhando, porque os detalhes técnicos importam na hora de definir políticas acadêmicas.

O ChatGPT gera textos prevendo as palavras mais prováveis com base em padrões aprendidos durante o treinamento — ele não mantém um arquivo pesquisável de tudo o que já gerou para qualquer pessoa. O cientista da computação Lucas Lattari, que estudou essa questão, destaca que, uma vez treinado e lançado publicamente, nenhuma nova interação é incorporada ao conhecimento do modelo até que uma versão inteiramente nova seja construída. Assim, quando um professor pergunta “você escreveu isso?”, nenhum banco de dados é consultado. O modelo simplesmente gera mais um palpite, no mesmo tom confiante que usa para tudo — inclusive para conteúdos que comprovadamente não escreveu.

Esse último ponto foi fácil de demonstrar. A agência de checagem Aos Fatos fez um experimento: apresentou ao ChatGPT dois parágrafos de uma edição brasileira de 1998 do livro Era dos Extremos, do historiador Eric Hobsbawm, escrito originalmente em 1994 — ou seja, 24 anos antes do lançamento do ChatGPT — e perguntou se o texto havia sido gerado por IA. O ChatGPT respondeu que sim, atribuindo a si mesmo a autoria da passagem.

Em seguida, a reportagem fez o teste inverso: pegou um texto genuinamente escrito pelo ChatGPT e submeteu-o a diversas ferramentas especializadas em detectar conteúdo gerado por IA. A maioria delas — construídas especificamente para esse fim — concluiu erroneamente que o texto havia sido escrito por um humano. Apenas o classificador experimental da própria OpenAI chegou à conclusão correta, e mesmo essa ferramenta alertava, em sua própria página, que os resultados não são precisos e que ela tende a errar mais em textos escritos por crianças ou em idiomas diferentes do inglês.

A conclusão desconfortável, compartilhada por pesquisadores e especialistas em privacidade, é que uma detecção confiável de IA dificilmente será um problema resolvido pela própria tecnologia tão cedo — e tratar qualquer ferramenta atual como uma máquina de veredito é, em si, uma forma de má prática.

O dano real não está na fraude — está na acusação falsa

É tentador classificar isso como “dor de crescimento de uma tecnologia nova” e seguir em frente. Mas as consequências aqui não são abstratas. Estudantes relataram prejuízos concretos: um trabalho em grupo zerado, o risco de reprovar o semestre inteiro, meses a mais de curso — tudo desencadeado por uma ferramenta que não é capaz de fazer o que lhe foi pedido, sem nenhuma evidência que sustentasse a acusação e, em pelo menos um caso, sem um caminho real de recurso.

Rafael Zanatta, diretor da organização brasileira Data Privacy Brasil, enxerga isso menos como uma história sobre estudantes tentados a colar e mais como uma história sobre despreparo institucional. Chatbots são projetados para dar respostas confiantes e fluentes, independentemente de serem verdadeiras — e é exatamente essa característica de design que engana um avaliador despreparado. O risco é ainda maior em instituições onde professores estão desamparados, sem apoio, sem qualquer estrutura real para lidar com questões de integridade relacionadas à IA — nesses casos, eles recorrem à ferramenta que têm à mão, porque nada melhor lhes foi oferecido.

Esse é um problema que tem solução. Só não é resolvido deixando um chatbot julgar a si mesmo.

Uma linha divisória melhor: processo, não prosa

Se o resultado de um texto não pode mais ser usado com confiança para determinar se houve envolvimento de IA, o caminho sensato é parar de tentar deduzir a autoria a partir do texto final e passar a observar o processo que levou até ele. Essa mudança de foco tem um efeito duplo: protege estudantes inocentes de acusações falsas e dá estrutura real ao que realmente significa “uso legítimo de IA”.

Sinais de uso legítimo e produtivo de IA:

• O estudante consegue explicar e defender, com suas próprias palavras, cada afirmação, escolha de estrutura e evidência do trabalho, sem precisar de estímulo.
• Existe um histórico visível — rascunhos, anotações, um esboço, um registro de revisões — mostrando como o trabalho se desenvolveu ao longo do tempo.
• A IA foi usada como se usa um tutor ou assistente de pesquisa: para explorar ideias, testar um argumento, esclarecer um conceito confuso ou revisar a gramática — não para criar as ideias centrais ou a análise em si.
• O estudante informa o uso de IA quando relevante, em vez de escondê-lo, porque a instituição tornou essa transparência algo normal e seguro, em vez de uma confissão automática de culpa.
• O trabalho final reflete a voz própria do estudante, seu nível anterior de desempenho e o contexto específico da disciplina — elementos que uma resposta genérica de IA raramente reproduz.

Sinais que realmente merecem investigação (com cuidado, e com devido processo):

• Não existe nenhum rascunho, anotação ou registro de pesquisa que sustente o trabalho — ele parece ter surgido pronto, do nada.
• O estudante não consegue explicar seu próprio raciocínio, a terminologia usada ou as fontes citadas quando questionado diretamente, em conversa.
• O conteúdo aborda temas nunca tratados em sala de aula, ou apresenta um nível de desempenho muito diferente do trabalho anterior e já verificado do estudante.
• Há um padrão, em várias entregas, de frases genéricas, estrutura estranhamente uniforme, ou os mesmos erros característicos também presentes no trabalho de colegas.

Repare no que falta na segunda lista: “um chatbot disse que sim”. Isso é proposital. Cada um desses sinais depende de um avaliador humano que conhece o estudante, a disciplina e o trabalho — não da terceirização desse julgamento para a mesma ferramenta que a política tenta fiscalizar.

O que isso significa na prática

Para estudantes: o hábito mais seguro e realmente útil é manter um histórico visível do próprio raciocínio — guardar rascunhos, anotar o que foi perguntado a uma ferramenta de IA e por quê, e garantir que você consiga explicar a lógica do seu trabalho sem ter o texto na sua frente. Esse hábito protege você de duas formas: é assim que o aprendizado de verdade acontece, e é sua melhor defesa caso você seja acusado injustamente algum dia.

Para instituições: parem de tratar qualquer chatbot — inclusive a própria ferramenta que os estudantes podem estar usando — como uma máquina de veredito. Estruturem a avaliação em torno do processo (conversas de acompanhamento, rascunhos, histórico de revisões), em vez de um único produto final julgado isoladamente. Ofereçam aos professores treinamento real e políticas claras, para que eles não precisem, sob pressão e sem apoio, inventar seus próprios métodos de detecção. E construam um processo de recurso genuíno, antes que uma acusação falsa custe a um estudante uma nota, um semestre ou a confiança na instituição.

Como resumiu Zanatta: estudantes decididos a colar sempre encontrarão formas criativas de fazê-lo, qualquer que seja a política adotada. A solução mais urgente não é um detector melhor — é uma cultura institucional que trate a IA como um tema de diálogo aberto e honesto com os estudantes, em vez de um fruto proibido a ser caçado depois dos fatos. O caso de Brasília não provou que estudantes brasileiros estavam fraudando com IA. Provou que punir a suspeita em vez da prova é uma armadilha muito mais fácil de cair — tanto para as instituições quanto para qualquer um.

eyesoneurope