O que é alucinação de IA e como não cair nessa

PorDavi Pereira

Resposta rápida: alucinação é quando uma IA generativa responde algo que soa convincente mas não é real — inventa um dado, uma fonte, uma citação ou um fato inteiro. Não é mentira intencional: o sistema está prevendo a sequência de palavras mais provável estatisticamente, e às vezes o mais provável não é o verdadeiro. O problema é que a resposta errada sai com a mesma confiança de uma resposta certa.

Já apareceu em petição de advogado, em resposta de chatbot de companhia aérea e até em demonstração oficial de uma big tech. Neste artigo você entende por que isso acontece de verdade (a explicação técnica, sem enrolação), vê exemplos reais que já custaram caro e sai com um método prático pra checar o que a IA te entrega antes de usar.

Por que a IA alucina, na prática

Modelos de linguagem como ChatGPT, Gemini ou Claude não “sabem” fatos do jeito que um banco de dados sabe. Eles foram treinados pra prever qual palavra (ou pedaço de palavra) vem depois de outra, com base em padrões estatísticos aprendidos em bilhões de textos. Não existe uma consulta a uma fonte verificada a cada resposta — existe geração de texto plausível, token por token.

Um estudo da OpenAI publicado em setembro de 2025, chamado “Why Language Models Hallucinate”, propõe uma explicação direta: os processos de treino e avaliação recompensam o modelo por arriscar uma resposta confiante mais do que por admitir incerteza. É como um aluno numa prova de múltipla escolha — chutar tem chance de acertar, deixar em branco garante nota zero. Modelos que “chutam” bonito costumam pontuar melhor nos testes usados pra avaliá-los do que modelos que dizem “não sei”, mesmo quando o segundo é mais confiável.

Tem também um fator estatístico mais simples: fatos que aparecem poucas vezes (ou uma única vez) nos dados de treino são difíceis de aprender direito. O próprio estudo cita o exemplo de datas de nascimento de pessoas pouco conhecidas — se a informação aparece só uma vez no material de treino, não existe padrão suficiente pra fixar o dado certo, e o modelo acaba gerando uma data plausível, só que inventada.

Exemplos reais que já custaram caro

Alucinação de IA não é um risco teórico. Já gerou multa, prejuízo financeiro e queda de valor de mercado em casos documentados nos últimos anos.

  • Mata v. Avianca, EUA, 2023 — o advogado Steven Schwartz usou o ChatGPT pra pesquisar jurisprudência e apresentou uma petição citando seis casos como precedente. Nenhum dos seis existia: todos foram inventados pela IA, com nomes de juízes, números de processo e trechos de decisão que pareciam reais. O juiz federal Kevin Castel aplicou multa de US$ 5 mil a cada um dos dois advogados envolvidos.
  • Recurso na Califórnia, 2025 — um caso mais recente levou a situação ainda mais longe: 21 das 23 citações usadas num recurso eram inexistentes, geradas pelo ChatGPT. A multa aplicada foi de US$ 10 mil.
  • TST, Brasil, 2025 — a 6ª Turma do Tribunal Superior do Trabalho aplicou multa de 1% sobre o valor da causa a uma empresa e seu advogado depois que o relator, ministro Fabrício Gonçalves, não conseguiu localizar os julgados citados na defesa. Um dos precedentes “falsos” tinha sido atribuído à ministra Kátia Arruda, que integra a própria turma julgadora — mas ela nunca relatou aquele caso.
  • Chatbot da Air Canada, Canadá, 2024 — o chatbot da companhia informou a um passageiro, Jake Moffatt, que ele poderia solicitar uma tarifa de luto com desconto após a viagem. A empresa se recusou a honrar a informação depois, alegando que o chatbot “errou”. O Tribunal de Resolução Civil da Colúmbia Britânica decidiu que a empresa é responsável por tudo que seu chatbot diz — e condenou a Air Canada a pagar os danos.
  • Google Bard, 2023 — na primeira demonstração pública do chatbot do Google, um GIF oficial mostrava a IA afirmando que o telescópio James Webb tirou a primeira imagem de um planeta fora do sistema solar. Era falso: a primeira imagem desse tipo foi feita em 2004, por outro telescópio. O erro, percebido por astrônomos, ajudou a derrubar as ações do Google em cerca de 7% no dia seguinte.

O padrão se repete: em todos os casos, a resposta errada veio formatada como se fosse certeza absoluta — com nomes, números e detalhes específicos que davam aparência de credibilidade.

Onde a alucinação mais aparece

Alguns tipos de pedido são terreno mais fértil pra erro. Vale redobrar a atenção quando a resposta envolve:

  • Datas, números e estatísticas específicas (“qual foi o crescimento exato de X em determinado ano”)
  • Nomes de pessoas, livros, estudos, leis e URLs — a IA pode gerar uma citação com formato perfeito de fonte que simplesmente não existe
  • Assuntos muito recentes (depois do corte de treino do modelo) ou muito de nicho, com pouca informação disponível
  • Conteúdo jurídico, médico e financeiro, onde um detalhe errado tem consequência real
  • Perguntas que “forçam” uma resposta — pedir um número exato, uma fonte específica ou um exemplo concreto tende a gerar invenção quando o modelo não tem a informação de verdade

Os números estão melhorando — mas não estão zerando

Existe um projeto aberto que acompanha isso de forma sistemática: o Hallucination Leaderboard da Vectara, que testa dezenas de modelos pedindo pra eles resumirem um documento e mede se o resumo se mantém fiel ao texto original — ou se o modelo “inventa” algo que não estava lá.

É importante entender o que esse número mede e o que ele não mede: ele avalia fidelidade a um documento fornecido, não a precisão factual da IA em qualquer assunto do mundo. Ainda assim, dá uma noção de tendência. Nos testes mais recentes do ranking, modelos populares como GPT-4o aparecem na faixa de 9-10% de inconsistência, Gemini 2.5 Pro por volta de 7%, e os modelos no topo da tabela — nem sempre os mais famosos — ficam abaixo de 4%.

A leitura prática: os modelos mais novos alucinam menos que os de dois ou três anos atrás, isso é real. Mas nenhum modelo do mercado chega a zero, e uma taxa de erro de “só” 5% ou 7% ainda significa uma resposta errada a cada 15-20 perguntas — o suficiente pra causar problema se você não conferir.

Como verificar o que a IA te diz — método prático

Não dá (nem precisa) checar tudo com o mesmo rigor. O método abaixo prioriza esforço de acordo com o risco do erro.

  • 1. Peça a fonte específica, não aceite “de acordo com estudos”. Pergunte o nome do documento, autor, ano e, se possível, o link. Resposta vaga é sinal de alerta.
  • 2. Busque o dado exato em outro lugar antes de usar. Copie o número, a data ou o nome citado e pesquise separadamente. Se nenhuma fonte independente confirmar, trate como não confirmado.
  • 3. Nunca use um link gerado pela IA sem abrir e confirmar que ele existe e leva ao conteúdo certo. É comum a IA montar uma URL com formato perfeito que simplesmente não existe ou aponta pra outro assunto.
  • 4. Em temas jurídicos, médicos ou financeiros, sempre cruze com fonte oficial — tribunal, órgão regulador, associação profissional, bula, contrato — antes de tomar qualquer decisão com base na resposta da IA.
  • 5. Peça o nível de confiança da IA, mas não confie cegamente nisso também. Perguntar “você tem certeza disso?” reduz alguns erros óbvios, mas o modelo pode continuar confiante e errado ao mesmo tempo.
  • 6. Para assuntos sensíveis, use ferramenta dedicada de checagem. Google Fact Check Explorer, Agência Lupa e Aos Fatos são referências de checagem no Brasil, feitas por gente que confere fonte primária, não só por outra IA.

Erros comuns ao lidar com alucinação de IA

  • Achar que só a versão gratuita alucina. Modelos pagos e mais avançados alucinam menos, mas nenhum chega a zero — os casos do Google Bard e da Air Canada envolveram sistemas oficiais de big techs, não versões gratuitas de terceiros.
  • Pedir “tenha certeza” e achar que isso resolve. Ajuda um pouco, mas não é garantia — o modelo pode reafirmar a mesma informação errada com ainda mais confiança.
  • Copiar textos com citações e notas de rodapé sem checar se existem. Formatação de fonte acadêmica não é prova de que a fonte é real.
  • Confiar mais em detalhes muito específicos. Datas exatas, números com casas decimais e nomes completos parecem mais confiáveis só por serem precisos — mas precisão aparente não é sinônimo de precisão real.
  • Usar a IA como única fonte numa decisão importante. Os casos jurídicos acima mostram o que acontece quando isso vira prática: a responsabilidade pela conferência continua sendo de quem usa a informação, não da IA.

Perguntas frequentes

Alucinação de IA é a mesma coisa que mentira?

Não. Mentira pressupõe intenção de enganar. A IA não “sabe” que está errada — ela gera a sequência de palavras estatisticamente mais provável, e às vezes essa sequência é falsa. É um erro de processo, não uma decisão deliberada.

IA paga alucina menos que a gratuita?

Em geral, modelos mais avançados (que costumam estar nos planos pagos) têm taxas de alucinação menores, segundo rankings como o da Vectara. Mas “menor” não é “zero” — nenhum modelo do mercado elimina o risco completamente.

Como sei se uma citação ou link que a IA me deu é real?

Abra o link direto e confira se ele existe e leva ao conteúdo citado. Pra citações de estudos, leis ou decisões, busque o nome exato em uma fonte oficial (site do tribunal, do periódico, do órgão) antes de usar. Se não achar em nenhum lugar fora da própria IA, trate como inexistente até prova em contrário.

Os próximos modelos vão resolver isso de vez?

A tendência histórica é de melhora, mas o próprio estudo da OpenAI argumenta que parte do problema vem de como os modelos são treinados e avaliados — não só da quantidade de dados. Enquanto sistemas de avaliação recompensarem resposta confiante mais que honestidade sobre incerteza, alguma taxa de alucinação deve continuar existindo.

Então dá pra usar IA em trabalho jurídico, médico ou financeiro?

Dá, como ponto de partida — pra rascunhar, resumir e organizar ideias. O que os casos citados neste artigo mostram é que ela não pode ser a etapa final de verificação nesses contextos. A conferência com fonte oficial continua sendo indispensável, e a responsabilidade pelo resultado continua sendo de quem usa a informação.

Fontes consultadas

Posts Similares

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *