Alucinação em IA generativa é quando um modelo como o ChatGPT ou o Gemini produz uma informação falsa com aparência de verdade: uma lei que não existe, um número inventado, uma citação atribuída a quem nunca disse aquilo. Acontece porque o modelo gera o texto mais provável a partir do que aprendeu, e não consulta um banco de fatos. Por isso toda resposta precisa de checagem antes do uso.
Em resumo
- Alucinação é resposta plausível e falsa: o modelo completa o texto mais provável, e o mais provável nem sempre é o verdadeiro.
- Os alvos preferidos são citações, números, artigos de lei, links e datas, justamente o que dá aparência de rigor a um texto.
- Checagem funciona como protocolo: identificar afirmações verificáveis, buscar a fonte primária e descartar o que não se confirma.
O modelo prevê texto, não consulta um banco de fatos
Um modelo de linguagem foi treinado para uma tarefa: dado um trecho de texto, prever a continuação mais provável. Ele aprendeu isso lendo uma quantidade enorme de páginas, livros e conversas. O que ficou gravado são padrões de linguagem, não uma tabela de fatos com selo de verificação.
Quando você pergunta qual artigo da CLT trata de férias, o modelo não abre a lei. Ele gera a sequência de palavras que, pelo padrão aprendido, costuma aparecer depois dessa pergunta. Na maioria dos casos o padrão coincide com a realidade. Quando não coincide, nasce a alucinação.
Segundo a própria OpenAI, em sua documentação e nos avisos exibidos no ChatGPT, o modelo pode cometer erros e informações importantes devem ser verificadas. O Google faz o mesmo alerta no Gemini. Não é ressalva jurídica de ocasião: é a descrição honesta de como a tecnologia funciona.
Por que a invenção sai com tanta confiança
A parte mais perigosa da alucinação não é o erro, é o tom. O modelo escreve a informação falsa com a mesma fluência, a mesma pontuação e a mesma segurança da informação correta. Não há hesitação, não há “acho que”, não há sinal visível de dúvida.
Isso acontece porque o treinamento recompensa texto bem formado e útil. Um modelo que respondesse “não sei” com frequência seria considerado pior nos testes de qualidade. O resultado é uma tendência a preencher lacunas com o conteúdo mais plausível em vez de admitir a falta de informação.
Também pesa a natureza da pergunta. Quanto mais específico e raro o dado pedido (o número exato de uma portaria, o faturamento de uma empresa pequena, o autor de um estudo obscuro), menos exemplos o modelo viu e maior a chance de completar com algo que apenas soa correto.
Onde a alucinação aparece com mais frequência
A experiência de quem usa esses sistemas todos os dias mostra um padrão claro: a invenção se concentra nos elementos que dão aparência de rigor ao texto. É exatamente o que um leitor desatento aceita sem checar, porque parece verificável demais para ser falso.
- Citações e referências: artigos científicos com título convincente, autores reais e periódico plausível que nunca foram publicados.
- Números e estatísticas: percentuais redondos atribuídos a institutos conhecidos, como IBGE ou Banco Central, sem que o dado exista.
- Leis e artigos: numeração de lei, artigo e parágrafo que parece certa, mas aponta para outro assunto ou para nada.
- Links: endereços de sites bem formados que levam a página inexistente.
- Datas e biografias: eventos deslocados no tempo e feitos atribuídos à pessoa errada.
- Contas e conversões: cálculos longos com resultado errado escrito com total naturalidade.
O exemplo mais conhecido vem do Direito. No caso Mata v. Avianca, julgado em um tribunal federal de Nova York em 2023, advogados apresentaram uma petição com decisões judiciais inexistentes geradas pelo ChatGPT e foram sancionados. As citações tinham número de processo, tribunal e trechos: tudo inventado.
No Brasil, o cuidado vale dobrado com jurisprudência, súmulas e legislação que muda com frequência, como regras tributárias do MEI e do Simples Nacional. O modelo pode descrever uma norma revogada como vigente, porque aprendeu com textos escritos quando ela ainda valia.
Os sinais que denunciam uma resposta inventada
Alucinação não vem com etiqueta, mas deixa pistas. A primeira é a precisão excessiva sem origem: um percentual com casa decimal, um número de lei, um nome de pesquisador, tudo entregue sem link nem indicação de onde foi tirado. Rigor de verdade costuma vir acompanhado de fonte.
A segunda pista é a resposta que muda quando você pergunta de novo. Reformule a mesma questão em outra conversa: se o dado oscila (a lei vira outra, o número muda de 30% para 45%), você não está diante de um fato, e sim de uma previsão de texto.
A terceira é a resposta genérica demais para a pergunta específica. Se você pede o prazo exato de um procedimento e recebe um texto que contorna o número com “geralmente” e “pode variar”, o modelo provavelmente não tem o dado. Isso é bom sinal: é preferível à invenção confiante.
Um protocolo de checagem em cinco passos antes de usar
Checar não significa desconfiar de tudo e não usar nada. Significa separar o que é opinião, estrutura e redação (onde o modelo ajuda muito e o risco é baixo) do que é afirmação verificável, onde qualquer erro vira problema seu quando o texto for publicado ou enviado.
- Marque toda afirmação verificável da resposta: número, data, nome, lei, citação, link. O que não é verificável é opinião ou redação.
- Peça ao modelo a origem de cada uma: “de onde vem esse dado?”. Se a resposta for vaga, trate o dado como não confirmado.
- Busque a fonte primária: o site do órgão, o texto da lei no portal do Planalto, o artigo no periódico. Não aceite outro texto de IA como confirmação.
- Descarte o que não se confirma, mesmo que pareça razoável. Um dado sem fonte não vale mais que um dado inventado.
- Registre o que foi checado e onde, para que a próxima pessoa, ou você daqui a seis meses, não precise refazer o trabalho.
Para quem produz conteúdo, presta consultoria ou responde a clientes, esse protocolo é a diferença entre usar IA como ferramenta e usar como álibi. O erro publicado tem o seu nome, não o do modelo. A checagem leva minutos; o desmentido custa reputação.
Um atalho eficiente: peça ao modelo que separe, na própria resposta, o que ele afirma com base em conhecimento geral do que seria preciso confirmar. A separação não é garantia, mas reduz a lista de itens para verificar e revela onde ele mesmo está menos seguro.
Como escrever o pedido para reduzir a chance de erro
O jeito de perguntar altera a taxa de invenção. A documentação da Anthropic para o Claude, por exemplo, recomenda dar permissão explícita ao modelo para dizer que não sabe e pedir que ele cite trechos literais do material fornecido antes de responder. São técnicas simples e funcionam em qualquer assistente.
A medida mais eficaz é fornecer o material. Em vez de perguntar o que diz a lei, cole o texto da lei e peça a interpretação. Em vez de pedir os números de um relatório, anexe o relatório. Quando a resposta precisa se apoiar em um documento presente, o espaço para inventar encolhe muito.
Também ajuda dividir: primeiro peça a lista de fatos que a resposta vai usar, cheque a lista e só então peça o texto final. Modelos com acesso à busca na web reduzem parte do problema ao trazerem páginas reais, mas ainda podem resumir mal ou misturar fontes; o protocolo continua necessário.
Alucinação é característica para gerenciar, não defeito para esperar passar
Modelos novos erram menos que os antigos em testes de conhecimento factual, e os fabricantes publicam avanços nessa direção. Ainda assim, a mecânica de prever texto continua a mesma, e nenhum fornecedor promete taxa zero de erro. Tratar a alucinação como resolvida é o caminho mais curto para ser surpreendido.
A postura produtiva é a mesma de quem trabalha com qualquer fonte secundária: útil para explorar, organizar e redigir; insuficiente para afirmar. Um estagiário brilhante e veloz, que leu muito e às vezes confunde o que leu, precisa de um revisor. Esse revisor é você.
Para tarefas em que o erro é barato (rascunho, brainstorming, reformulação de e-mail) use o modelo à vontade. Para tarefas em que o erro custa caro (contrato, laudo, publicação, orientação a cliente) aplique o protocolo inteiro. Saber em qual dos dois casos você está é a habilidade central.
O próximo passo é pegar a última resposta de IA que você usou para algo importante e passar o protocolo nela: marcar as afirmações verificáveis, pedir a origem e conferir na fonte primária. O exercício leva poucos minutos e mostra, na prática, quanto do texto você estava aceitando por confiança.