O que é alucinação em IA generativa e como checar antes de usar

1 de 5

IA inventa com cara de verdade

Alucinação é quando o modelo gera lei, número ou citação falsa com o mesmo tom de certeza da informação correta.

2 de 5

O modelo prevê palavras, não fatos

Ele aprendeu padrões de texto, não uma tabela de verdades. O provável quase sempre coincide com o real; quando não coincide, nasce a invenção.

3 de 5

Citação, número e lei: alvos preferidos

A invenção se concentra no que parece rigoroso: referências, percentuais, artigos de lei e links que não existem.

4 de 5

Pergunte duas vezes e compare

Se o dado muda quando você reformula a pergunta em outra conversa, não é fato: é previsão de texto.

5 de 5

Cinco passos antes de usar a resposta

Marque o verificável, peça a origem, busque a fonte primária, descarte o que não se confirma e registre o que checou.

Continua no YOOFY

O que é alucinação em IA generativa e como checar antes de usar

Alucinação em IA generativa é quando o modelo inventa fato, lei ou citação com tom de certeza. Entenda por que acontece, os sinais e um protocolo de checagem.

yoofy.com.br