Riscos de Alucinação

Alucinação é quando o modelo de linguagem produz informação plausível mas factualmente falsa. Acontece porque o modelo otimiza para plausibilidade textual, não para verdade. Pode citar jurisprudência inexistente, doutrina inventada, normas com numeração ficcional — tudo com a mesma confiança com que apresenta informação verdadeira.

Não é defeito ocasional; é característica estrutural do modo como modelos generativos funcionam. Técnicas reduzem (browsing, RAG, ancoragem), mas não eliminam. A regra prática: toda saída de IA pode conter alucinação, mesmo quando o modelo parece confiante.

Sinais comuns:

• Citação "redonda demais" (ementa que diz exatamente o que você queria)
• Aglomerado de citações no mesmo parágrafo (STF + STJ + TJSP no mesmo sentido, sem nuance)
• Estatística sem fonte explícita
• Norma com numeração estranha (artigos com sufixos não usuais)
• Coerência interna excessiva (sem nuance ou contradição)
• Confiança absoluta em tema controvertido (deveria ter nuance)

Em todos esses casos, conferir em fonte primária. Sinal de alerta ≠ prova de alucinação, mas pede investigação.

Porque pesquisa jurídica é a tarefa de IA que mais invoca o risco. Em outras áreas, alucinação é problema. No Direito, é problema com consequência institucional grave: jurisprudência inventada citada em peça processual pode gerar sanção disciplinar, repreensão pelo juízo, perda de cliente, dano reputacional.

Casos já documentados no Brasil e no exterior: advogados sancionados por uso de jurisprudência alucinada em peças. O custo de um único incidente costuma superar em muito o investimento em método de uso responsável.

Quatro estratégias:

1. Conferência em fonte primária: nenhuma citação concreta vai para produto final sem ser conferida no site do tribunal ou na fonte original.

1. Ferramentas ancoradas: use NotebookLM com fontes que você forneça. A IA responde só com base nelas, com citação clicável.

1. Prompts sem citação literal: peça raciocínio (sem citar fontes específicas) à IA; faça a pesquisa de fontes separadamente em bases confiáveis.

1. Verificação cruzada: pergunte a dois modelos diferentes; discrepância é sinal de alerta.

Em todos os casos, leitura crítica humana é o filtro final.

Em geral sim, mas a diferença não é abismal. Alucinação é estrutural. Modelos mais avançados (GPT-5, Claude Opus 4.7, Gemini 2.0) têm taxa menor que versões anteriores, especialmente em domínios para os quais foram bem treinados.

Mas mesmo nesses modelos, alucinação acontece. A diferença entre uso responsável e uso amador não está no modelo escolhido; está na disciplina de revisão e conferência.

Porque foi treinado para produzir texto autoritativo. A confiança textual é resultado do treinamento — o modelo aprendeu que textos competentes têm tom seguro. Não é sinal de veracidade.

Essa característica é especialmente perigosa para profissional inexperiente, que pode interpretar a confiança como sinal de precisão. A maturidade profissional consiste em desacoplar a confiança textual da confiabilidade factual.

Não confiável. Os "detectores" atuais têm taxa alta de falsos positivos e falsos negativos. A conferência humana ainda é o mecanismo prático.

Algumas técnicas reduzem a probabilidade de alucinação:

• Pedir cadeia de raciocínio explícita
• Pedir citação literal de fonte fornecida
• Pedir declaração de incerteza quando aplicável
• Usar ferramenta ancorada (NotebookLM)

Nenhuma elimina. A revisão humana é incontornável.

Cada arquivo de instruções gerado pelo NeuralLex Fluxo embute:

• Bloco anti-alucinação: orientações explícitas ao modelo sobre não inventar citações, declarar incerteza, evitar extrapolação.
• Marcações [verificar]: pontos específicos onde o profissional deve aplicar julgamento e conferência.
• Checklist de revisão integrado: lista de pontos críticos a conferir antes do uso.
• Audit trail: registro de cada execução para análise posterior.

Não eliminamos alucinação — ninguém elimina. Estruturamos o uso de forma que o erro virtualmente inevitável não chegue ao produto final sem revisão.