Por que a alucinação em sistemas de inteligência artificial é o risco mais subestimado pela advocacia brasileira
Existe uma camada de risco no uso da inteligência artificial pelo Direito que é, ao mesmo tempo, a mais comentada e a menos compreendida em profundidade. Trata-se da chamada alucinação, fenômeno pelo qual modelos generativos produzem informação plausível, bem formatada e, no entanto, factualmente inexistente. O termo já circula amplamente em conversas entre advogados, em apresentações de fornecedores, em manuais internos de uso. Ainda assim, a maioria dos escritórios brasileiros lida com esse risco de maneira surpreendentemente superficial, como se uma campanha interna de alerta ou uma frase em um documento de política bastassem para neutralizá-lo.
A subestimação tem origem em algo enganoso. A alucinação não se apresenta como erro evidente. Não traz tipos errados, frases desconexas, contradições óbvias. Ao contrário. Ela chega vestida de aparência profissional, com a estética da citação técnica, com a confiança característica do texto bem redigido. É justamente essa elegância textual que a torna perigosa. Quando um profissional jurídico lê uma referência aparentemente bem construída, com número de processo plausível, relator existente, ementa convincente, sua leitura cotidiana tende a deslizar para uma confirmação automática. Nesse deslize acumulam-se os incidentes que começarão a ganhar visibilidade nos próximos anos.
A pergunta que precisa ser feita é por que, em um ofício que sempre dependeu da integridade de citações, da exatidão referencial e da verificabilidade documental, a maioria dos escritórios ainda incorpora ferramentas que produzem texto sem qualquer compromisso com a verdade, e o faz sem repensar de modo estrutural seus processos de revisão.
A percepção intuitiva é insuficiente
A intuição mais comum é tratar a alucinação como falha pontual da tecnologia, algo que será resolvido com a próxima geração de modelos. Essa expectativa, embora compreensível, é tecnicamente equivocada. A alucinação não é defeito acidental. É consequência direta do modo como modelos generativos foram concebidos. Eles não operam sobre verdade. Operam sobre plausibilidade estatística. Sua função primária, do ponto de vista interno, é prever o próximo elemento textual mais provável dado um contexto. Quando essa previsão coincide com a realidade, há acerto. Quando não coincide, há alucinação. Em ambos os casos, o sistema está fazendo exatamente o que foi projetado para fazer.
Essa constatação tem uma consequência incômoda. Por mais que evoluam recursos de ancoragem, mecanismos de busca em tempo real, integração com bases verificáveis e estratégias de geração restrita, o risco residual permanece estruturalmente presente. Não é razoável esperar, em horizonte previsível, a chegada de um modelo que torne a conferência humana dispensável. Quem se planeja para isso constrói a operação sobre fundação que cederá.
A segunda camada invisível é a natureza polimórfica da alucinação. Ela não se apresenta apenas em referência jurisprudencial inventada, embora esse seja o caso mais comentado. Aparece também em doutrina mal atribuída, em redação de norma alterada que o modelo desconhece, em estatísticas fabricadas com aparência de pesquisa empírica e, no formato talvez mais traiçoeiro, em contextualizações sutis em que a informação existe mas é mobilizada de forma juridicamente imprópria. Esse último tipo é o que mais escapa à revisão apressada, porque exige discernimento técnico aprofundado para ser detectado.
Por que a profissão jurídica é especialmente exposta
Em outros setores, a alucinação é incômodo gerenciável. No Direito, é fator de risco com peso institucional desproporcional. Petições se assinam com responsabilidade profissional. Pareceres comprometem reputações. Aulas formam intelectualmente. Decisões judiciais constituem títulos. Cada uma dessas peças, quando contaminada por uma referência inventada, deixa de ser apenas um erro técnico. Converte-se em problema de credibilidade institucional, em fragilização da posição processual, em ruptura de confiança do cliente.
A advocacia brasileira convive com tribunais que começam a se posicionar sobre o tema. Casos públicos no exterior, e já alguns no Brasil, tornaram visível para o judiciário a possibilidade de jurisprudência inventada por sistemas de inteligência artificial. A consequência é que magistrados começam a desenvolver olhar treinado para esse tipo de inserção, com sanções correspondentes para quem é flagrado. O escritório que tratar o risco como menor descobrirá, em algum momento, que o ambiente externo evoluiu mais rapidamente do que sua governança interna.
Há ainda a dimensão regulatória. Códigos de ética profissional, exigências de boa-fé processual e disciplina dos órgãos representativos da advocacia colocam sobre o profissional a obrigação de verificação. O argumento de que a ferramenta gerou não absorve responsabilidade. Apenas a desloca para a esfera da negligência. E negligência, no exercício profissional do Direito, raramente resulta apenas em incômodo. Resulta em consequência reputacional, ética e, em casos extremos, financeira.
Riscos que se acumulam silenciosamente
O risco mais visível da alucinação é o incidente. A peça que sai com referência inventada, o parecer que cita doutrina inexistente, a aula que reproduz dado falso. Há, contudo, um risco anterior e mais corrosivo, que é a normalização da convivência com erros pequenos não detectados. Quando uma equipe trabalha com volume crescente de saídas de inteligência artificial e sua estrutura de revisão é insuficiente para o ritmo da produção, instala-se uma assimetria perigosa. Erros entram no produto final em volume maior do que o sistema de controle consegue capturar. A maior parte deles nunca será descoberta. Os que forem descobertos, quase sempre por terceiros, terão peso institucional ampliado.
Existe também o risco de erosão da postura crítica do profissional. Trabalhar continuamente com saídas que parecem bem formuladas tende, ao longo dos meses, a embotar o ceticismo natural que o jurista construiu em anos de formação. Esse embotamento não acontece em decisão consciente. Acontece como deslizamento sutil, percebido apenas quando já se consolidou em hábito. O escritório que não cultiva ativamente o ceticismo perde, ao longo do tempo, a capacidade técnica que era o alicerce do seu trabalho.
Um terceiro risco, mais sistêmico, é o reputacional. Em mercados sofisticados, a notícia de uma única peça com jurisprudência inventada circula rapidamente. Não se trata apenas do incidente individual. Trata-se da pergunta que ele suscita sobre como aquele escritório está estruturado para lidar com a tecnologia. Clientes corporativos exigentes, especialmente os submetidos a frameworks rigorosos de vendor management, monitoram esses sinais. Um único deslize basta para reposicionar a percepção que mantinham sobre a casa.
Há ainda um risco pedagógico subestimado nas instituições de ensino jurídico. Quando docentes incorporam saídas de inteligência artificial em materiais didáticos sem revisão proporcional, os alunos aprendem doutrina inventada como se fosse autoridade. O dano formativo não aparece imediatamente. Manifesta-se ao longo dos anos, em gerações de profissionais que carregam consigo referências erradas como se fossem patrimônio consolidado.
O que separa um uso amador de um uso institucional maduro
A diferença entre escritórios e instituições que conseguem operar com inteligência artificial sem incidentes graves e os que se expõem repetidamente costuma estar não na ferramenta, frequentemente é a mesma, mas na arquitetura de governança que cerca o uso. Há um conjunto identificável de elementos que distingue maturidade de improviso.
O primeiro elemento é a internalização cultural de que toda saída referencial precisa ser verificada antes de qualquer uso externo. Não como recomendação geral, mas como princípio operacional inviolável, sustentado por exemplos públicos discutidos pela liderança do escritório. A cultura é o que torna o cuidado automático.
O segundo elemento é a existência de fluxos de revisão proporcionais ao volume de produção. Não basta dizer que tudo passa por revisão. É preciso garantir tempo, atenção e qualificação técnica suficientes para que a revisão capture os erros sutis. Revisar uma peça em três minutos é cerimônia, não revisão.
O terceiro elemento é a curadoria deliberada do tipo de tarefa que se delega à inteligência artificial. Escritórios maduros aprendem rapidamente que algumas tarefas, particularmente as que envolvem citação referencial sem fonte fornecida, pertencem a uma categoria de alto risco que precisa ser tratada com regime próprio. Outras tarefas, em que o sistema opera sobre material fornecido pelo profissional, têm risco menor. A capacidade de fazer essa distinção, em vez de tratar tudo de modo uniforme, é sinal de maturidade.
O quarto elemento é a postura institucional diante do incidente. Quando algo dá errado, e em algum momento dará, o escritório maduro analisa o caso, ajusta o processo, comunica internamente sem punir desproporcionalmente o profissional envolvido e converte a experiência em aprendizagem coletiva. O escritório imaturo busca culpado, esconde o caso e mantém a operação inalterada, repetindo o erro em poucos meses.
Implicações competitivas e reputacionais
A maturidade no tratamento da alucinação está deixando de ser tema interno para se converter em elemento de reputação externa. Clientes corporativos sofisticados começam a perguntar, em diligências de contratação, qual é a política da banca sobre uso de inteligência artificial, como ela trata o risco de alucinação, como conduz a revisão das saídas geradas por sistemas automatizados. Escritórios capazes de articular respostas precisas e procedimentos verificáveis transmitem um sinal de seriedade técnica que pesa nas decisões de contratação.
Em sentido inverso, escritórios que respondem com generalidades transmitem fragilidade institucional. Não é necessário que o cliente tenha conhecimento técnico aprofundado para perceber a vagueza. Basta o contraste com outros provedores que oferecem narrativas consistentes sobre o tema. Em mercados em que diferenciais se tornam cada vez mais escassos, a maturidade na governança da inteligência artificial já se mostra como elemento de preferência.
Há ainda uma dimensão de longo prazo. À medida que regulamentações setoriais e profissionais avançam, no Brasil e nos países com os quais escritórios brasileiros se relacionam, exigências formais sobre tratamento de inteligência artificial tendem a se consolidar. Escritórios que terão a transição mais suave para esse novo ambiente são justamente os que se anteciparam à fase obrigatória, construindo capacidade institucional enquanto ainda era possível fazê-lo no ritmo próprio.
Reflexão final
Por que a alucinação em sistemas de inteligência artificial ainda é tratada como tema menor por boa parte da advocacia brasileira. Porque sua aparência de raridade engana. Incidentes ocorrem, mas frequentemente são silenciados ou nem mesmo percebidos. Porque a tentação de tratar a inteligência artificial como ferramenta neutra, equivalente a um buscador, reduz artificialmente a percepção de risco. Porque o custo da revisão profunda parece, no curto prazo, maior que o benefício imediato da entrega rápida. Porque há um descompasso entre a velocidade da adoção e a velocidade com que se constrói a cultura adequada para sustentar essa adoção.
O tempo está reposicionando esse cálculo. Os tribunais estão mais atentos. Os clientes corporativos estão mais exigentes. A imprensa especializada está mais informada. As próprias entidades de classe começam a discutir o tema com seriedade. O escritório que continuar a tratar a alucinação como detalhe menor estará, em poucos anos, em posição muito mais vulnerável do que percebe hoje. Aqueles que tiverem construído, ainda na fase atual, uma cultura institucional madura de convivência com esse risco terão um diferencial que será percebido nas escolhas concretas do mercado, nas bancas que continuam a ser contratadas para os mandatos mais sensíveis, nos profissionais que ganham reputação como referência técnica, nas instituições de ensino que consolidam credibilidade pública.
A alucinação não é apenas um tema técnico. É, no fundo, um teste de maturidade institucional. E os próximos anos tornarão essa avaliação cada vez mais explícita. O trabalho da NeuralLex e a atuação de Jamille Porto se inscrevem nessa fronteira, ajudando escritórios e instituições jurídicas brasileiras a construir, com tempo próprio e profundidade adequada, a arquitetura de revisão e governança que essa nova realidade exige.
