# Inteligência artificial jurídica não é um buscador: o que muda na forma de usar
Muitos profissionais do Direito começaram a usar ferramentas de inteligência artificial tratando-as como se fossem buscadores mais sofisticados. Fazem uma pergunta, recebem uma resposta, e a tratam como tratariam o resultado de uma pesquisa: como uma informação recuperada de algum lugar, presumivelmente confiável porque veio de uma fonte. Esse modelo mental, importado da experiência com buscadores, é a origem de boa parte dos erros graves no uso da tecnologia no Direito, incluindo os casos de citação de decisões inexistentes que ganharam notoriedade. A inteligência artificial generativa não é um buscador, e usá-la como se fosse leva a confiar nela de uma forma que a sua natureza não justifica.
A diferença é fundamental e precisa ser compreendida com precisão. Um buscador recupera informação que existe em algum lugar e a apresenta, com a sua fonte, para que o usuário a verifique. A inteligência artificial generativa não recupera informação; ela gera texto, construindo uma resposta plausível com base em padrões, sem que essa resposta corresponda necessariamente a uma fonte real. As duas operações produzem respostas a perguntas, mas a natureza dessas respostas é completamente diferente, e essa diferença muda tudo na forma como o usuário deve tratá-las. Tratar a geração de texto como se fosse recuperação de informação é a confusão que leva a confiar no que não deveria ser confiado.
A tese deste texto é que a inteligência artificial generativa gera texto plausível em vez de recuperar informação verificada, e que compreender essa diferença é a condição para usá-la de forma segura no Direito. Quem entende que está diante de um gerador de texto, e não de um buscador, adota a postura de verificação que a tecnologia exige; quem a confunde com um buscador confia em respostas que podem ser plausíveis e falsas ao mesmo tempo.
A diferença entre recuperar e gerar
Um buscador funciona recuperando conteúdo que existe. Quando se pesquisa por uma informação, o buscador localiza páginas que a contêm e as apresenta, identificando a fonte. A confiabilidade do resultado depende da fonte, que o usuário pode avaliar, e o conteúdo recuperado existe de fato em algum lugar, podendo ser verificado. O buscador é, nesse sentido, um intermediário entre o usuário e a informação existente, e o seu resultado aponta para uma fonte real, ainda que essa fonte possa estar errada. A relação entre a resposta e a realidade é direta: a resposta é um conteúdo que existe, recuperado de onde existe.
A inteligência artificial generativa funciona de outra forma. Ela não localiza e recupera conteúdo existente; ela gera texto novo, construindo uma sequência de palavras que é estatisticamente provável dado o que foi perguntado. Esse texto é construído para ser plausível, para parecer uma boa resposta, mas a sua plausibilidade não garante a sua correspondência com a realidade. A ferramenta pode gerar uma resposta que soa perfeitamente correta, com a aparência de uma informação recuperada de uma fonte, sem que exista nenhuma fonte e sem que a informação seja verdadeira. A relação entre a resposta e a realidade não é direta; é mediada pela plausibilidade, que pode coincidir com a verdade ou não.
Essa diferença explica o fenômeno das chamadas alucinações, em que a ferramenta gera informações falsas com total aparência de verdade. Do ponto de vista da geração de texto, uma decisão judicial inexistente, com número, tribunal e ementa plausíveis, não é um erro do sistema; é exatamente o que a geração de texto faz, produzir uma sequência plausível. O sistema não distingue entre o plausível verdadeiro e o plausível falso, porque ele não recupera verdade, gera plausibilidade. Quem usa a ferramenta como buscador espera verdade recuperada e recebe plausibilidade gerada, e quando a plausibilidade não coincide com a verdade, o usuário é levado ao erro, porque confiou em uma resposta que parecia recuperada e era gerada.
O que muda na postura do usuário
Compreender que a inteligência artificial gera texto em vez de recuperar informação muda a postura do usuário em um ponto central: a verificação deixa de ser opcional e se torna constante. Com um buscador, o usuário pode confiar no conteúdo recuperado depois de avaliar a fonte, porque o conteúdo existe e a fonte é identificável. Com a inteligência artificial generativa, o usuário não pode confiar na resposta sem verificá-la, porque a resposta não aponta para uma fonte real e a sua plausibilidade não garante a sua verdade. Toda afirmação factual gerada pela ferramenta, especialmente referências a normas, decisões e dados, precisa ser verificada em uma fonte real antes de ser usada, porque a ferramenta pode tê-la gerado sem que ela exista.
Essa postura de verificação constante não é uma desconfiança excessiva; é a postura adequada à natureza da ferramenta. Quem verifica as afirmações factuais da inteligência artificial não está sendo paranoico, está usando a ferramenta como ela deve ser usada, dado que ela gera plausibilidade e não recupera verdade. A verificação é a forma de separar o plausível verdadeiro do plausível falso, que a ferramenta não distingue. Sem ela, o usuário aceita a plausibilidade como verdade, e fica exposto a usar informações falsas que pareciam verdadeiras. A verificação é, portanto, parte integrante do uso correto da tecnologia, não um cuidado adicional opcional.
Compreender a natureza geradora da ferramenta muda também o que se espera dela. Em vez de esperar uma fonte de verdade, espera-se um instrumento que produz texto a partir do qual o profissional trabalha, aplicando o seu julgamento e a sua verificação. A ferramenta é útil para gerar versões preliminares, organizar raciocínios, sugerir estruturas, explorar abordagens, e nessas funções o seu caráter gerador é exatamente o que a torna valiosa. O erro não está em usar a ferramenta, está em confundir o que ela faz, esperando verdade recuperada de um instrumento que gera plausibilidade. Usada com a compreensão correta da sua natureza, ela é valiosa; usada como buscador, ela é perigosa.
Por que a confusão é tão comum e tão perigosa no Direito
A confusão entre gerar e recuperar é comum porque a interface das ferramentas de inteligência artificial se parece com a de um buscador, e porque as respostas têm a aparência de informação recuperada. O usuário faz uma pergunta e recebe uma resposta em linguagem natural, com a fluência e a segurança de quem apresenta um fato. Nada na forma da resposta sinaliza que ela foi gerada e não recuperada; ao contrário, a sua fluência e segurança sugerem confiabilidade. Essa aparência induz o modelo mental do buscador, e o usuário, sem uma compreensão explícita da diferença, naturalmente trata a resposta gerada como se fosse recuperada. A confusão é, em parte, induzida pela própria forma como a tecnologia se apresenta.
No Direito, essa confusão é especialmente perigosa, porque as consequências de usar informação falsa são graves. Um profissional que cita uma decisão inexistente em uma peça, que fundamenta um argumento em uma norma que não existe, que aconselha com base em uma informação falsa, compromete o seu trabalho, a sua credibilidade e os interesses de quem ele representa. Os casos de advogados sancionados por apresentarem em juízo decisões inventadas pela inteligência artificial ilustram o custo concreto da confusão, e esses casos não são falhas da tecnologia, mas do uso que a tratou como buscador. A gravidade das consequências, no Direito, torna a compreensão da natureza da ferramenta não um refinamento, mas uma necessidade profissional.
Essa gravidade impõe ao profissional do Direito uma responsabilidade sobre a forma como usa a tecnologia. Não basta usá-la; é preciso usá-la com a compreensão da sua natureza, adotando a verificação que ela exige. Essa responsabilidade não pode ser transferida para a ferramenta, porque a ferramenta gera plausibilidade e não responde pela verdade; ela permanece com o profissional, que responde pelo que apresenta. Compreender que a inteligência artificial não é um buscador é, nesse sentido, parte da responsabilidade profissional no uso da tecnologia, e o profissional que não a compreende usa a ferramenta de forma incompatível com a diligência que a sua atividade exige.
Conclusão
A inteligência artificial jurídica não é um buscador, e usá-la como se fosse é a origem dos erros mais graves no uso da tecnologia no Direito. Um buscador recupera informação que existe, apontando para uma fonte verificável; a inteligência artificial generativa gera texto plausível, construindo respostas que parecem informação recuperada sem necessariamente corresponder a uma fonte real. Essa diferença explica as alucinações, em que a ferramenta produz informações falsas com aparência de verdade, e ela muda completamente a forma como o usuário deve tratar as respostas.
A consequência prática para o profissional do Direito é adotar a postura que a natureza geradora da ferramenta exige: a verificação constante de toda afirmação factual, especialmente as referências a normas e decisões, em fontes reais, antes de usá-las. Essa verificação não é desconfiança excessiva, é o uso correto de um instrumento que gera plausibilidade e não recupera verdade. A ferramenta é valiosa quando usada com a compreensão da sua natureza, para gerar texto a partir do qual o profissional trabalha com o seu julgamento; é perigosa quando confundida com um buscador, do qual se espera verdade. No Direito, onde as consequências da informação falsa são graves, compreender essa diferença é parte da responsabilidade profissional, e não um detalhe técnico.
A NeuralLex e o trabalho de Jamille Porto se voltam exatamente para esse uso consciente da tecnologia, ajudando profissionais e organizações jurídicas a compreender a natureza das ferramentas de inteligência artificial e a construir as práticas de verificação que tornam o seu uso seguro e compatível com a responsabilidade da atividade jurídica.
A NeuralLex, sob responsabilidade técnica de Jamille Porto, desenvolve formações, diretrizes e soluções para organizações jurídicas que precisam incorporar Inteligência Artificial com método, governança, segurança e responsabilidade profissional.
