# Agentes de IA em sistemas jurídicos: possibilidades, limites e cuidados de governança
A palavra agente carrega, no contexto da inteligência artificial, uma sedução particular. Um agente não apenas responde quando consultado, mas age, executa sequências de tarefas, toma iniciativas, persegue objetivos com algum grau de autonomia. Essa capacidade de agir, e não apenas de responder, é o que distingue os agentes das aplicações mais simples de inteligência artificial, e é também o que os torna ao mesmo tempo promissores e perigosos no contexto jurídico. A promessa está na possibilidade de delegar a eles cadeias inteiras de trabalho. O perigo está exatamente na mesma possibilidade, porque delegar cadeias de trabalho a um sistema que age com autonomia é, no Direito, um ato que exige um cuidado que a sedução da autonomia tende a ofuscar.
A discussão sobre agentes costuma se concentrar na pergunta sobre o que eles conseguem fazer, e a resposta a essa pergunta avança rapidamente. Mas, como acontece com toda a automação jurídica, a pergunta sobre a capacidade técnica não é a pergunta que importa. O que importa é quanto de autonomia é responsável conceder a um agente em um contexto onde os erros têm consequências graves e onde a responsabilidade pelas decisões não pode ser transferida a um sistema. A capacidade de agir sozinho não é, por si só, uma virtude. Em muitos contextos jurídicos, é precisamente o que precisa ser contido, porque a ação autônoma sem supervisão é a forma como um agente propaga erros antes que alguém os perceba.
A tese deste texto é que o valor de um agente de inteligência artificial em um sistema jurídico não está no grau de autonomia que ele exerce, mas na qualidade da governança que define os limites dessa autonomia. Um agente bem governado, com autonomia delimitada e supervisão desenhada, agrega valor real. Um agente mal governado, com autonomia ampla e supervisão difusa, é um risco embutido na operação. A diferença entre os dois não está na sofisticação do agente, mas na arquitetura de controle que o cerca, e essa arquitetura é uma decisão de governança, não uma característica técnica do sistema.
A autonomia como espectro, não como interruptor
Um erro comum na discussão sobre agentes é tratar a autonomia como uma questão de tudo ou nada, como se o agente fosse autônomo ou não fosse. A autonomia, na verdade, é um espectro, e o ponto em que se decide operar dentro desse espectro é a decisão mais importante na concepção de um agente. Em uma extremidade, o agente apenas sugere, e cada ação depende de aprovação humana explícita. Em outra, o agente executa cadeias inteiras de ações sem intervenção, reportando apenas o resultado. Entre essas extremidades há muitos pontos intermediários, e a escolha do ponto adequado depende inteiramente da natureza da tarefa e da gravidade das consequências do erro.
Para tarefas de baixo risco, em que o erro é facilmente reversível e de pequena consequência, faz sentido conceder ao agente um grau maior de autonomia, porque o custo de supervisionar cada ação superaria o benefício, e o risco do erro é tolerável. Para tarefas de alto risco, em que o erro afeta direitos, compromete prazos ou produz consequências difíceis de reverter, a autonomia precisa ser contida, e a supervisão humana precisa estar presente nos pontos críticos. A calibragem da autonomia conforme o risco da tarefa é o que distingue um uso maduro de agentes de um uso imprudente. Conceder autonomia uniforme a todas as tarefas, sem distinguir seu risco, é o erro que produz tanto a ineficiência de supervisionar o que não precisa de supervisão quanto o perigo de deixar sem supervisão o que exigiria controle.
Essa calibragem não é uma decisão técnica, mas uma decisão de governança, porque envolve avaliar riscos, ponderar consequências e definir onde a responsabilidade humana precisa permanecer presente. Ela exige conhecer não apenas o que o agente é capaz de fazer, mas o que cada tarefa significa no contexto jurídico, que consequências seu erro produziria e que nível de supervisão essas consequências justificam. Por isso, a definição da autonomia de um agente não pode ser deixada a quem o constrói tecnicamente, sem a participação de quem compreende o significado jurídico das tarefas. A autonomia adequada resulta do encontro entre a compreensão técnica do agente e a compreensão jurídica do risco, e ignorar qualquer uma das duas produz uma calibragem perigosa.
A base de conhecimento como o verdadeiro determinante
Há um aspecto dos agentes que recebe menos atenção do que a autonomia, embora seja igualmente determinante, que é a base de conhecimento sobre a qual o agente opera. Um agente age a partir do que conhece, e o que ele conhece define a qualidade e a segurança das suas ações. Um agente que opera sobre uma base de conhecimento confiável, atualizada e adequada ao contexto do escritório age com mais segurança. Um agente que opera sobre uma base genérica, desatualizada ou inadequada age com a mesma confiança aparente, mas produz resultados não confiáveis, porque suas ações se apoiam em um conhecimento que não corresponde à realidade em que ele opera. A base de conhecimento é, em muitos sentidos, mais determinante que a autonomia, porque define a qualidade daquilo que o agente faz, seja qual for o grau de autonomia que exerce.
A construção e a manutenção dessa base de conhecimento são, portanto, parte central da governança de agentes. Não basta definir o que o agente pode fazer e com que autonomia. É preciso definir sobre que conhecimento ele opera, garantir que esse conhecimento seja confiável e mantê-lo atualizado à medida que a realidade muda. Uma base de conhecimento desatualizada transforma um agente confiável em uma fonte de erro, porque ele passa a agir com confiança sobre informações que deixaram de ser corretas. Em um campo como o Direito, em que normas, entendimentos e contextos mudam continuamente, a manutenção da base de conhecimento não é uma tarefa pontual, mas um processo permanente, e negligenciá-la é deixar o agente operar sobre um chão que se move sem que ele perceba.
Esse aspecto revela que a governança de agentes não se esgota na definição da autonomia, mas envolve a curadoria contínua do conhecimento sobre o qual eles operam. Um escritório que delega tarefas a agentes sem cuidar da base de conhecimento que os alimenta está construindo um risco que se agrava com o tempo, à medida que a base envelhece e o agente continua agindo sobre ela com a mesma confiança. A curadoria da base de conhecimento é, nesse sentido, uma responsabilidade permanente que acompanha o uso de agentes, e é tão importante quanto a definição da sua autonomia, embora receba muito menos atenção. A qualidade de um agente é, em boa medida, a qualidade do conhecimento que ele carrega, e essa qualidade precisa ser mantida deliberadamente.
Supervisão e o risco de decisões sem controle
O cuidado de governança mais importante no uso de agentes é a supervisão, e a razão é a característica que torna os agentes ao mesmo tempo poderosos e perigosos. Um agente age em cadeia, executando uma sequência de ações em que cada uma se apoia na anterior. Quando um erro ocorre no início da cadeia, ele se propaga por todas as ações seguintes, que se constroem sobre a base errada. Sem supervisão posicionada nos pontos certos, esse erro encadeado pode percorrer toda a sequência antes de ser percebido, produzindo um resultado em que o erro inicial se multiplicou em consequências que extrapolam, e em larga escala, o ponto onde ele começou. A supervisão é o que interrompe essa propagação, ao verificar pontos críticos antes que a cadeia avance sobre uma base errada.
O desenho da supervisão precisa reconhecer que ela não pode estar em todos os pontos, sob pena de eliminar o benefício do agente, nem ausente, sob pena de deixar a cadeia sem controle. A supervisão eficaz é seletiva, posicionada nos pontos em que o erro seria mais grave ou mais difícil de reverter, e nos pontos em que uma verificação humana captura o erro antes que ele se propague. Identificar esses pontos exige compreender a cadeia de ações do agente e os riscos de cada etapa, o que é, novamente, uma decisão de governança que combina a compreensão técnica do agente com a compreensão jurídica das consequências. Uma supervisão mal posicionada, que verifica o irrelevante e ignora o crítico, oferece a aparência de controle sem a substância, deixando o risco real sem cobertura.
O risco de decisões sem controle é a forma mais grave de falha na governança de agentes. Quando um agente toma, dentro de sua cadeia de ações, decisões que deveriam exigir julgamento humano, e o faz sem supervisão, o escritório perde o controle sobre decisões que são de sua responsabilidade. Essa perda de controle não é teórica. Ela se manifesta quando uma consequência indesejada aparece e se descobre que ela decorreu de uma decisão que o agente tomou sozinho, sem que ninguém a tivesse autorizado ou revisado. A responsabilidade por essa decisão permanece humana, mas o controle sobre ela foi perdido, e essa combinação, responsabilidade sem controle, é a pior posição em que um escritório pode se colocar. A governança de agentes existe, fundamentalmente, para evitar essa combinação, garantindo que o controle acompanhe a responsabilidade em todas as decisões que importam.
Conclusão
Os agentes de inteligência artificial trazem ao contexto jurídico uma capacidade nova, a de agir em cadeia com algum grau de autonomia, e essa capacidade é ao mesmo tempo a sua promessa e o seu perigo. A pergunta decisiva não é o quanto um agente consegue fazer sozinho, mas o quanto é responsável deixá-lo fazer, e a resposta depende da governança que define os limites da sua autonomia. A autonomia não é um interruptor, mas um espectro, e calibrá-la conforme o risco de cada tarefa é a decisão mais importante na concepção de um agente, uma decisão de governança que exige unir a compreensão técnica do agente à compreensão jurídica das consequências.
A governança de agentes não se esgota na autonomia. Ela envolve a curadoria contínua da base de conhecimento sobre a qual o agente opera, porque a qualidade das suas ações é, em boa medida, a qualidade do conhecimento que ele carrega, e esse conhecimento precisa ser mantido atualizado em um campo que muda continuamente. E envolve, sobretudo, a supervisão, posicionada seletivamente nos pontos críticos para interromper a propagação de erros encadeados e para evitar a pior posição possível, a de responsabilidade sem controle. O valor de um agente não está no grau de autonomia que ele exerce, mas na qualidade da arquitetura de controle que o cerca, e essa arquitetura é uma decisão de governança, não uma característica técnica.
A NeuralLex e o trabalho de Jamille Porto se voltam exatamente para essa fronteira, ajudando escritórios e organizações jurídicas a incorporar agentes de inteligência artificial dentro de uma arquitetura de governança que delimita autonomia, cuida da base de conhecimento e posiciona a supervisão onde a responsabilidade exige controle.
A NeuralLex, sob responsabilidade técnica de Jamille Porto, desenvolve formações, diretrizes e soluções para organizações jurídicas que precisam incorporar Inteligência Artificial com método, governança, segurança e responsabilidade profissional.
