# Os limites éticos da inteligência artificial no Direito: onde a responsabilidade profissional permanece intransferível
A discussão sobre o que a inteligência artificial é capaz de fazer no Direito avança a cada mês, e a resposta é cada vez mais ampla. Mas essa pergunta, por mais legítima que seja, não é a pergunta ética. A pergunta ética não é o que a tecnologia consegue fazer, mas o que é legítimo deixá-la fazer, e essas duas perguntas têm respostas que não coincidem. Há tarefas que a inteligência artificial executa com competência técnica e que, ainda assim, não deveriam sair das mãos do profissional, porque envolvem uma responsabilidade que não se transfere. Confundir a capacidade técnica com a permissão ética é o erro que está na raiz dos usos mais problemáticos da tecnologia no Direito.
A ética profissional do Direito foi construída em torno de uma figura: a do profissional como agente qualificado e responsável. Quem decide, quem aconselha, quem peticiona, quem assina, responde pelo que faz, com a sua competência e com as consequências que a sua atuação produz. Essa responsabilidade não é um acessório da atividade, é a sua essência, porque é ela que distingue a decisão profissional da mera execução de uma tarefa. E é exatamente essa responsabilidade que a inteligência artificial não pode assumir, por mais sofisticada que se torne, porque ela não é um agente capaz de responder no sentido que a ética profissional exige.
A tese deste texto é que existe uma fronteira ética no uso da inteligência artificial no Direito, e que essa fronteira separa o que a tecnologia pode apoiar daquilo em que a responsabilidade profissional permanece intransferível. Mapear essa fronteira, e compreender por que ela não pode ser cruzada, é a condição para usar a tecnologia de forma compatível com a ética da profissão.
A diferença entre capacidade técnica e legitimidade ética
A primeira distinção a estabelecer é entre o que a tecnologia consegue fazer e o que é legítimo deixá-la fazer. A inteligência artificial pode redigir um texto jurídico, sugerir uma estratégia, recomendar um caminho. A capacidade técnica de produzir esses resultados existe e cresce. Mas a existência da capacidade técnica não responde à pergunta ética, que é outra: ainda que a tecnologia consiga produzir o resultado, é legítimo que ela o produza sem que um profissional exerça sobre ele o julgamento e a responsabilidade que a atividade exige? A resposta a essa pergunta não depende do que a máquina consegue fazer, mas do que a ética profissional permite delegar.
Essa distinção é fundamental porque o avanço da capacidade técnica tende a obscurecê-la. À medida que a tecnologia produz resultados cada vez melhores, cresce a tentação de concluir que, se ela faz bem, pode fazer. Essa conclusão confunde a qualidade técnica com a legitimidade ética. Um resultado tecnicamente bom, produzido sem o julgamento profissional que a ética exige, continua sendo eticamente problemático, porque a ética não se satisfaz com a qualidade do resultado; ela exige que a responsabilidade pelo resultado seja exercida por quem tem competência para respondê-la. A capacidade técnica da máquina não supre essa exigência, por melhor que seja o resultado.
É por isso que a fronteira ética não acompanha a fronteira técnica. À medida que a tecnologia se torna mais capaz, a fronteira técnica avança, mas a fronteira ética permanece onde sempre esteve: no ponto em que a atividade exige julgamento e responsabilidade profissional. A confusão entre as duas fronteiras leva a delegar à máquina, à medida que ela se torna mais capaz, atividades que a ética sempre reservou ao profissional, e essa delegação não se torna legítima só porque a máquina ficou melhor em executá-la.
A responsabilidade que não tem onde se fixar na máquina
A razão pela qual a responsabilidade profissional não se transfere para a inteligência artificial está na natureza da própria responsabilidade. Responder por uma decisão significa estar vinculado a ela como agente qualificado, capaz de justificá-la, de assumir suas consequências e de ser responsabilizado por ela. Esse vínculo pressupõe um agente que tem qualificação, ética e capacidade de resposta, atributos que a inteligência artificial não possui. A máquina produz resultados, mas não os justifica como um profissional justifica, não assume consequências como um profissional assume, não pode ser responsabilizada como um profissional é. A responsabilidade, portanto, não tem onde se fixar na máquina, e permanece, necessariamente, com o profissional que a utiliza.
Essa permanência tem uma consequência que precisa ser compreendida com clareza. O profissional que delega à máquina uma decisão que exigiria o seu julgamento não transfere a responsabilidade, porque a responsabilidade não tem como ser transferida. O que ele faz é decidir mal, porque assume uma decisão que não examinou, produzida por um sistema que não responde por ela. A responsabilidade permanece com o profissional, mas o controle sobre a decisão foi entregue à máquina, e essa combinação, responsabilidade sem controle, é a pior posição ética possível, porque o profissional responde por uma decisão que não tomou e que pode estar errada sem que ele tenha percebido.
A intransferibilidade da responsabilidade é, assim, a chave da fronteira ética. Tudo aquilo que envolve uma decisão pela qual o profissional responde permanece do lado de cá da fronteira, sob a sua responsabilidade, ainda que a tecnologia o apoie. Tudo aquilo que é mera execução mecânica, sem decisão nem responsabilidade, pode ser delegado à máquina com segurança. A fronteira ética coincide, portanto, com a fronteira da responsabilidade: onde há responsabilidade profissional, há limite à delegação; onde não há, a delegação é legítima.
Onde a fronteira passa, na prática
Traçar a fronteira ética na prática exige distinguir, em cada atividade, o componente de execução do componente de decisão. A inteligência artificial pode apoiar a execução: organizar informações, gerar versões preliminares, levantar materiais, processar grande volume de dados. Nessas funções, ela amplia a capacidade do profissional sem cruzar a fronteira ética, porque a execução mecânica não envolve a responsabilidade que a ética reserva. O profissional permanece responsável pelo resultado, mas a tecnologia o ajudou a produzi-lo, e essa ajuda é legítima, desde que o profissional exerça sobre o resultado o julgamento que a sua responsabilidade exige.
A fronteira é cruzada quando a tecnologia passa da execução para a decisão. Quando a máquina não apenas apoia, mas decide; quando o profissional não examina o resultado, mas o adota; quando a recomendação da tecnologia se torna a decisão sem o julgamento do profissional. Nesse ponto, a delegação deixa de ser legítima, porque transfere para a máquina uma decisão que envolve responsabilidade, e a responsabilidade não se delega. O sigilo profissional, o aconselhamento, a estratégia, a decisão sobre o caso concreto, tudo isso está do lado de cá da fronteira, e a tecnologia pode subsidiar essas operações, mas não substituí-las sem que o profissional cruze um limite ético.
O que torna essa fronteira delicada é que ela é fácil de cruzar sem perceber. A delegação à máquina acontece de forma gradual: começa com o apoio à execução, avança com a aceitação de resultados sem exame profundo, completa-se com a adoção da recomendação como decisão. Em nenhum momento há uma escolha consciente de cruzar a fronteira; ela é atravessada por deslizamento, sob a pressão do tempo e da conveniência. Por isso, manter-se do lado ético da fronteira exige vigilância, a consciência permanente de que a responsabilidade permanece e de que a delegação da execução não pode se converter em delegação da decisão.
Conclusão
A pergunta ética sobre a inteligência artificial no Direito não é o que a tecnologia consegue fazer, mas o que é legítimo deixá-la fazer, e essas perguntas têm respostas distintas porque a fronteira ética não acompanha a fronteira técnica. A capacidade da máquina avança; a responsabilidade profissional permanece onde sempre esteve, vinculada ao profissional como agente qualificado, sem onde se fixar na tecnologia. Essa intransferibilidade da responsabilidade é a chave da fronteira: onde há decisão pela qual o profissional responde, há limite à delegação; onde há mera execução, a delegação é legítima.
A consequência prática para quem usa a inteligência artificial no Direito é manter a vigilância sobre essa fronteira, que é fácil de cruzar por deslizamento. A tecnologia pode apoiar a execução e subsidiar a decisão, mas a decisão e a responsabilidade permanecem com o profissional, e tratá-las como delegáveis não as transfere, apenas coloca o profissional na posição de responder por aquilo que não controlou. Usar a inteligência artificial de forma eticamente íntegra não significa recusá-la, mas reconhecer que ela tem um limite, e que esse limite é o ponto onde a responsabilidade profissional, que não se transfere, exige que o julgamento permaneça humano.
A NeuralLex e o trabalho de Jamille Porto se voltam exatamente para essa fronteira, ajudando profissionais e organizações jurídicas a usar a inteligência artificial dentro dos limites éticos da profissão, preservando o julgamento e a responsabilidade que não se transferem para a tecnologia.
A NeuralLex, sob responsabilidade técnica de Jamille Porto, desenvolve formações, diretrizes e soluções para organizações jurídicas que precisam incorporar Inteligência Artificial com método, governança, segurança e responsabilidade profissional.
