# Governança de inteligência artificial não se faz com política, se faz com sistema
Quando uma organização decide tratar a governança da inteligência artificial, o primeiro impulso costuma ser produzir um documento. Uma política de uso, um código de conduta, um conjunto de diretrizes que estabelece o que pode e o que não pode. Esse documento é apresentado como a governança da organização, e a sua aprovação é tratada como o cumprimento da tarefa. O problema é que um documento, por melhor que seja escrito, não governa nada por si só. A governança não está no texto que descreve as regras, mas no sistema que faz essas regras operarem na prática, e a confusão entre o documento e o sistema é a razão pela qual tantas organizações têm políticas de governança e, ainda assim, não têm governança.
A diferença entre ter uma política e ter governança é a diferença entre descrever uma intenção e fazer com que ela aconteça. Uma política descreve como a organização pretende que a inteligência artificial seja usada. A governança é o conjunto de mecanismos que faz com que o uso efetivamente corresponda a essa intenção: os papéis definidos, os processos que incorporam as regras, os pontos de verificação, a documentação que registra, a estrutura que monitora e corrige. Sem esses mecanismos, a política é uma declaração que descreve um estado de coisas que não existe, e a organização opera, na prática, sem governança, ainda que tenha um documento que afirma o contrário.
A tese deste texto é que a governança de inteligência artificial é um sistema operante, e não um documento, e que tratá-la como documento produz a aparência de governança sem a sua substância. Compreender essa diferença é a condição para construir uma governança que de fato governe, em vez de uma que apenas descreva o que a organização gostaria que acontecesse.
Por que o documento não governa
Um documento de política estabelece regras, mas as regras não se aplicam sozinhas. Entre a regra escrita e a conduta real existe uma distância que só os mecanismos de governança preenchem. A regra que diz que certos dados não podem ser submetidos a uma ferramenta de inteligência artificial só governa se houver algo que faça com que essa regra seja conhecida, seguida e verificada. Se a regra existe no documento mas ninguém a conhece, ou ninguém a verifica, ou nada acontece quando ela é descumprida, então a regra não governa; ela apenas existe no papel, enquanto o uso real acontece à parte dela. O documento, sozinho, não atravessa a distância entre a regra e a conduta.
Essa distância é frequentemente invisível para quem produz a política, porque o documento dá a sensação de que a tarefa foi cumprida. A organização que aprova uma política de uso de inteligência artificial sente que governou o uso, quando na verdade apenas o descreveu. Essa sensação é perigosa, porque ela encerra o esforço justamente onde ele deveria começar. A política deveria ser o ponto de partida da construção do sistema que a faz operar; tratada como o ponto de chegada, ela se torna um documento arquivado, que descreve uma governança que a organização acredita ter e não tem.
A consequência dessa ilusão aparece quando a governança é testada. Em um incidente, em uma auditoria, em uma diligência, a organização descobre que a distância entre a política e a prática era grande, que as regras escritas não correspondiam às condutas reais, que a governança que ela acreditava ter era apenas um documento. Essa descoberta é mais grave do que a simples ausência de política, porque a organização não apenas estava sem governança, estava convencida de que tinha governança, e essa convicção a impediu de construir o sistema que de fato governaria. O documento, ao produzir a aparência de governança, atrasou a construção da governança real.
O que compõe o sistema de governança
A governança como sistema é composta por mecanismos que fazem as regras operarem na prática. O primeiro é a definição de papéis e responsabilidades. Governança exige que se saiba quem responde pelo quê: quem decide sobre o uso da tecnologia, quem supervisiona, quem verifica, quem responde quando algo dá errado. Sem papéis definidos, as regras não têm quem as faça acontecer, e a responsabilidade se dilui a ponto de ninguém respondê-la. A definição de papéis é o que transforma a regra abstrata em obrigação concreta de pessoas específicas, e essa concretização é uma condição para que a regra governe.
O segundo conjunto de mecanismos é a incorporação das regras aos processos. Uma regra governa de verdade quando está embutida na forma de trabalhar, de modo que segui-la seja parte do processo e descumpri-la exija sair dele. Quando a regra depende de cada pessoa lembrar dela e decidir aplicá-la, ela é frágil; quando está incorporada ao processo, ela opera com a consistência do próprio processo. Incorporar a governança aos processos significa desenhar o trabalho de modo que os pontos de verificação, as revisões obrigatórias, os registros necessários façam parte do fluxo, e não sejam adições que dependem da disciplina individual. Essa incorporação é o que faz a regra operar sem depender da memória de cada um.
O terceiro conjunto de mecanismos é o do monitoramento, da documentação e da correção. Um sistema de governança não apenas estabelece regras e as incorpora aos processos; ele acompanha se o que está acontecendo corresponde ao que deveria, registra o que ocorre, e corrige os desvios. Esse acompanhamento é o que mantém a governança viva, porque sem ele a distância entre a regra e a prática volta a crescer com o tempo, à medida que as condutas se afastam das regras sem que ninguém perceba. O monitoramento e a correção são o mecanismo de manutenção da governança, que a impede de se degradar de sistema operante a documento esquecido.
A governança como construção contínua
Compreender a governança como sistema implica compreendê-la como uma construção contínua, e não como um documento que se aprova uma vez. O sistema de governança precisa ser construído, mantido, ajustado à medida que a tecnologia e o uso evoluem. As regras que faziam sentido para um uso da inteligência artificial podem não servir para outro; os mecanismos que funcionavam para uma escala podem não funcionar para outra. A governança que governa é a que acompanha essa evolução, ajustando as regras e os mecanismos conforme o contexto muda. Um documento estático não faz isso; um sistema vivo, sim.
Essa natureza contínua tem uma implicação sobre como a organização deve tratar a governança. Em vez de um projeto com início e fim, que se encerra com a aprovação de uma política, a governança é uma função permanente, que precisa de estrutura e atenção continuadas. A organização que trata a governança como um projeto pontual constrói um documento e o abandona; a que a trata como função permanente mantém o sistema operando, monitorando, corrigindo, ajustando. A diferença entre as duas aparece com o tempo: a primeira tem uma política cada vez mais distante da prática; a segunda tem uma governança que permanece alinhada com o uso real porque é mantida.
É por isso que a construção da governança exige mais que conhecimento jurídico sobre o que as regras devem dizer. Exige a capacidade de traduzir as regras em mecanismos, de incorporá-las aos processos, de desenhar o monitoramento e a correção, de manter o sistema operando ao longo do tempo. É um trabalho que combina o jurídico com o organizacional e o operacional, porque a governança opera na interseção entre a regra, o processo e a tecnologia. Organizações que tratam a governança apenas como uma questão de redigir o documento certo subestimam essa complexidade, e produzem políticas que não governam. As que compreendem a governança como sistema investem na construção dos mecanismos, e constroem uma governança que de fato governa.
Conclusão
A governança de inteligência artificial não se faz com política, se faz com sistema. Um documento de política descreve como a organização pretende que a tecnologia seja usada, mas não governa por si só, porque entre a regra escrita e a conduta real existe uma distância que só os mecanismos de governança preenchem: os papéis definidos, as regras incorporadas aos processos, o monitoramento, a documentação, a correção. Sem esses mecanismos, a política é uma declaração que descreve uma governança que não existe, e a organização opera sem governança enquanto acredita tê-la.
A consequência prática é tratar a governança como uma construção contínua de um sistema operante, e não como a aprovação de um documento. Definir papéis, incorporar as regras aos processos, monitorar, documentar, corrigir e manter o sistema ajustado à evolução da tecnologia e do uso. Esse trabalho é mais difícil que redigir uma política, porque exige construir e manter mecanismos, mas é o único que produz uma governança real. A política é necessária, como ponto de partida, mas confundi-la com a governança é parar onde o esforço deveria começar. A governança que governa não está no texto que descreve as regras, está no sistema que faz as regras acontecerem.
A NeuralLex e o trabalho de Jamille Porto se voltam exatamente para essa construção, apoiando organizações a transformar políticas de governança de inteligência artificial em sistemas operantes, com os mecanismos, os processos e a estrutura que fazem as regras governarem de fato o uso da tecnologia.
A NeuralLex, sob responsabilidade técnica de Jamille Porto, desenvolve formações, diretrizes e soluções para organizações jurídicas que precisam incorporar Inteligência Artificial com método, governança, segurança e responsabilidade profissional.
