Justiça sob comando oculto: quem está decidindo sobre a nossa liberdade?

Por Marcelo Aith* — Uma instrução escondida em uma petição pode tentar interferir na maneira como a inteligência artificial apresenta um processo ao juiz. Reportagem do Fantástico exibida em 1º de novembro expôs essa prática, com comandos dissimulados em documentos para favorecer argumentos e direcionar respostas de ferramentas utilizadas pelo Judiciário.

O problema ultrapassa a conduta de quem apresenta uma peça adulterada: se uma informação invisível ao leitor pode influenciar a análise automatizada, quais garantias protegem a pessoa cujo patrimônio, reputação ou liberdade dependem dessa análise?

De início, cumpre esclarecer que a identificação de uma tentativa de manipulação não comprova que uma decisão tenha sido efetivamente alterada. Essa distinção é indispensável para um debate responsável. Ainda assim, o risco merece atenção antes que produza uma injustiça irreparável, sobretudo quando a tecnologia passa a intermediar o contato do magistrado com os fatos, as provas e as razões apresentadas pelas partes.

A técnica conhecida como prompt injection, ou injeção de comandos, procura fazer com que o sistema trate um conteúdo recebido para análise como uma instrução a ser obedecida. No ambiente judicial, a distorção é especialmente grave: um documento que deveria ser examinado criticamente tenta ditar os critérios de seu próprio exame. O argumento submetido ao contraditório cede espaço a uma orientação clandestina, cuja existência a parte contrária pode sequer perceber.

No processo penal, essa possibilidade exige cautela redobrada. Imagine-se um resumo automatizado que destaque os elementos incriminadores, reduza as contradições dos depoimentos e omita uma circunstância favorável ao acusado. Ainda que o juiz conserve formalmente a palavra final, poderá iniciar a leitura sob uma perspectiva já deformada. A interferência não precisa escrever a condenação: pode começar pela escolha do que merece ser visto e do que será tratado como irrelevante.

Insta asseverar que a aparência organizada de uma resposta não assegura a correção de seu conteúdo. O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos, o NIST, reconhece que sistemas generativos podem apresentar informações falsas com segurança aparente e produzir justificativas ou referências igualmente incorretas. Transportado para o processo penal, esse risco permite compreender como uma narrativa convincente pode atribuir consistência a uma acusação que as provas não sustentam.

E o que garante que essas ferramentas não reforcem vieses de confirmação? A pergunta é pertinente, desde que formulada com precisão: a máquina não precisa ter convicções pessoais para produzir respostas que confirmem as premissas de quem a utiliza. Um guia oficial do governo canadense (canada.ca ) alerta que os resultados da IA generativa podem reforçar as ideias prévias do usuário, especialmente quando as perguntas refletem suas crenças, e que a confiança excessiva na automação pode levar à preferência pela resposta do sistema mesmo diante de informações contrárias.

Nesse contexto, pedir à ferramenta que identifique fundamentos para condenar já estabelece um ponto de partida distinto de solicitar o confronto entre a hipótese acusatória, as objeções defensivas e as lacunas probatórias. Se a conclusão estiver embutida na pergunta, existe o risco de a análise servir apenas para justificá-la. Por isso, não basta discutir qual programa foi utilizado; é necessário examinar também as instruções dadas, os documentos selecionados e as informações deixadas de fora.

Quem assegura, então, que as teses da acusação não receberão atenção privilegiada? A resposta institucional precisa ir além da promessa de neutralidade. Deve permitir verificar se o sistema preserva divergências, identifica elementos favoráveis à defesa e distingue suspeitas de provas. A condição oficial de um documento não transforma seu conteúdo em verdade, assim como a extensão de uma denúncia não supre a insuficiência dos elementos que a sustentam.

Não obstante, o debate seria incompleto se concentrasse toda a desconfiança nos escritórios de advocacia. Em notícia de 3 de setembro de 2026, o STJ informou ter identificado comando oculto em recurso assinado por procurador municipal, aplicando multa por litigância de má-fé de 10% sobre o valor da causa. O profissional alegou inserção acidental, explicação que o colegiado não acolheu. Trata-se de episódio concreto envolvendo a representação judicial de um município, suficiente para demonstrar que os controles não podem se limitar à advocacia privada.

Esse registro não autoriza atribuir a mesma prática ao Ministério Público, nem sustenta uma acusação generalizada contra agentes públicos. Autoriza, contudo, uma pergunta incontornável: por que os documentos apresentados pelo Estado estariam dispensados das verificações exigidas dos demais participantes do processo? A invocação do interesse público não legitima manipulações, e a fiscalização deve alcançar qualquer origem documental, inclusive manifestações ministeriais, relatórios policiais e peças de órgãos administrativos.

Sob o prisma constitucional, a questão envolve o direito de conhecer e contestar os fundamentos que podem restringir direitos. O artigo 93, inciso IX, da Constituição exige decisões fundamentadas, enquanto o artigo 155 do Código de Processo Penal vincula a formação do convencimento à prova produzida em contraditório judicial, vedando sua fundamentação exclusiva em elementos da investigação, ressalvadas as exceções legais. A análise automatizada não afasta essas exigências nem transforma seu resultado em prova.

Todavia, como exercer uma defesa efetiva diante de uma seleção de informações que permanece desconhecida? Se um resumo contaminado omitir um depoimento relevante, a defesa poderá combater a conclusão sem conseguir identificar a origem da distorção. A meu ver, a preservação do contraditório exige que a participação material da ferramenta na análise seja verificável, com registros suficientes para reconstruir as entradas utilizadas, as instruções relevantes e os resultados aproveitados, observados os sigilos legalmente protegidos.

Seria incorreto afirmar que o Judiciário utiliza essas tecnologias sem regulamentação. A Resolução CNJ nº 615/2025 prevê supervisão humana efetiva, prevenção de vieses e mecanismos de controle, além de classificar como de alto risco atividades como a valoração de provas e a interpretação de fatos como crimes. Em junho de 2026, o Conselho também aprovou orientações específicas para reduzir os riscos de comandos ocultos em arquivos processuais. Há, portanto, reconhecimento institucional do problema, cuja resposta precisa ser demonstrada na prática.

A existência de regras, entretanto, não comprova que cada utilização concreta seja segura. Supervisão humana precisa significar leitura, confronto e capacidade real de rejeitar o resultado produzido. Quando o magistrado apenas ajusta a redação de uma minuta, sem verificar sua correspondência com os autos, a assinatura não corrige as omissões que permaneceram despercebidas. A responsabilidade de decidir exige condições materiais para exercer essa fiscalização, inclusive tempo e formação adequada.

Cabe, assim, retomar a provocação: não está na hora de os humanos voltarem a exercer suas funções? No núcleo da atividade jurisdicional, a resposta deve ser afirmativa. Julgar exige assumir pessoalmente o exame das provas, enfrentar as objeções relevantes e justificar por que uma hipótese merece prevalecer. Ferramentas podem auxiliar tarefas documentais, mas a conveniência administrativa não pode determinar o grau de atenção dispensado à liberdade de alguém.

Olvidar que os próprios seres humanos estão sujeitos a vieses também seria um erro. Por isso, a resposta exige combinar responsabilidade pessoal com garantias processuais, controle técnico e possibilidade de contestação. Onde não houver condições de verificara integridade da análise automatizada, seu uso na valoração de provas e na formação de conclusões penais deve ser suspenso até que essas condições sejam demonstradas.

A reportagem expõe uma vulnerabilidade que precisa ser enfrentada por todos os integrantes do sistema de Justiça. Quem insere comandos clandestinos deve ter sua responsabilidade apurada com as garantias devidas, e o Estado precisa responder pela segurança das ferramentas que incorpora ao julgamento. A liberdade não pode depender de uma instrução invisível, de um resumo incompleto ou da confiança apressada em uma resposta bem escrita. O cidadão tem direito a um juiz que conheça seu processo e assuma, de maneira efetiva, a responsabilidade de julgá-lo.

*Marcelo Aith é advogado criminalista, sócio do escritório Aith, Badari e Luchin Advogados