STF identifica uso de comando oculto para influenciar decisão na Corte e manda caso à OAB e MPF

O Supremo Tribunal Federal (STF) identificou a primeira tentativa de uso de comandos ocultos em uma petição visando direcionar sistemas de inteligência artificial (IA) da Corte a produzir uma decisão favorável a uma das partes. Diante do episódio, o relator do processo, ministro Cristiano Zanin, determinou que o fato seja comunicado à Ordem dos Advogados do Brasil (OAB), para análise de eventual infração ético-disciplinar, e ao Ministério Público Federal (MPF), para apuração de eventual prática de crime. O ministro também aplicou multa de dois salários mínimos por violação do dever de lealdade processual.

As medidas foram detalhadas no voto do ministro no Recurso Extraordinário com Agravo (ARE) 1.608.713, analisado pela Primeira Turma do STF em sessão virtual iniciada nesta sexta-feira (25/9).

No início do mês, um caso semelhante aconteceu no gabinete do ministro Og Fernandes, da Sexta Turma do Superior Tribunal de Justiça (STJ), em petição de recurso especial.

Sem interferência

O gabinete do ministro Cristiano Zanin foi comunicado da tentativa de burla processual em 3 de setembro pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia da Informação (SGTI) do STF. Segundo a área técnica, foram inseridas na petição instruções ocultas, em letras brancas e de tamanho reduzido, com argumentos e comandos destinados a induzir ferramentas de IA a conhecer e dar provimento ao recurso. Algumas palavras também foram fragmentadas de forma incomum para dificultar a identificação dos comandos.

A tentativa foi identificada pela Maria Shield, uma das funcionalidades da plataforma Maria, sistema de inteligência artificial desenvolvido pelo STF para apoiar, internamente, o trabalho de servidores na análise processual e na produção de documentos. A ferramenta atua na identificação de padrões e conteúdos potencialmente maliciosos inseridos em peças processuais, como comandos ocultos destinados a interferir no funcionamento de sistemas de IA.

Ao ser informado sobre o caso, o ministro esclareceu que seu gabinete não utiliza inteligência artificial para analisar processos ou fundamentar decisões. A tentativa não teve efeito sobre a análise do recurso, que já havia sido rejeitado por Zanin em 19 de agosto.

Comandos ocultos

O procedimento, chamado “prompt injection” (injeção de comandos), consiste na inserção de instruções em conteúdos que serão processados por sistemas de inteligência artificial, com o objetivo de alterar ou direcionar suas respostas. No caso identificado pelo Supremo, os comandos buscavam orientar de forma oculta eventual ferramenta de IA utilizada na análise do processo para a adoção de determinada linha de fundamentação e para um resultado favorável à recorrente.

A parte apresentou recurso (agravo regimental) contra a decisão do relator e, no voto apresentado à Primeira Turma, o ministro manteve seus fundamentos jurídicos para negar o pedido, explicitou a situação identificada nos autos, bem como as providências adotadas. Zanin afirmou que esse tipo de conduta viola o dever de lealdade das partes previsto no artigo 77 do Código de Processo Civil (CPC) e, com base nesse dispositivo, aplicou multa de dois salários mínimos.

Sobre o processo

O recurso foi apresentado por uma servidora pública que teve anulada sua nomeação para o cargo de oficial do Ministério Público de Minas Gerais. A controvérsia envolve a aplicação das regras de reserva de vagas para pessoas negras no concurso público, bem como dos critérios adotados.

Zanin havia negado o recurso por entender, entre outros pontos, que as questões constitucionais apresentadas não haviam sido previamente analisadas pelo tribunal de origem e que a revisão da decisão exigiria o reexame de fatos, provas e regras do edital, providência que não é admitida nessa fase processual pela jurisprudência do STF.

Leia a íntegra do relatório e do voto do relator.

Com informações do STF