Prompt injection é efeito colateral da inteligência artificial no sistema de Justiça

Por Anderson Almeida* — As redes sociais surgiram com a promessa de conectar pessoas e atualmente são o principal motor do ódio e da cisão social. O desvirtuamento dos propósitos originais de inovações tecnológicas pode se repetir com o avanço da inteligência artificial generativa em ambientes corporativos, governamentais e judiciais. Um dos males que tem ganhado o noticiário é a denominada prompt injection.

A técnica consiste na manipulação de comandos e instruções inseridos em modelos de linguagem para alterar seu funcionamento esperado, levando a inteligência artificial a ignorar restrições de segurança, revelar informações sigilosas ou executar respostas indevidas. Embora frequentemente analisado sob perspectiva tecnológica, o fenômeno possui repercussões diretas no campo do Direito Penal.

Sob enfoque criminal, o prompt injection aproxima-se das fraudes informáticas e das técnicas clássicas de engenharia social. A diferença central está no fato de que o agente não explora necessariamente uma falha estrutural do software, mas sim a capacidade interpretativa da própria inteligência artificial.

O ataque ocorre por meio da manipulação semântica da linguagem utilizada pelo sistema. Isso impõe ao Direito Penal um desafio relevante, pois os modelos tradicionais de criminalidade cibernética foram construídos a partir da ideia de invasão técnica de dispositivos ou redes.

A depender da finalidade do agente, a conduta pode enquadrar-se em diferentes figuras típicas. Quando o objetivo é obter dados protegidos ou acessar informações restritas, pode haver incidência do crime de invasão de dispositivo informático previsto no artigo 154-A do Código Penal.

Em hipóteses voltadas à obtenção de vantagem ilícita mediante manipulação da inteligência artificial, também é possível cogitar fraude eletrônica ou furto mediante fraude. Em ambientes empresariais, a extração indevida de informações estratégicas pode produzir ainda repercussões concorrenciais e econômicas relevantes. Outro aspecto relevante envolve o elemento subjetivo da conduta.

Nem toda prática de prompt injection possui natureza criminosa. Pesquisadores de segurança, equipes de auditoria e especialistas em testes de vulnerabilidade frequentemente utilizam técnicas semelhantes para avaliar falhas e aperfeiçoar mecanismos de proteção. Nesses casos, a ausência de dolo ilícito e a existência de autorização afastam a tipicidade material da conduta.

O avanço da inteligência artificial demonstra que a criminalidade digital deixou de depender exclusivamente da violação técnica de sistemas computacionais. A linguagem passou a funcionar como verdadeiro instrumento de ataque. Nesse cenário, o prompt injection revela a necessidade de releitura dos institutos clássicos do Direito Penal para que a tutela jurídica acompanhe a evolução das novas formas de criminalidade tecnológica.

Particularmente, entendo que o maior desafio não está apenas em criar novos tipos penais para condutas envolvendo inteligência artificial, mas em evitar respostas legislativas precipitadas e excessivamente amplas.

O Direito Penal não pode transformar toda exploração de vulnerabilidade em criminalidade automática, sobretudo em um ambiente tecnológico ainda em desenvolvimento. A preocupação central deve ser a proteção efetiva de bens jurídicos relevantes, sem comprometer a pesquisa, a inovação e a própria evolução dos mecanismos de segurança digital.

Tampouco se deve deixar de punir profissionais que se utilizam da prática para corromper o sistema de Justiça. Recentemente tivemos casos em que advogados tentaram se utilizar da prática para corromper a IA utilizada pelo Judiciário.

O primeiro caso a ganhar o noticiário foi a tentativa de duas advogadas em manipular o sistema de inteligência artificial Galileu, do Tribunal Regional do Trabalho da 8ª Região (TRT-8). A tentativa de fraude foi descoberta e as duas profissionais multadas em R$ 84.250.

Outro caso recente ocorreu na 1ª Vara Cível da Comarca de Ibirité, em Minas Gerais. A juíza Patrícia Froes Dayrell aplicou multa de cinco salários-mínimos (R$ 8.105) por litigância de má-fé a um advogado que tentou utilizar prompt injection para manipular a inteligência artificial da corte.

Em ambos os casos a Ordem dos Advogados do Brasil foi oficiada. Agora cabe à OAB responder tanto o Poder Judiciário quanto a sociedade com sanções duras contra esses profissionais. O uso de qualquer tecnologia dependerá exclusivamente de sua interface humana e o avanço da IA no Judiciário não pode ter como efeito colateral danos à reputação dos advogados e advogadas brasileiros.

O uso do prompt injection em um processo judicial por parte de um profissional da advocacia é algo grave e corrompe não só o processo, mas também a credibilidade do sistema de Justiça.

Combater injustiças é a missão fundamental de qualquer advogado. A defesa dos direitos de nossos clientes sempre deve ser o foco da profissão, mas no nosso caso os fins não justificam os meios sob nenhuma hipótese.

*Anderson Almeida é advogado criminalista