IA Judiciário

CNJ aprova medidas para impedir manipulação de sistemas de IA no Judiciário

Comitê validou riscos de comandos ocultos em documentos processuais e criou programa nacional de segurança para ferramentas usadas pela Justiça

Pixabay
Foto: Pixabay

O comitê nacional de inteligência artificial no Judiciário, do Conselho Nacional de Justiça (CNJ), aprovou duas iniciativas destinadas a ampliar a prevenção e a resposta a tentativas de manipulação de sistemas de inteligência artificial usados pela Justiça. Coordenada pelo CNJ, a Manifestação Técnica CNIAJ 1/2026 validou os riscos de injeção de comandos escondidos em documentos processuais e instituiu um programa nacional de segurança com suporte à prevenção de riscos e à capacitação.

Segundo o presidente do comitê nacional, o conselheiro Rodrigo Badaró, a manifestação técnica trata de cuidados para impedir que comandos escondidos em arquivos processuais interfiram no funcionamento de sistemas de IA ou levem à divulgação indevida de informações.

O comitê de IA, com apoio do Departamento de Tecnologia da Informação do CNJ e do Programa Conecta, elaborou um estudo propondo medidas práticas para proteger a confiabilidade das ferramentas usadas pelo Judiciário. Essas iniciativas ajudam ao orientar a preparação dos documentos antes do uso pela IA e reforçar os mecanismos de conferência das respostas por magistrados e servidores, para que o sistema não se afaste do conteúdo dos autos nem substitua a análise humana. 

Com informações do CNJ