Plataforma do CNJ ganha funcionalidade que protege contra manipulação de IA

A nova versão da Assistente Pessoal Operada por Inteligência Artificial (ApoIA) e suas funcionalidades, como a geração de resumos processuais e a revisão de textos, foram apresentadas em evento realizado na última segunda-feira (18/5) pelo Conselho Nacional de Justiça (CNJ). No ato, foi demonstrado, inclusive, como a ferramenta está preparada para identificar ataques como a prática de injeção de prompts, em que são inseridos prompts (comandos) em documentos, buscando influenciar as decisões de forma invisível a olho humano, mas legível por ferramentas de IA.

A ApoIA auxilia magistrados e servidores na produção de textos, na síntese de processos e na organização de informações, contribuindo para maior agilidade e padronização das rotinas. A ferramenta foi desenvolvida pelo Tribunal Regional Federal da 2ª Região (TRF-2) e incorporada à Plataforma Digital do Poder Judiciário Brasileiro (PDPJ-Br) por meio do Conecta, iniciativa do Programa Justiça 4.0 que identifica e dissemina soluções voltadas à transformação digital do Poder Judiciário.

O presidente do TRF-2, desembargador Luiz Paulo da Silva Araújo Filho, lembrou que a constante atualização da ferramenta é uma das metas de sua gestão e apresentou as inovações da ApoIA. “Surgem como novidades: a degravação inteligente e interativa, em que o sistema gera automaticamente um resumo narrativo de diálogos; a busca semântica de jurisprudência, que permite agilizar a pesquisa jurisprudencial; e o repositório externo de colaboração”, anunciou.

Além disso, o desembargador ressaltou a preocupação da ferramenta em relação à segurança, com controle e atualização da proteção contra a injeção de prompts. Para garantir a integridade, a ApoIA implementou uma arquitetura de defesa baseada em três camadas de segurança, as quais combinam higienização de dados, varredura algorítmica de pontos e, por fim, controle humano.