O avanço da Inteligência Artificial no Poder Judiciário tem proporcionado ganhos significativos de produtividade, qualidade e eficiência na prestação jurisdicional. Entretanto, assim como ocorre com qualquer tecnologia inovadora, surgem novos desafios relacionados à segurança da informação. Entre eles está o chamado Prompt Injection, técnica utilizada para tentar influenciar o comportamento de modelos de Inteligência Artificial por meio da inserção de comandos ocultos em documentos submetidos ao sistema.
Recentemente, esse tipo de prática ganhou destaque nacional após casos registrados na Justiça brasileira, incluindo processos em tramitação no Tribunal de Justiça da Paraíba (TJPB). As ocorrências motivaram medidas judiciais e disciplinares, culminando na suspensão cautelar de advogados pela Ordem dos Advogados do Brasil – seccional Paraíba (OAB-PB), enquanto os fatos são apurados pelas instâncias competentes.
Atento à evolução desse cenário e comprometido com o uso responsável da Inteligência Artificial, o Tribunal de Justiça da Paraíba desenvolveu suas soluções com mecanismos específicos para identificar e neutralizar tentativas de manipulação por meio de Prompt Injection.
A principal solução de Inteligência Artificial do Tribunal, utilizada por magistrados e assessores na elaboração de minutas de decisões, despachos e sentenças, foi projetada seguindo princípios modernos de segurança, governança e confiabilidade.
O sistema possui mecanismos capazes de detectar padrões característicos de comandos maliciosos inseridos em petições e outros documentos processuais.
Quando uma tentativa dessa natureza é identificada, a ferramenta desconsidera as instruções potencialmente maliciosas, preserva a integridade da análise jurídica e alerta o usuário sobre a existência de conteúdo suspeito, permitindo que magistrados e assessores tenham ciência da ocorrência antes da utilização da resposta gerada pela Inteligência Artificial.
Essa abordagem reforça um dos princípios fundamentais adotados pelo TJPB que a Inteligência Artificial atua como ferramenta de apoio à atividade jurisdicional, sem substituir a análise crítica do magistrado ou do assessor. Todo conteúdo produzido permanece sujeito à validação humana, garantindo segurança jurídica, transparência e conformidade com as diretrizes estabelecidas pelo Conselho Nacional de Justiça.
Além dos mecanismos de detecção de Prompt Injection, as soluções de IA do Tribunal incorporam múltiplas camadas de proteção, incluindo validação de contexto, tratamento seguro das informações processuais, monitoramento contínuo, registro de eventos de segurança e evolução permanente dos modelos para responder a novas técnicas de ataque.
Segurança
Para a Diretoria de Tecnologia da Informação (DITEC), a segurança é um requisito essencial para o uso responsável da Inteligência Artificial no Judiciário. A adoção dessas medidas demonstra que inovação e segurança devem caminhar juntas, permitindo que magistrados e servidores utilizem ferramentas avançadas com elevado nível de confiabilidade.
O Tribunal de Justiça da Paraíba permanece investindo continuamente na evolução de suas soluções de Inteligência Artificial, incorporando boas práticas internacionais de segurança e governança, de forma a garantir que a inovação tecnológica continue contribuindo para uma Justiça mais eficiente, transparente, segura e confiável para magistrados, servidores e cidadãos.
Assessoria TJPB
