O Superior Tribunal de Justiça (STJ) abriu uma investigação nesta quarta-feira (20) para apurar o uso de comandos de inteligência artificial (IA) que visavam burlar seu sistema eletrônico de petições. A corte suspeita que advogados e escritórios de advocacia tentaram manipular processos eletrônicos.
Por determinação do presidente do STJ, Herman Benjamin, o tribunal instaurou um inquérito policial e um procedimento administrativo interno. Ambas as apurações buscam identificar as tentativas de fraude. A medida sublinha a crescente preocupação do Judiciário com a integridade dos processos digitais, um tema que também gera debates em outras esferas, como as discussões sobre limites do foro privilegiado no STF.
Mecanismo da Fraude: ‘Prompt Injection’
Técnicos do tribunal identificaram a inserção de “prompt injection” em petições. Este mecanismo, utilizado para enganar modelos de IA, busca favorecer partes durante a tramitação eletrônica de processos. Os comandos ocultos, inseridos nas petições, tentam forçar o sistema de IA a ignorar filtros de seleção. Tais filtros impedem, por exemplo, a admissão de documentos sem os requisitos básicos de admissibilidade.
O STJ afirmou que seu sistema possui travas contra o uso de prompts. Essas barreiras impedem a execução das ordens pela plataforma que recebe as petições. A investigação segue em andamento para determinar a extensão das tentativas de fraude e os responsáveis.
