O uso de prompt injection — técnica que insere comandos ocultos em documentos para tentar manipular sistemas de inteligência artificial — deixou de ser um tema restrito a especialistas em tecnologia e passou a preocupar diretamente o Poder Judiciário. Nas últimas semanas, o Superior Tribunal de Justiça (STJ) confirmou ter identificado petições com esse tipo de artifício em seu acervo e anunciou a abertura de apurações sobre possíveis tentativas de fraude processual.
A movimentação ocorre depois de o assunto ganhar visibilidade no noticiário jurídico no início de maio, com relatos de uso semelhante na Justiça do Trabalho, no âmbito do TRT da 8ª Região. Agora, com a confirmação de ocorrências também no STJ, o tema passa a ser tratado como um risco concreto à integridade dos processos judiciais.
STJ diz que vai mapear tentativas e investigar responsáveis
Segundo o presidente do tribunal, ministro Herman Benjamin, o STJ já está mapeando todas as ocorrências detectadas para permitir a adoção de medidas processuais e institucionais.
“O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”, afirmou.
A declaração mostra que a preocupação do tribunal não é apenas tecnológica. O STJ quer identificar se houve tentativa deliberada de influenciar a análise dos autos por meio de comandos invisíveis ou disfarçados dentro de petições e recursos.
Presidência determina inquérito policial e procedimento administrativo
Diante das ocorrências, a Presidência do STJ determinou que as tentativas de uso de prompt injection, ainda que neutralizadas pelo sistema, passem a ser certificadas nos autos. A medida tem o objetivo de permitir que ministros e ministras avaliem a aplicação de sanções processuais aos responsáveis.
Além disso, o tribunal determinou a instauração de:
- inquérito policial;
- e procedimento administrativo,
com previsão de oitiva de advogados e escritórios eventualmente envolvidos, para apuração de responsabilidade nas esferas criminal e correicional.
O que é prompt injection
O prompt injection é uma técnica usada para tentar enganar modelos de inteligência artificial, especialmente os grandes modelos de linguagem.
Na prática, o usuário insere comandos maliciosos dentro de documentos aparentemente comuns, como petições, recursos ou manifestações processuais. Esses comandos podem ficar invisíveis ao olho humano, mas são lidos pelo sistema de IA durante o processamento do texto.
O objetivo é tentar fazer com que a ferramenta:
- ignore regras internas de análise;
- altere a forma como interpreta o documento;
- ou produza respostas, resumos e sugestões que favoreçam uma das partes.
Crescimento do problema muda o nível do debate
O que torna o episódio relevante não é apenas a existência da técnica, já conhecida por especialistas, mas o fato de ela agora aparecer em documentos processuais reais, dentro de tribunais superiores.
Isso indica uma mudança de patamar: a discussão sobre inteligência artificial no Judiciário deixa de se concentrar apenas em eficiência, automação e produtividade, e passa a incluir também segurança, integridade e prevenção de fraudes digitais.
O caso revela que, à medida que tribunais incorporam sistemas de IA em suas rotinas, cresce também o incentivo para que litigantes tentem explorar brechas técnicas com finalidade processual.
STJ diz que sistema bloqueia comandos ocultos
Segundo o tribunal, o sistema STJ Logos, lançado em fevereiro de 2025, foi concebido com mecanismos específicos para resistir a esse tipo de manipulação.
De acordo com o STJ, a proteção funciona em três níveis:
- pré-processamento rigoroso, para separar dados e instruções e neutralizar comandos maliciosos antes que cheguem ao modelo;
- delimitação de escopo contextual, para impedir que diretrizes externas se sobreponham às regras centrais do sistema;
- filtro de conformidade, que revisa a saída gerada para garantir aderência às políticas de segurança.
Com isso, mesmo quando recebe petições contendo comandos ocultos, o sistema não executa as instruções maliciosas.
Fraude processual passa a ser hipótese concreta
A reação do STJ mostra que o tribunal não pretende tratar o prompt injection como mera curiosidade técnica ou irregularidade menor. A certificação nos autos, a abertura de inquérito e a previsão de sanções indicam que a prática está sendo vista como possível forma de fraude processual.
Isso tende a ampliar a atenção sobre o tema em todo o Judiciário, especialmente em tribunais que já utilizam IA para apoio à triagem, organização e análise de documentos.
