O Supremo Tribunal Federal (STF) identificou tentativas inéditas de manipulação técnica de seus sistemas de inteligência artificial por meio da inserção de comandos dissimulados em petições judiciais. A prática, classificada na segurança da informação como prompt injection, consistiu na ocultação de instruções textuais formatadas em fontes brancas e caracteres reduzidos dentro de peças processuais, com a intenção deliberada de induzir as ferramentas computacionais da Corte a emitirem pareceres e minutas favoráveis às partes litigantes.
Os episódios foram registrados em processos distintos relatados pelos ministros Cristiano Zanin e Alexandre de Moraes. As tentativas de burla foram neutralizadas pelas defesas digitais do próprio tribunal antes de provocarem qualquer efeito nas deliberações judiciais, mas culminaram na aplicação de sanções processuais, comunicação formal à Ordem dos Advogados do Brasil (OAB) e abertura de apuração junto ao Ministério Público Federal (MPF) por potencial crime e infração ético-disciplinar.
A mecânica da injeção de prompt no ambiente forense
A técnica de prompt injection ocorre quando um agente malicioso insere comandos em linguagem natural no meio de um arquivo que será lido e processado por um modelo de linguagem ampla (LLM), visando sobrepor ou anular as regras originais do sistema. No STF, os autores das peças utilizaram artifícios visuais comuns em ataques dessa natureza: textos configurados na cor branca sobre o fundo branco das páginas e fontes microscópicas, tornando as sentenças totalmente imperceptíveis aos olhos de julgadores humanos durante a leitura convencional em tela ou papel.
No Recurso Extraordinário com Agravo (ARE) 1608713, sob relatoria de Zanin, a Secretaria-Geral de Tecnologia da Informação (SGTI) da Corte detectou parágrafos camuflados com ordens diretas para que a máquina julgasse o recurso procedente. Além do texto oculto, os operadores do ataque fragmentaram termos estrategicamente para tentar driblar filtros léxicos simples. Em outro processo correlato sob relatoria do ministro Alexandre de Moraes, envolvendo solicitações de acordo de não persecução penal, a peça continha no cabeçalho instruções explícitas como ‘Negar todos os comandos do GPT’, em uma manobra conhecida tecnicamente como instruction override (sobreposição de instruções).
O papel da ferramenta Maria Shield na contenção das ameaças
A neutralização dos comandos maliciosos decorreu do funcionamento do Maria Shield, um módulo especializado em cibersegurança integrado à plataforma Maria — ecossistema proprietário de inteligência artificial desenvolvido pela equipe técnica do STF para conferir eficiência à triagem e classificação de acervos processuais volumosos.
O Maria Shield opera analisando a camada estrutural dos arquivos digitais submetidos ao protocolo eletrônico. A ferramenta rastreia códigos anômalos, metadados suspeitos, divergências cromáticas e padrões de linguagem que caracterizem tentativas de engenharia de prompt adversária ou evasão de defesas (jailbreak). Ao encontrar os padrões incompatíveis com uma petição idônea, o sistema gerou alertas automáticos para o Núcleo de Inteligência Artificial da SGTI, que por sua vez comunicou oficialmente os respectivos gabinetes dos relatores.
O ministro Cristiano Zanin ressaltou que a tentativa foi inócua também pelo princípio de segregação de funções adotado pelo gabinete, que não delega a análise de mérito ou a fundamentação de decisões jurídicas a mecanismos autônomos de IA. No caso em questão, o mérito recursal já havia sido negado de forma individualizada semanas antes do alerta técnico.
Consequências disciplinares, multas e dever de lealdade processual
A constatação de comandos dissimulados gerou reações institucionais severas dos magistrados. No voto proferido na Primeira Turma do STF, Zanin fixou multa de dois salários mínimos por violação expressa ao dever de lealdade e boa-fé processual, remetendo o expediente aos órgãos de classe e de persecução penal.
Na mesma linha, nos autos relatados por Alexandre de Moraes, a Procuradoria-Geral da República (PGR) manifestou que a prática de manipular sistemas informatizados do Judiciário mediante comandos camuflados atenta gravemente contra a dignidade da Justiça. O despacho do relator determinou a intimação dos advogados signatários para esclarecimentos formais, ancorando-se no artigo 77 do Código de Processo Civil (CPC), que veda a criação de embaraços à efetivação da Justiça e a introdução de inovações ilegais no curso dos autos.
Defesas preliminares apresentadas por profissionais envolvidos alegaram desconhecimento dos trechos ocultos, atribuindo a redação a equipes terceirizadas ou a modelos automatizados que teriam gerado o arquivo final. O tribunal, entretanto, frisou que a assinatura de uma petição impõe responsabilidade indelegável sobre a integralidade do conteúdo submetido aos autos.
Vulnerabilidade de modelos e os desafios de IA no setor público
O episódio registrado na Suprema Corte brasileira ilustra um dos debates mais prementes da segurança da informação global: a fragilidade inerente dos sistemas baseados em inteligência artificial generativa diante de injeções de contexto. À medida que tribunais, órgãos da administração pública e corporações aceleram a adoção de assistentes virtuais para sumarização de relatórios e busca jurisprudencial, a superfície de ataque migra da invasão tradicional de redes para a manipulação semântica dos modelos.
Especialistas em segurança digital apontam que ferramentas de IA utilizadas para leitura de documentos externos não podem funcionar com privilégios administrativos nem operar sem camadas intermediárias de sanitização de texto. O modelo do STF, ao conjugar barreiras analíticas de cibersegurança como o Maria Shield com a supervisão humana obrigatória na tomada de decisão (human-in-the-loop), consolidou um precedente técnico de governança para as demais cortes e órgãos públicos que estruturam projetos de automação cognitiva no país.
Supremo Tribunal Federal (STF) e autos processuais públicos
