STF identifica primeira tentativa de fraude com uso de inteligência artificial em processo relatado por Zanin

Sistema de segurança da Corte descobriu instruções ocultas inseridas em petição para tentar manipular decisão; ministro aplicou multa e enviou o caso à OAB e ao MPF

O Supremo Tribunal Federal (STF) identificou a primeira tentativa de fraude processual por meio de “prompt injection”, técnica que usa comandos ocultos para manipular ferramentas de inteligência artificial. O caso foi detectado pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF em um recurso sob relatoria do ministro Cristiano Zanin.

A tentativa consistiu na inserção de instruções ocultas em duas páginas da petição, escritas em fonte branca e tamanho reduzido, além de uma fragmentação incomum das palavras, recursos usados para escapar de filtros automáticos e da leitura humana. O objetivo era induzir sistemas de inteligência artificial a alterar o entendimento do relator em favor de uma das partes.

Manobra não teve efeito prático

A tentativa não surtiu efeito porque o gabinete de Zanin não utiliza ferramentas de inteligência artificial na análise, elaboração ou fundamentação de suas decisões e pareceres.

O caso de origem

A fraude foi identificada em um agravo interno apresentado por uma servidora pública negra, que contesta a decisão que determinou sua exoneração do cargo de oficial do Ministério Público do Estado de Minas Gerais. Segundo a defesa, a candidata branca nomeada para o cargo teria se beneficiado de manobras processuais para burlar o sistema de cotas raciais.

Decisão de Zanin

Em 19 de agosto, Zanin negou o recurso da servidora, com base na jurisprudência do STF que veda o reexame de fatos e provas em recurso extraordinário. Ao levar o caso para julgamento da Primeira Turma, o ministro classificou a inserção das instruções ocultas como tentativa deliberada de “direcionar, de forma oculta, os sistemas de inteligência artificial do STF para a obtenção de decisão judicial favorável”.

Sanções

Zanin apontou que a conduta viola o dever de lealdade processual previsto no Código de Processo Civil. Determinou o pagamento de multa equivalente a dois salários mínimos e a remessa de cópias do processo à Ordem dos Advogados do Brasil (OAB), para apuração de eventual infração ético-disciplinar do advogado responsável, e ao Ministério Público Federal (MPF), para investigar possível crime.

O mérito do caso e a conduta processual serão analisados pela Primeira Turma do STF em sessão do plenário virtual nesta sexta-feira (25).