Manipulação com IA preocupa Justiça: ‘Prompt Injection’ atinge tribunais pelo Brasil

As autoridades judiciárias veem esses episódios como a ‘ponta do iceberg’, alertando para a necessidade urgente de reforçar a segurança e a ética no uso da tecnologia. O Conselho Nacional de Justiça (CNJ) já agiu, aprovando medidas para combater a prática e garantir a integridade do sistema judicial.

O que é ‘Prompt Injection’ e como funciona na Justiça

A ‘prompt injection’ consiste na inserção de instruções disfarçadas ou ocultas dentro de documentos processuais, como petições e recursos. Essas instruções, muitas vezes escritas em fonte branca sobre fundo branco ou em metadados, são imperceptíveis para a leitura humana, mas são plenamente legíveis e interpretáveis por sistemas de inteligência artificial utilizados pelos tribunais.

O objetivo é induzir as ferramentas de IA a agir de forma a favorecer uma das partes. Por exemplo, comandos encontrados em petições buscavam orientar a IA a deferir justiça gratuita, conceder tutelas de urgência, citar o réu automaticamente ou até mesmo contestar uma petição de forma superficial, sem impugnar os documentos apresentados.

Essas ferramentas de IA são amplamente utilizadas no Judiciário brasileiro para triagem de processos, classificação de demandas, organização de acervo, pesquisa jurisprudencial e elaboração de minutas decisórias, visando otimizar a tramitação e reduzir o volume de processos. Cerca de 45,8% dos tribunais e conselhos no país já utilizam tecnologias de IA, e 81,3% dos que ainda não usam planejam integrá-las em breve.

Veja também:

• Justiça Brasileira Combate Fraude Processual via ‘Prompt Injection’ com IA
• Movida Projeta R$ 300 Milhões em Aluguéis Via WhatsApp com IA da Meta

Casos emblemáticos pelo Brasil

Diversos tribunais brasileiros já identificaram e agiram contra a manipulação por IA:

• Pará: Na 3ª Vara do Trabalho de Parauapebas, o sistema de IA Galileu detectou uma instrução oculta em uma petição para que a IA contestasse o documento de forma superficial. O juiz multou as advogadas responsáveis em R$ 84.250,09 e comunicou o caso à OAB/PA e à Corregedoria do TRT da 8ª Região.
• São Paulo: O Tribunal de Justiça de São Paulo (TJ-SP) identificou um parágrafo ‘invisível’ em uma petição inicial de 2025, com comandos explícitos para a IA deferir justiça gratuita, tutela de urgência e citar o réu. O juiz Diego Marcussi solicitou esclarecimentos ao advogado responsável.
• Minas Gerais: O Tribunal de Justiça de Minas Gerais (TJMG) registrou pelo menos dois casos de advogados que inseriram comandos ocultos em petições eletrônicas para influenciar a análise de IA, com orientações para desconsiderar argumentos da parte adversária ou recomendar decisões favoráveis. Em um dos casos, em Ibirité, uma juíza aplicou multa de R$ 8.100 a um advogado.
• Superior Tribunal de Justiça (STJ): A corte abriu investigação para apurar o uso de ‘prompt injection’ em petições protocoladas em sua Vice-Presidência. O ministro Luis Felipe Salomão destacou que os comandos visavam interferir na análise recursal e afastar óbices sumulares.
• Goiás: O Tribunal de Justiça de Goiás (TJGO) também detectou comandos ocultos através de sua ferramenta de IA, Agaia, que buscavam direcionar a análise dos argumentos em um processo judicial.
• Mato Grosso do Sul: Um escritório de advocacia admitiu o uso dessa ilegalidade em 28 ações este ano.

A resposta do CNJ e os próximos passos

Diante da gravidade da situação, o Conselho Nacional de Justiça (CNJ) tem agido proativamente. Em maio e junho de 2026, o Comitê Nacional de Inteligência Artificial no Judiciário do CNJ aprovou uma manifestação técnica sobre o risco de ‘injeção de comandos’ e validou a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA).

As medidas aprovadas pelo CNJ visam aumentar a segurança no uso da IA, estabelecendo orientações para a ingestão segura de documentos processuais, com preservação de metadados visuais e estruturais. Elas também reforçam a necessidade de supervisão humana obrigatória, auditabilidade e transparência no uso dessas tecnologias, vedando a tomada de decisões exclusivamente automatizadas.

O conselheiro Rodrigo Badaró, presidente do Comitê Nacional, enfatiza que a IA é um ‘caminho sem volta’ no Judiciário, dada a magnitude dos 75 milhões de processos no Brasil, mas ressalta a importância de uma regulamentação ética e da conscientização dos profissionais do Direito. O debate atual não se limita à adoção da IA, mas sim ao grau de preparo das instituições para utilizá-la com segurança e à necessidade de ‘sanitização’ dos dados que alimentam os tribunais, filtrando documentos antes do processamento.

Desdobramentos e Perspectivas Futuras

Os casos de ‘prompt injection’ evidenciam uma ‘corrida armamentista’ digital, onde novos mecanismos de defesa estão sendo constantemente desenvolvidos para combater a manipulação dos sistemas. A Ordem dos Advogados do Brasil (OAB) também acompanha o tema, e os profissionais envolvidos nas tentativas de manipulação estão sujeitos a investigações criminais e administrativas, além de multas e suspensões.

A Resolução CNJ 615/25 já estabelece diretrizes para o desenvolvimento, utilização e governança de soluções de IA, exigindo transparência, auditabilidade, segurança da informação e supervisão humana. A norma também proíbe sistemas que ranqueiem indivíduos com base em comportamento ou atributos pessoais para avaliação de méritos judiciais, reforçando que a jurisdição deve julgar fatos e provas, não probabilidades estatísticas.

Especialistas alertam que a ‘opacidade algorítmica’ – a falta de clareza sobre os critérios técnicos que orientam as respostas da IA – é um risco, especialmente quando programadores sem formação jurídica desenvolvem esses modelos. A batalha contra a manipulação de IA exige, portanto, não apenas atualizações de software, mas uma mudança cultural profunda na advocacia e no Judiciário, focada em manter a transparência e a justiça como pilares inegociáveis.