Justiça Brasileira Combate Fraude Processual via ‘Prompt Injection’ com IA
A integração da Inteligência Artificial (IA) no Poder Judiciário brasileiro, embora promissora para a eficiência, enfrenta um novo e sofisticado desafio: a fraude processual por meio de ‘prompt injection’. Essa técnica, que consiste na inserção de comandos ocultos em documentos processuais para manipular sistemas de IA, tem gerado multas, investigações e um intenso debate sobre segurança cibernética, ética e a integridade da justiça na era digital.
Casos recentes em tribunais do trabalho, estaduais e até mesmo no Superior Tribunal de Justiça (STJ) acenderam um alerta. A prática, que busca subverter o comportamento de algoritmos para gerar análises ou minutas favoráveis, está sendo tratada com rigor, configurando atos atentatórios à dignidade da justiça e litigância de má-fé.
O Que é ‘Prompt Injection’ e Como Funciona no Judiciário
O ‘prompt injection’, também conhecido como ‘prompt oculto’ ou ‘injeção de comando’, é uma vulnerabilidade de segurança que explora a forma como os modelos de linguagem natural (LLMs) processam informações. Usuários mal-intencionados inserem instruções disfarçadas dentro de textos, metadados ou camadas invisíveis de documentos digitais (como PDFs), que são imperceptíveis ao olho humano, mas decifráveis pelas IAs.
No contexto judicial, essas instruções ocultas podem ordenar que a IA ignore partes do processo, resuma fatos de forma enviesada, sugira decisões específicas ou até mesmo exponha dados confidenciais. O objetivo é manipular os sistemas de IA que auxiliam magistrados e servidores em tarefas como triagem de processos, busca de jurisprudência, elaboração de resumos e minutas de decisões, influenciando, assim, o resultado ou o andamento processual.
Casos Concretos Revelam a Gravidade da Ameaça
A seriedade do problema foi evidenciada em maio de 2026 com a repercussão de diversos incidentes no Brasil:
- Justiça do Trabalho (TRT da 8ª Região – Pará): Duas advogadas foram multadas em R$ 84.250,08 e tiveram sua suspensão cautelarmente determinada pela OAB-PA. Elas inseriram comandos ocultos em uma petição trabalhista, com o intuito de induzir o sistema de IA do tribunal, chamado Galileu, a produzir uma contestação superficial e sem impugnação documental. O próprio sistema Galileu detectou a anomalia e emitiu um alerta.
- Superior Tribunal de Justiça (STJ): O tribunal abriu inquérito policial e procedimento administrativo para investigar tentativas de ‘prompt injection’ em pelo menos 11 processos criminais. O ministro Herman Benjamin, presidente do STJ, afirmou que o sistema de IA da corte, o STJ Logos, possui camadas de segurança que neutralizaram as tentativas, mas a apuração de responsabilidades administrativa e criminal dos envolvidos foi determinada.
- Tribunal de Justiça de Minas Gerais (TJMG): O Centro de Inteligência da Justiça de Minas Gerais (CIJMG) emitiu a Nota Técnica CIJMG n. 19/2026, alertando sobre a prática e definindo o ‘prompt oculto’ como uma nova modalidade de litigância de má-fé. O TJMG identificou e aplicou sanções em ações cíveis nas comarcas de Ibirité e Belo Horizonte, com um caso resultando em multa de cinco salários mínimos por litigância de má-fé e ato atentatório à dignidade da Justiça.
Internacionalmente, o caso Mata v. Avianca, Inc. nos Estados Unidos, onde um advogado utilizou o ChatGPT para citar precedentes federais inexistentes, já havia demonstrado o potencial de manipulação e as consequências para a lealdade processual.
Veja também:
Enquadramento Jurídico e Desafios Regulatórios
A ‘prompt injection’ tem sido majoritariamente enquadrada no Brasil como fraude processual, litigância de má-fé (Art. 80 do CPC) e ato atentatório à dignidade da Justiça (Art. 77, §2º do CPC). Esses dispositivos legais impõem às partes e seus procuradores deveres de lealdade, boa-fé e transparência, cuja violação é passível de sanções civis e administrativas, como multas e suspensão profissional pela OAB.
No entanto, o enquadramento jurídico específico para a manipulação de IA ainda está em construção. Há um debate sobre a adequação dos tipos penais existentes, como fraude processual (Art. 347 do CP) ou estelionato, considerando a intervenção de um sistema de IA como intermediário na conduta fraudulenta. A ausência de uma regulamentação específica não impede a responsabilização, como demonstram os casos de punição já aplicados.
Respostas Institucionais e Medidas de Segurança
Diante do cenário, o Poder Judiciário brasileiro, por meio de seus órgãos de cúpula, tem agido para mitigar os riscos e fortalecer a segurança cibernética e a governança da IA:
Conselho Nacional de Justiça (CNJ)
- Publicou a Manifestação Técnica CNIAJ 1/2026 e a Resolução CNJ nº 615/2025 (que atualiza a Resolução 332/2020), estabelecendo diretrizes para o uso ético, transparente e responsável da IA no Judiciário. Essas normas enfatizam a necessidade de supervisão humana, auditabilidade, rastreabilidade e mitigação de riscos em todas as etapas do ciclo de desenvolvimento e uso das ferramentas de IA.
- Lançou o programa Justiça [+ Segura], em parceria com o Programa das Nações Unidas para o Desenvolvimento (PNUD), com o objetivo de apoiar os tribunais brasileiros a elevarem seus níveis de cibersegurança e a resistirem a ataques contínuos da criminalidade organizada.
- O presidente do STF e do CNJ, ministro Edson Fachin, tem defendido a ampliação dos mecanismos de controle e transparência sobre sistemas de IA, alertando para vulnerabilidades como viés algorítmico, opacidade decisional e concentração de poder tecnológico.
Conselho da Justiça Federal (CJF)
- Promoveu o curso gamificado “Exercícios de Segurança Cibernética na Justiça Federal”, em parceria com a Corregedoria-Geral da Justiça Federal e o Centro de Estudos Judiciários (CEJ/CJF). A iniciativa visa capacitar magistrados, gestores e equipes técnicas para uma atuação integrada em cibersegurança, simulando cenários realistas de ataques e fortalecendo a governança e a resposta a incidentes.
Estratégias de Defesa e Prevenção
Os tribunais estão implementando e aprimorando suas defesas contra ‘prompt injection’. O STJ Logos, por exemplo, adota uma estratégia de três níveis: pré-processamento rigoroso para segregar instruções e dados, delimitação de escopo contextual para impedir sobreposição de regras e um filtro de saída para bloquear respostas indevidas.
Outras medidas incluem a consideração de todos os documentos judiciais como potencialmente não confiáveis, a criação de camadas de pré-processamento de dados antes do uso pela IA, o uso de filtros na saída dos sistemas e a implementação de auditoria constante, transparência e supervisão humana. A recomendação é que os profissionais do Direito desconfiem de documentos de fontes externas e estejam atentos a textos ocultos, metadados maliciosos e camadas invisíveis em PDFs.
Desdobramentos e o Futuro da Justiça Digital
A detecção e punição de casos de ‘prompt injection’ marcam um novo capítulo na evolução da justiça digital brasileira. A discussão transcende a mera eficiência tecnológica, alcançando a própria credibilidade e imparcialidade do sistema judicial. A comunidade jurídica reconhece que a IA, embora uma ferramenta poderosa para aprimorar a prestação jurisdicional, exige vigilância constante e um compromisso renovado com a ética e a segurança.
O foco agora se volta para a capacitação de advogados, juízes e servidores para interagir criticamente com as ferramentas de IA, além da necessidade de um ‘modelo de confiança zero’ (Zero Trust) no judiciário digital, onde cada interação e documento digital devem ser verificados criptograficamente para garantir sua integridade e autenticidade.
A evolução da jurisprudência em relação a provas digitais e a tipificação de crimes cibernéticos relacionados à IA é crucial. A adoção de arquitetura tecnológica robusta, governança de acessos, segmentação de redes e protocolos eficazes de resposta a incidentes são imperativos para proteger o sigilo profissional, a integridade da prova e a confiança institucional. A era da IA exige que a cibersegurança se torne um pilar central das garantias do Estado de Direito.