OABRJ: Domine Prompt Negativo para Reduzir Alucinações da IA

A Ordem dos Advogados do Brasil no Rio de Janeiro (OABRJ), por meio de sua série “Advoga AI”, tem reforçado a importância da técnica do “prompt negativo” como uma estratégia crucial para aumentar a segurança na interação com ferramentas de inteligência artificial (IA) e, consequentemente, reduzir os riscos de alucinações. A iniciativa visa capacitar advogados a orientar a IA sobre o que não deve ser incluído nas respostas, protegendo a integridade do trabalho jurídico e evitando a veiculação de informações incorretas.

A presidente da Comissão de Inteligência Artificial da OABRJ, Graziela Bonfim, destaca que a inclusão de comandos que especifiquem o que a inteligência artificial não deve fazer, como “não invente jurisprudência” ou “não cite legislação sem fonte”, funciona como uma primeira linha de defesa contra dados falsos ou desatualizados.

O que é o Prompt Negativo e sua Relevância na Advocacia

O prompt negativo é uma diretriz que instrui os modelos de IA sobre o que *não* incluir em sua saída gerada. Ao contrário dos prompts tradicionais, que descrevem o conteúdo desejado, os prompts negativos especificam elementos, estilos ou características a serem evitados. Essa técnica é particularmente útil em modelos generativos, onde o controle preciso do conteúdo é fundamental para alcançar resultados alinhados às expectativas do usuário.

No contexto jurídico, onde a precisão e a veracidade das informações são inegociáveis, o prompt negativo assume uma importância estratégica. Ferramentas de IA, embora revolucionárias na otimização de tarefas como pesquisa e elaboração de documentos, operam com base em probabilidades estatísticas, e não em verificação factual. Isso significa que, sem as orientações adequadas, elas podem fabricar informações que parecem coerentes, mas são falsas – um fenômeno conhecido como alucinação.

A OABRJ tem investido em letramento digital e na capacitação de advogados para o uso responsável da tecnologia, reconhecendo que a IA já faz parte da rotina da advocacia. A Comissão de IA da Seccional tem estruturado grupos de trabalho, incluindo um focado em engenharia de prompts, para otimizar o uso de IA generativa na produção jurídica.

Alucinações da IA: Riscos e Consequências no Campo Jurídico

As alucinações de IA representam um dos maiores desafios para a integração da inteligência artificial no Direito. Casos recentes têm demonstrado que a geração de citações fictícias, precedentes inexistentes e leis inventadas pode resultar em sanções reais a advogados e partes. Um exemplo notório envolveu um advogado multado pelo TSE e submetido a processo disciplinar na OAB por falta de diligência profissional ao usar o ChatGPT e apresentar informações incorretas.

A alta verossimilhança das alucinações torna-as estruturalmente perigosas para o Direito. A IA pode produzir textos com linguagem técnica impecável e formato padrão, mas com conteúdo fatual inexistente. Isso exige um rigoroso filtro humano de checagem de fontes primárias. A responsabilidade pelo conteúdo submetido ao Judiciário permanece integralmente humana e não pode ser transferida ou atenuada pelo uso de sistemas automatizados.

As plataformas de IA generativa, como ChatGPT, Claude e Gemini, frequentemente incluem avisos sobre suas limitações, alertando que o conteúdo gerado pode estar incorreto e recomendando a verificação de informações importantes. Ignorar esses avisos e utilizar informações não verificadas pode configurar litigância de má-fé, acarretando consequências financeiras, processuais e disciplinares para o advogado.

Como Aplicar o Prompt Negativo na Prática Jurídica

A aplicação do prompt negativo é um processo relativamente simples, mas que exige atenção e especificidade. Graziela Bonfim ressalta que essa prática torna as respostas da IA mais confiáveis e contribui para um uso mais criterioso da tecnologia.

• Seja Específico: Quanto mais detalhado for o prompt negativo, melhores serão os resultados. Termos vagos devem ser evitados.
• Combine com Prompts Positivos: Utilize prompts positivos para direcionar o que você deseja que a IA gere, e os negativos para excluir o que não é desejado. Por exemplo: “Escreva um resumo do acórdão X sobre responsabilidade civil, mas não inclua opiniões pessoais ou especulações futuras.”
• Exemplos Práticos para Advogados:
  • “Não invente jurisprudência ou precedentes.”
  • “Não cite legislação sem a fonte e o artigo exatos.”
  • “Não use linguagem excessivamente formal ou corporativa.”
  • “Não ultrapasse X palavras/linhas.”
  • “Não inclua informações que não possam ser verificadas em fontes oficiais.”
• Teste e Aprenda: Experimentar diferentes combinações de prompts negativos é fundamental para descobrir o que funciona melhor para as necessidades específicas de cada tarefa jurídica.

A Escola Superior de Advocacia (ESAOAB) e a própria OABRJ têm oferecido cursos e treinamentos sobre inteligência artificial, engenharia de prompts e o uso ético da IA, abordando a conformidade com a LGPD e as recomendações da Ordem.

Desdobramentos e o Futuro da IA na Advocacia

A OABRJ tem se posicionado na vanguarda da discussão sobre IA no Direito, promovendo debates e capacitações contínuas. A seccional aposta na inteligência artificial para fortalecer a advocacia e ampliar a capacitação da classe, com foco no letramento digital e na adaptação ao novo cenário tecnológico.

A Comissão de Inteligência Artificial da OABRJ, sob a liderança de Graziela Bonfim, acompanha o avanço da regulação da IA no Brasil e contribui para um debate qualificado sobre os impactos da tecnologia no exercício da advocacia. A discussão envolve não apenas a mitigação de riscos, mas também a exploração de oportunidades, como a automação de tarefas repetitivas, análise jurisprudencial e a criação de assistentes jurídicos personalizados.

A mensagem central é clara: a inteligência artificial é uma ferramenta poderosa, mas exige supervisão humana crítica. O advogado deve ser o “piloto da tecnologia”, mantendo o controle total sobre o produto final e garantindo que a celeridade proporcionada pela máquina não comprometa a integridade processual e a ética profissional.