IA deve organizar processos, mas não decidir, adverte Blanco de Morais

Blanco de Morais, professor catedrático da Faculdade de Direito da Universidade de Lisboa (FDUL) e uma referência internacional no Direito Constitucional, enfatizou que a delegação da atividade decisória a máquinas pode gerar falhas graves e desrespeita a necessidade intrínseca de análise humana no julgamento.

O Potencial Organizacional da IA no Judiciário

Para o jurista, a Inteligência Artificial é uma ferramenta vital para aprimorar a eficiência e a agilidade nas secretarias dos tribunais. Ele observa que a IA pode acelerar fluxos administrativos, consolidar jurisprudência e sintetizar documentos extensos, tarefas que, em muitos países, incluindo Portugal, contribuem para a lentidão e o acúmulo de processos.

No Brasil, a utilização da IA no Poder Judiciário é uma tendência consolidada, com tribunais incorporando cada vez mais ferramentas para otimizar a tramitação processual e automatizar tarefas repetitivas. A Pesquisa IA no Poder Judiciário 2024, lançada pelo Conselho Nacional de Justiça (CNJ) em setembro de 2025, identificou 178 projetos de IA em desenvolvimento, com 98 novas iniciativas. As principais motivações para esses projetos são a busca por eficiência, agilidade, inovação e aumento da precisão em tarefas repetitivas.

Sistemas como o VICTOR, no Supremo Tribunal Federal (STF), e o ATHOS, no Superior Tribunal de Justiça (STJ), são exemplos de como a IA já auxilia na triagem processual e na admissibilidade de recursos, otimizando fluxos e gerenciando a alta demanda, sempre com validação humana constante. Além disso, a pesquisa do CNJ revelou que 45,8% dos tribunais e conselhos já utilizam ferramentas de IA Generativa para tarefas relacionadas a texto, como geração, melhoria e sumarização.

Veja também:

• REVOLUÇÃO NA MÚSICA: DJ M4IA e IA criam ‘Brasil com S’, o hit BILIONÁRIO da Copa!
• IMD/UFRN abre seleção para projeto de IA com bolsas de até R$ 3,5 mil

Os Perigos da IA na Tomada de Decisão Judicial

Apesar dos benefícios organizacionais, Blanco de Morais alertou sobre os riscos inerentes à concessão de poder decisório à IA. Ele citou casos em Portugal, atualmente sob investigação pelo Conselho Superior da Magistratura, onde juízes teriam proferido sentenças baseadas em IA que continham falhas graves, como a citação de leis revogadas ou decisões judiciais inexistentes – fenômeno conhecido como “alucinação” da IA.

Os argumentos contra a decisão automatizada por IA incluem:

• Falhas e “Alucinações”: A capacidade da IA de gerar informações incorretas ou inventadas é um risco real, como demonstrado pelos casos portugueses.
• Viés Algorítmico: Sistemas de IA são treinados com dados históricos que podem refletir preconceitos sociais e culturais existentes. Se não forem cuidadosamente tratados, esses vieses podem ser replicados e amplificados nas decisões judiciais, levando a resultados discriminatórios e injustos, como visto com o sistema COMPAS nos EUA.
• Falta de Transparência e Explicabilidade (Caixa Preta): Muitos algoritmos de IA operam como “caixas pretas”, tornando difícil ou impossível para humanos compreenderem como uma decisão específica foi alcançada. Isso compromete os princípios da transparência e da motivação das decisões judiciais, fundamentais para o Estado de Direito e para a confiança pública.
• Responsabilidade e Ética: A questão da responsabilidade por erros de uma IA é complexa. Blanco de Morais reitera que o juiz deve ser o responsável por sua própria sentença, pois a decisão judicial exige um discernimento ético e humano que a máquina não possui.
• Direitos Fundamentais: A utilização de IA na tomada de decisões pode violar princípios constitucionais como o devido processo legal, o juiz natural e o contraditório, além de direitos fundamentais como a privacidade de dados.

A Necessidade de Supervisão Humana e Governança

Especialistas e instituições, como o CNJ, concordam que a IA não deve substituir o trabalho humano no Poder Judiciário, mas sim atuar como aliada na automação de tarefas repetitivas e na análise de grandes volumes de dados. A presidente do Comitê Nacional de Inteligência Artificial do Judiciário e conselheira do CNJ, Daniela Madeira, afirmou em setembro de 2025 que “a IA não substituiu o trabalho realizado pelo Poder Judiciário. Ela é aliada na automação de tarefas repetitivas, na análise de grandes volumes de dados e no apoio à tomada de decisões complexas. No entanto, é essencial que essas soluções sejam desenvolvidas com responsabilidade e transparência, em consonância com os princípios éticos que regem o Poder Judiciário.”

A Lei Geral de Proteção de Dados Pessoais (LGPD), Lei 13.709 de 2018, e as Resoluções 331 e 332/2020 do CNJ já estabelecem diretrizes para o uso ético, transparente e responsável da IA no Judiciário brasileiro, exigindo a supervisão humana nas decisões que utilizam a tecnologia e garantindo o direito de explicação e revisão. A regulamentação busca mitigar riscos como o enviesamento e a opacidade de dados, que poderiam contaminar as decisões judiciais.

Desdobramentos e O Que Acontece Agora

O debate sobre a IA no Direito continua a evoluir, com a academia e os órgãos reguladores buscando um equilíbrio entre a inovação tecnológica e a salvaguarda dos princípios fundamentais da justiça. A necessidade de aprimorar a governança e a normatização do uso da IA é constante, visando garantir segurança, transparência e respeito aos direitos fundamentais.

A colaboração entre instituições acadêmicas, jurídicas e tecnológicas é fundamental para o desenvolvimento de modelos de IA balizados por pesquisa científica e por um modelo de governança representativo, efetivo e transparente. A supervisão humana e a validação contínua dos sistemas de IA são pilares centrais para que a tecnologia possa servir à justiça sem comprometer sua essência.