IA: Uso Inadequado Gera Graves Consequências Jurídicas no Brasil
A rápida e crescente integração da inteligência artificial (IA) em diversos setores da sociedade brasileira tem revelado um complexo emaranhado de desafios e consequências jurídicas, impulsionando a urgência de um marco regulatório robusto e de uma redefinição de conceitos tradicionais do Direito. O uso (in)adequado dessa tecnologia, que varia desde a automação de tarefas rotineiras até a tomada de decisões autônomas, exige atenção redobrada de profissionais, empresas e do Poder Judiciário para evitar danos significativos e garantir a proteção de direitos fundamentais.
No centro do debate estão questões cruciais como a responsabilidade civil e criminal por atos ou omissões de sistemas de IA, a proteção de dados pessoais em um cenário de coleta massiva, a ocorrência de vieses algorítmicos e as chamadas “alucinações” que geram informações falsas. O Brasil, atento a esse cenário, avança na discussão de um projeto de lei que visa estabelecer diretrizes claras para o desenvolvimento e uso da IA, buscando equilibrar inovação e segurança jurídica.
O Desafio da Responsabilidade Civil na Era da IA
Um dos pilares mais desafiados pela inteligência artificial é o da responsabilidade civil. Os modelos jurídicos tradicionais, baseados na identificação de uma conduta humana, nexo causal e culpa, encontram dificuldades em um contexto onde sistemas algorítmicos operam com autonomia e, muitas vezes, opacidade. A complexidade de determinar quem deve ser responsabilizado por danos causados por uma IA – seja o desenvolvedor, o operador ou o próprio usuário – é um dilema central.
Especialistas têm apontado a teoria do risco da atividade, já presente no Código de Defesa do Consumidor e no Código Civil, como um caminho para a responsabilização objetiva em casos de danos provocados por sistemas de IA de alto risco. Isso significa que a responsabilidade poderia ser atribuída independentemente da comprovação de culpa, recaindo sobre quem se beneficia da atividade que gera o risco. A proposta legislativa em tramitação no Brasil, o Projeto de Lei nº 2338/2023, reforça essa abordagem, prevendo a responsabilidade objetiva para casos de alto risco com inversão do ônus da prova em favor da parte afetada.
Veja também:
Implicações no Direito Penal: Quem Punir?
No âmbito penal, a discussão é ainda mais complexa. Atualmente, a inteligência artificial é vista, em grande parte, como um instrumento na prática de crimes, não como um sujeito passível de responsabilização penal. A ausência de vontade, consciência e capacidade de autodeterminação, elementos essenciais para a imputação de culpa no direito penal brasileiro, impede a responsabilização direta da máquina.
Contudo, crimes mediados por IA – como fraudes, difamação com deepfakes ou violações de dados – levantam a questão de quem deve ser punido. O debate se concentra em identificar a pessoa física ou jurídica que detém o domínio ou a previsibilidade sobre a conduta lesiva da IA. Propostas lege ferenda (para futuras leis) incluem a criação de novos tipos penais para tutelar a segurança algorítmica, como o emprego de sistemas de IA proibidos ou a omissão de auditorias periódicas em sistemas de alto risco.
Proteção de Dados e Vieses Algorítmicos
A dependência da IA de vastos volumes de dados para treinamento e operação gera preocupações significativas com a proteção da privacidade e a conformidade com a Lei Geral de Proteção de Dados (LGPD). A coleta massiva de informações pessoais por sistemas de IA aumenta o risco de vazamentos de dados e uso indevido, exigindo que as empresas estabeleçam políticas claras e seguras para o uso da tecnologia.
Além disso, os vieses algorítmicos representam um desafio ético e jurídico. Sistemas de IA, treinados com dados que podem refletir desigualdades sociais e preconceitos, são capazes de reproduzir e até amplificar essas discriminações. Isso pode levar a decisões automatizadas injustas em áreas como concessão de crédito, seleção de candidatos ou até mesmo no sistema de justiça criminal, violando direitos fundamentais como a igualdade e a não discriminação. A transparência e a auditabilidade dos algoritmos são essenciais para mitigar esses riscos.
As “Alucinações” da IA e a Responsabilidade Profissional
Um dos riscos mais tangíveis do uso inadequado da IA, especialmente no meio jurídico, são as chamadas “alucinações” – quando a inteligência artificial gera informações plausíveis, mas completamente falsas. Casos recentes, tanto no Brasil quanto no exterior, demonstraram advogados sendo multados e sofrendo sanções disciplinares por apresentarem citações fictícias, precedentes inexistentes ou leis inventadas em petições e pareceres.
Esses incidentes reforçam que, embora a IA possa ser uma ferramenta poderosa para otimizar tarefas e pesquisas, a responsabilidade final pela precisão e veracidade das informações recai sempre sobre o profissional humano. A falta de revisão crítica e a confiança cega nos resultados gerados pela IA podem acarretar prejuízos financeiros, danos à reputação e questionamentos éticos perante os órgãos de classe.
“Shadow AI”: O Uso Não Autorizado e Seus Riscos
Outro fenômeno crescente é o da “Shadow AI” ou IA extraoficial, que ocorre quando colaboradores utilizam ferramentas de inteligência artificial sem a aprovação ou controle da gestão da empresa, da área de TI ou do departamento jurídico. Essa prática, aparentemente inofensiva, pode expor dados sigilosos, informações de clientes e segredos industriais a plataformas externas, gerando sérios riscos legais e reputacionais, incluindo vazamentos de dados e violações da LGPD.
Relatórios recentes indicam que empresas que sofreram violações de dados decorrentes de incidentes de segurança envolvendo Shadow AI arcaram com custos adicionais significativos. A ausência de políticas de governança de IA e a falta de conscientização dos funcionários sobre o uso responsável da tecnologia são fatores que contribuem para esse cenário de risco.
Regulamentação no Brasil: O PL 2338/2023
Diante desses desafios, o Brasil tem avançado na criação de um marco legal para a inteligência artificial. O Projeto de Lei nº 2338/2023, já aprovado no Senado e atualmente em tramitação na Câmara dos Deputados, busca estabelecer princípios e responsabilidades para o desenvolvimento, implementação e monitoramento de sistemas de IA.
Inspirado em legislações internacionais, como o AI Act da União Europeia, o PL propõe um modelo de regulação baseado em risco, classificando os sistemas de IA e impondo deveres de governança, transparência, segurança e gestão de riscos. Ele prevê a proibição de usos considerados excessivamente arriscados, como manipulação subliminar ou pontuação social injusta, e estabelece requisitos mais rigorosos para sistemas de alto risco em áreas sensíveis como saúde, justiça e segurança.
A proposta também contempla a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que será coordenado pela Autoridade Nacional de Proteção de Dados (ANPD) e envolverá a cooperação entre diferentes órgãos reguladores, especialistas e representantes da sociedade civil. Além disso, o PL 2338/2023 estabelece multas que podem chegar a R$ 50 milhões ou 2% do faturamento de um grupo infrator, além de outras sanções como advertências e suspensão de uso.
Desdobramentos e Perspectivas Futuras
A regulamentação da IA no Brasil representa uma oportunidade para construir um ecossistema tecnológico mais justo e confiável. Contudo, a efetividade da legislação dependerá de um equilíbrio entre o estímulo à inovação e a proteção dos direitos fundamentais, exigindo governança participativa e mecanismos institucionais de supervisão algorítmica.
À medida que a IA continua a evoluir, o Direito precisará se adaptar constantemente para lidar com novas questões éticas, sociais e legais. A colaboração entre legisladores, profissionais do Direito, desenvolvedores de tecnologia e a sociedade civil será fundamental para garantir que o uso da inteligência artificial seja responsável, transparente e benéfico para todos, mitigando os riscos e maximizando o potencial transformador dessa tecnologia.