Drones e IA em Guerra: O que o Direito Internacional Exige?

Apesar da sofisticação crescente, o arcabouço legal atual, centrado no DIH, não proíbe explicitamente os drones, mas exige que seu uso, assim como de qualquer arma, esteja estritamente alinhado a princípios estabelecidos há décadas. A principal preocupação reside na aplicação desses princípios quando a decisão de ataque é mediada ou executada por sistemas autônomos.

Regras do Direito Internacional Humanitário Aplicáveis a Drones

O Direito Internacional Humanitário, também conhecido como “direito de guerra”, estabelece que a tecnologia bélica deve se adaptar às suas regras, e não o contrário. Drones, sejam eles remotamente pilotados ou com maior grau de autonomia, devem obedecer aos pilares centrais do DIH para que seu uso seja considerado lícito em um conflito armado.

Os três princípios basilares que regem o uso de qualquer armamento, e, portanto, dos drones, são:

• Distinção: Os ataques devem ser direcionados exclusivamente a combatentes e objetivos militares. O ataque a civis ou a bens de caráter civil é estritamente proibido.
• Proporcionalidade: Mesmo que um alvo seja militarmente legítimo, o ataque é ilegal se os danos colaterais previstos contra a população civil ou bens civis forem excessivos em relação à vantagem militar concreta e direta esperada.
• Precaução: É obrigatório que todas as medidas viáveis sejam tomadas para evitar ou reduzir ao máximo as baixas civis e os danos a infraestruturas protegidas.

A violação desses princípios, como a realização de ataques indiscriminados ou desproporcionais, torna o uso do drone ilegal. Além disso, o uso de armas já proibidas pelo direito internacional, como armas químicas ou minas antipessoais, permanece vedado, independentemente da plataforma que as dispare.

Veja também:

• MIT Cria ‘Supersólido’: Estado Quântico Une Líquido e Sólido
• ChatGPT Prepara Entrada em Mensageria com Sincronização de Contatos

A Questão da Inteligência Artificial e a Autonomia Letal

A maior complexidade surge com a integração da Inteligência Artificial, especialmente em Sistemas de Armas Totalmente Autônomos (LAWS), que são capazes de selecionar e atacar alvos sem intervenção humana significativa. Embora o DIH seja considerado “tecnologicamente neutro”, o debate foca na manutenção do “controle humano significativo” (meaningful human control) sobre o uso da força letal.

O Debate sobre o Controle Humano

Organismos internacionais, como o Comitê Internacional da Cruz Vermelha (CICV), têm defendido a necessidade de novas normas internacionais juridicamente vinculantes para proibir sistemas autônomos que sejam imprevisíveis ou projetados para aplicar força contra pessoas sem intervenção humana. O Secretário-Geral da ONU também manifestou preocupação, defendendo a proibição global desses sistemas autônomos letais.

A preocupação central é que a delegação da decisão de matar a um algoritmo pode comprometer o julgamento moral humano, inerente ao DIH. Muitos especialistas argumentam que a IA, ao operar sob uma lógica algorítmica, pode não ser capaz de aplicar adequadamente os nuances de distinção e proporcionalidade em cenários complexos e em rápida mudança no campo de batalha.

Responsabilidade e o “Vácuo de Responsabilidade”

Um ponto crítico levantado pela doutrina jurídica é a dificuldade em atribuir responsabilidade por danos causados por decisões tomadas por sistemas autônomos. Se um sistema de IA comete um erro que resulta em vítimas civis, a quem se deve imputar a responsabilidade penal ou estatal? O chamado accountability gap surge da dificuldade em responsabilizar o programador, o fabricante, o comandante que autorizou o uso, ou a própria máquina.

Atualmente, a visão predominante é que os operadores humanos, mesmo controlando drones remotamente, permanecem sujeitos às mesmas obrigações legais de pilotos de aeronaves tripuladas, pois são eles que identificam alvos, controlam sistemas de armas e tomam a decisão final de disparo. Contudo, com a maior autonomia da IA, essa linha de comando e controle se torna nebulosa.

Obrigações Estatais na Revisão de Novas Tecnologias

O Direito Internacional impõe aos Estados uma obrigação específica ao desenvolver, adquirir ou adotar novas armas, meios ou métodos de guerra: eles devem realizar um exame jurídico para determinar se o uso dessas inovações é proibido pelo direito internacional. Embora essa exigência exista, há relatos de que apenas um número limitado de Estados aplica procedimentos rigorosos para esses exames, especialmente no que tange a sistemas avançados com IA embarcada.

A discussão internacional sobre a regulamentação dessas tecnologias tem se concentrado em fóruns como o Grupo de Especialistas Governamentais (GGE) no âmbito da Convenção sobre Certas Armas Convencionais (CCW) da ONU. O ritmo das negociações diplomáticas, no entanto, é frequentemente citado como mais lento do que a velocidade do avanço tecnológico.

Drones em Conflitos Atuais e o Contexto Legal

O uso de drones tem sido proeminente em conflitos recentes, variando de reconhecimento e vigilância a ataques de precisão. Em alguns casos, defensores argumentam que a precisão oferecida pelas tecnologias de IA pode, teoricamente, reduzir danos colaterais em comparação com métodos tradicionais. Por outro lado, há documentação de que ataques realizados com drones, inclusive aqueles com algum grau de autonomia, resultaram em mortes ilícitas de civis, o que reforça a necessidade de fiscalização estrita dos princípios do DIH.

Em resumo, enquanto os drones não são inerentemente ilegais, seu emprego deve ser rigorosamente subordinado à capacidade do operador humano de garantir a distinção, a proporcionalidade e a precaução. A integração plena da IA sem um controle humano significativo representa o maior desafio regulatório, exigindo a reafirmação dos valores humanitários sobre a eficiência tecnológica para manter a legitimidade das operações de guerra sob a ótica do Direito Internacional.