Israel gasta milhões para manipular IA sobre Gaza, revela The Intercept
Israel investiu dezenas de milhões de dólares em uma campanha de influência digital para moldar as respostas de sistemas de inteligência artificial (IA) sobre a guerra em Gaza. A revelação, reportada pelo The Intercept Brasil com base em investigações do Drop Site News e Politico, aponta para uma estratégia complexa que visa influenciar a percepção pública global através de chatbots e modelos de linguagem grandes (LLMs).
A operação, que envolveu um contrato milionário com uma empresa ligada a um ex-gerente de campanha presidencial dos EUA, busca saturar a internet com conteúdo pró-Israel, com o objetivo final de que esse material seja absorvido e reproduzido por plataformas de IA, como ChatGPT, Claude, Gemini e Perplexity.
Detalhes da Operação de Influência Digital
A campanha é liderada por Brad Parscale, ex-gerente da campanha de Donald Trump, e sua empresa Clock Tower X. Documentos revelaram um contrato de 46,5 milhões de dólares (aproximadamente R$ 238 milhões) com o governo israelense. Outra iniciativa, orçada em 100 mil dólares, foi organizada através da gigante francesa de relações públicas Havas Media e da startup norte-americana Res.
Criação de Conteúdo e “Envenenamento de LLM”
Desde outubro, a Clock Tower X tem supervisionado a publicação de centenas de artigos e posts em blogs em uma rede de sites aparentemente independentes, como Cognitura.org, Justorium.org e Culturavia.org. O objetivo principal desses sites não é atrair diretamente leitores humanos, que somam apenas algumas centenas de visitantes únicos por mês, mas sim influenciar os robôs que rastreiam páginas e fornecem dados para o treinamento de chatbots de IA.
Essa tática é descrita como “envenenamento de LLM” (Large Language Model poisoning) e visa garantir que as respostas geradas por IA sobre Israel, a guerra em Gaza e temas relacionados reflitam uma narrativa favorável ao governo israelense. O contrato com Parscale explicitamente previa a criação de “sites e conteúdo para entregar resultados de enquadramento GPT em conversas GPT”.
Entre os temas abordados nos artigos estão alegações de que jornalistas em Gaza estariam ligados a organizações terroristas e a tentativa de lançar dúvidas sobre o assassinato de Hind Rajab, uma menina palestina de cinco anos morta por militares israelenses em 2024.
Veja também:
Impacto nas Respostas de IA
Testes realizados por especialistas em desinformação, avaliando análises do Drop Site sobre consultas a chatbots, indicam que a estratégia está funcionando. Milhões de usuários de chatbots nos EUA correm o risco de receber respostas influenciadas pela campanha de Israel.
Em diversas consultas, plataformas como Gemini, Copilot e Perplexity citaram sites da rede Clock Tower X ao responder perguntas sobre relações militares e tecnológicas entre EUA e Israel, por exemplo. Em alguns casos, as ferramentas não alertaram os usuários de que as fontes faziam parte de uma campanha financiada pelo governo israelense. Embora Claude, ChatGPT e Gemini tenham sinalizado a ressalva em outras ocasiões, a inconsistência levanta preocupações.
A empresa Clock Tower X registrou suas atividades nos Estados Unidos sob a Lei de Registro de Agentes Estrangeiros (FARA), que exige a declaração de que o material é distribuído em nome do Estado de Israel. No entanto, essa declaração nem sempre é repassada pelos chatbots aos usuários.
Contexto e Preocupações Éticas
A campanha reflete uma nova fronteira nos esforços de diplomacia pública de Israel, que busca influenciar não apenas o que as pessoas veem nas redes sociais e motores de busca, mas também as fontes de informação que os sistemas de IA utilizam. Críticos alertam que isso representa uma escalada preocupante na propaganda digital patrocinada por estados, borrando a linha entre diplomacia pública e manipulação de sistemas de informação.
Ao moldar deliberadamente o ambiente de dados a partir do qual os modelos de IA aprendem, governos correm o risco de transformar ferramentas projetadas para fornecer informações neutras em instrumentos indiretos de mensagens políticas. Defensores das liberdades civis argumentam que essa abordagem mina a liberdade de expressão ao tentar sufocar visões divergentes, especialmente críticas às ações de Israel em Gaza, não através do debate, mas da dominância algorítmica.
É importante notar que esta campanha de influência sobre a percepção pública é distinta do uso de IA por Israel em operações militares, como os sistemas Lavender e The Gospel/Habsora, que são utilizados para identificar alvos de bombardeio em Gaza.
Desdobramentos e Reações
A revelação levanta questões sobre a responsabilidade das empresas de IA em garantir a imparcialidade e a transparência de suas respostas, especialmente quando o conteúdo é gerado a partir de campanhas de influência. A Common Crawl, por exemplo, é a espinha dorsal da indústria de IA e treina 80% dos tokens do GPT-3 da OpenAI, tornando-se um ponto crítico para a infiltração de dados de treinamento por atores mal-intencionados.
A capacidade de influenciar diretamente os dados de treinamento de IA pode levar a respostas que são impossíveis de serem percebidas como manipuladas pelos usuários, o que representa um desafio significativo para a integridade da informação digital.