Apple e Google Removem Apps de ‘Nudificação’ nos EUA sob Pressão Legal
Apple e Google foram formalmente obrigadas a remover aplicativos de ‘nudificação’ de suas lojas digitais nos Estados Unidos. A medida foi imposta após o procurador da cidade de São Francisco, David Chiu, enviar notificações judiciais às gigantes da tecnologia, exigindo a retirada de 13 aplicativos que utilizam inteligência artificial (IA) para gerar imagens íntimas não consensuais, conhecidas como deepfakes. A ação legal sublinha a crescente preocupação com o uso indevido da IA e a responsabilidade das plataformas digitais na proliferação de conteúdo prejudicial.
As cartas de notificação, enviadas na quinta-feira (16 de julho de 2026), instam Apple e Google a cessar o que o procurador descreveu como “auxílio e incentivo” à venda de imagens explícitas geradas por deepfakes, além de “romper” relações comerciais com os desenvolvedores desses aplicativos. O escritório de Chiu argumenta que as empresas têm a responsabilidade de garantir que suas plataformas não facilitem o abuso sexual, citando a legislação da Califórnia que proíbe a facilitação ou assistência imprudente na criação de pornografia deepfake não consensual.
A Origem da Pressão Legal e os Aplicativos Alvo
A ofensiva do procurador David Chiu mirou especificamente 13 aplicativos: oito disponíveis na App Store da Apple e cinco na Google Play Store. Estes apps são projetados para permitir que usuários carreguem fotografias de pessoas vestidas e as transformem digitalmente para parecerem nuas, sem exigir qualquer habilidade técnica avançada. Um dos aplicativos citados na notificação judicial já havia acumulado mais de um milhão de downloads.
Chiu estimou que Apple e Google provavelmente lucraram milhões de dólares em taxas provenientes das compras e publicidades dentro desses aplicativos. Ele enfatizou que “gerar imagens íntimas sem consentimento é ilegal, prejudicial e totalmente inaceitável”, e que as empresas não podem se eximir da responsabilidade de moderar o conteúdo em suas plataformas.
Respostas das Empresas e Ações Anteriores
Em resposta às acusações, um porta-voz do Google, Dan Jackson, informou que a empresa já havia deletado “centenas” de aplicativos com funções de “nudificação” por violação de suas políticas, incluindo os cinco apps listados pelo gabinete do procurador de São Francisco. O Google reiterou que a Google Play não permite aplicativos com conteúdo sexual e que toma medidas proativas para detectar e remover conteúdos prejudiciais.
A Apple, por sua vez, afirmou que aplicativos de “nudificação” são contra suas Diretrizes de Revisão da App Store e que a empresa tem rejeitado e removido proativamente muitos desses apps, inclusive quando sinalizados por usuários. A empresa confirmou a remoção de três dos aplicativos em questão e o processo de encerramento das contas de seus desenvolvedores, além de contatar outros quatro desenvolvedores sobre violações de política que podem levar a novas remoções.
Ambas as empresas já haviam enfrentado escrutínio e tomado medidas contra deepfakes no passado. Em junho, a Apple já havia endurecido a linguagem de suas diretrizes da App Store sobre a responsabilidade dos desenvolvedores por conteúdo pornográfico.
Contexto Legal nos EUA e a Lei Federal TAKE IT DOWN Act
A pressão exercida pelo procurador de São Francisco se insere em um cenário legal mais amplo nos Estados Unidos, onde a legislação contra deepfakes e imagens íntimas não consensuais tem se fortalecido. A Califórnia, em particular, possui leis que proíbem a facilitação ou assistência na criação de pornografia deepfake não consensual.
Em nível federal, o “TAKE IT DOWN Act” (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks Act) foi assinado como lei pelo Presidente Donald Trump em 19 de maio de 2025. Esta legislação federal, que entrou em vigor em 19 de maio de 2026, estabelece o primeiro arcabouço nacional para combater deepfakes íntimos.
Principais Disposições do TAKE IT DOWN Act:
- Proibição Criminal: A lei torna crime federal publicar ou ameaçar publicar imagens íntimas não consensuais usando um serviço de computador interativo, independentemente de o conteúdo ser autêntico ou gerado por IA.
- Requisitos para Plataformas: As plataformas cobertas (incluindo sites públicos e aplicativos móveis) foram obrigadas a implementar um processo de notificação e remoção até 19 de maio de 2026. Este processo deve ser claro e acessível, exigindo a remoção de imagens íntimas sintéticas não consensuais verificadas em até 48 horas após a denúncia do usuário, e a remoção de cópias duplicadas.
- Penalidades: A lei prevê multas e penas de prisão de até dois anos para adultos vítimas e até três anos para menores.
Além da lei federal, estados como Minnesota também avançaram com legislações próprias. Em maio de 2026, Minnesota aprovou a primeira lei estadual nos EUA a banir especificamente os aplicativos de “nudificação”, permitindo que as vítimas processem os proprietários dos aplicativos por danos e autorizando o procurador-geral do estado a cobrar multas de até US$ 500.000 por violação. Essa lei se diferencia por focar na função da tecnologia em si, e não apenas na disseminação do conteúdo.
Desdobramentos e o Futuro da Regulação de IA
A pressão sobre Apple e Google por parte do procurador de São Francisco reflete uma tendência global de endurecimento das regulamentações contra o uso abusivo da IA para criar conteúdo sexualmente explícito e não consensual. Incidentes anteriores, como o uso do chatbot Grok da xAI (integrado ao X, antigo Twitter) para gerar imagens sexualizadas, já haviam levado autoridades em todo o mundo a apertar o cerco contra esse tipo de serviço.
No Brasil, por exemplo, o Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) recomendaram, em janeiro, que a plataforma X tomasse medidas para impedir a geração de conteúdo pornográfico via IA.
A remoção desses aplicativos pelas maiores lojas digitais do mundo é um passo significativo na luta contra a exploração de imagens por IA. Contudo, o desafio persiste, pois a tecnologia de deepfake continua a evoluir, exigindo vigilância constante e aprimoramento das políticas e mecanismos de fiscalização das plataformas. A expectativa é que mais ações legais e regulatórias surjam para garantir que a inovação em IA seja desenvolvida e utilizada de forma ética e segura.