Meta processa app de IA para gerar nudes
A Meta, empresa controladora do Facebook e Instagram, iniciou uma ação judicial contra a Joy Timeline HK Ltd., sediada em Hong Kong, responsável pelo desenvolvimento do aplicativo CrushAI. O app utiliza inteligência artificial (IA) para gerar imagens de nudez a partir de fotos de pessoas reais, sem o consentimento delas.
Anúncios Burlavam a Moderação
Segundo a Meta, a Joy Timeline veiculou anúncios do CrushAI no Facebook e Instagram, burlando os mecanismos de revisão de anúncios. Mesmo após remoções sucessivas por violação de políticas, a empresa persistiu na publicação de novas propagandas. A Meta alega que a Joy Timeline tentou contornar sua rigorosa política de revisão publicitária para divulgar anúncios de serviços de “nudificação” por inteligência artificial.
Um relatório do site 404 Media e uma pesquisa de Alexios Mantzarlis, da Cornell Tech, revelaram que pelo menos 8.010 anúncios relacionados ao CrushAI foram veiculados nas plataformas da Meta nas duas primeiras semanas de 2025. Mantzarlis também apontou que cerca de 90% do tráfego para os sites do CrushAI veio do Facebook e Instagram.
Veja também:
Repercussão e Ações da Meta
O caso motivou o senador norte-americano Dick Durbin a enviar uma carta ao CEO da Meta, Mark Zuckerberg, cobrando providências sobre a exibição de conteúdos que violam os próprios padrões da empresa.
A Meta informou que a ação judicial busca impedir novas publicações do tipo e reforça o compromisso da empresa com a segurança digital. A empresa também aprimorou seus mecanismos de fiscalização e desenvolveu tecnologia específica para identificar esse tipo de propaganda, inclusive quando os anúncios não contêm nudez explícita.
Além disso, a Meta compartilha sinais com outras empresas de tecnologia para ampliar a proteção em diferentes plataformas, através do programa Lantern da Tech Coalition, uma iniciativa colaborativa para combater a exploração sexual infantil na internet. Desde março, a Meta forneceu mais de 3.800 URLs únicos para essa rede.
Medidas Adicionais
A Meta também está aplicando táticas tradicionais que utilizava para desmantelar redes de comportamentos maliciosos a essas novas redes que promovem serviços de nudificação. Desde o início de 2025, a Meta relatou ter desmantelado quatro redes distintas que promoviam tais anúncios.
A empresa reiterou seu compromisso em apoiar legislações que permitam aos pais supervisionar e aprovar os downloads de aplicativos pelos seus filhos adolescentes, manifestando apoio ao Take It Down Act nos Estados Unidos.
O Problema dos Apps de Nudificação
Esses aplicativos, também chamados de “nudificadores”, estão difundidos em fóruns e lojas de aplicativos, com o objetivo de “tirar a roupa” de alguém digitalmente por manipulação de fotos. Vítimas dessas montagens sofrem grande impacto emocional, com consequências para a vida pessoal e profissional.
O Brasil aumentou a pena para crimes contra mulheres usando IA, podendo chegar a até três anos de prisão. Nos Estados Unidos, um projeto de lei recente também foi aprovado para combater e facilitar a retirada desses conteúdos nas plataformas.
Combate Contínuo
A Meta e o TikTok baniram pesquisas por palavras-chave relacionadas a aplicativos de nudificação, mas a remoção total desses serviços de suas plataformas tem se mostrado complexa. A Meta desenvolveu novas tecnologias para identificar anúncios de serviços de nudificação, mesmo quando não incluem nudez explícita.
O caso do CrushAI ilustra os desafios complexos que empresas como a Meta enfrentam na proteção de seus usuários, exigindo colaboração entre plataformas, legisladores e a sociedade para criar um ambiente digital mais seguro.