- Meta removeu 8 mil anúncios de nudes falsos com IA.
- Empresa processa criadores do Crush AI em Hong Kong.
- Nova IA detecta anúncios suspeitos sem imagens explícitas.
A Meta processou os criadores do Crush AI, um app que usava inteligência artificial para gerar nudes falsos sem consentimento. De acordo com a empresa, o aplicativo violou repetidamente suas políticas ao veicular mais de oito mil anúncios apenas nas duas primeiras semanas de 2025, usando o Facebook e o Instagram como principal canal de tráfego.
A ação judicial, movida em Hong Kong, aponta a empresa Joy Timeline HK como responsável pelo Crush AI. Ainda de acordo com a Meta, essa entidade burlou sistemas de moderação, criando dezenas de contas de anúncio e trocando domínios constantemente. Em alguns casos, os perfis usavam nomes como “Eraser Anyone’s Clothes”, com números variados.
O jornalista Alexios Mantzarlis, da newsletter Faked Up, revelou que 90% do tráfego dos sites do Crush AI vinham do Facebook e Instagram. Ele também sinalizou diversos domínios à Meta, que confirmou ter removido anúncios múltiplas vezes. Ainda assim, os criadores insistiram em manter as campanhas no ar.
Meta usa nova tecnologia de detecção
Para enfrentar o problema, a Meta criou um sistema que identifica anúncios de nudez por IA mesmo sem imagens explícitas. A ferramenta usa técnicas de correspondência e listas expandidas de palavras, frases e emojis. Além disso, a empresa também afirmou que agora aplica estratégias usadas contra redes criminosas para derrubar essas contas.
Desde janeiro, a Meta já desmantelou quatro redes distintas ligadas à promoção desses serviços. Além disso, a companhia está fornecendo dados ao Lantern, um programa da Tech Coalition que reúne empresas como Google, Snap e TikTok para combater a exploração sexual online. Até agora, a Meta compartilhou mais de 3.800 URLs suspeitos com a iniciativa.
No campo legislativo, a Meta apoia projetos como o US Take It Down Act e trabalha com o Congresso americano para fortalecer a proteção de adolescentes. A empresa defende leis que permitem aos pais controlar downloads de apps por seus filhos.
A Meta afirmou que continuará atualizando suas tecnologias para impedir abusos com IA, especialmente no uso indevido de imagens pessoais sem consentimento.
