Em uma medida para enfrentar a criação de imagens sintéticas de nudez, muitas vezes associadas a pessoas reais e sem consentimento, como em casos de pornografia de vingança, a Microsoft lançou uma nova ferramenta que promete impedir que seu mecanismo de busca Bing exiba esses conteúdos.
A novidade vem com a parceria da Microsoft com a organização StopNCII (Stop Non-Consensual Intimate Images), que permite que vítimas de pornografia de vingança criem uma “impressão digital” (ou hash) de imagens comprometedoras.
Com esse hash, plataformas parceiras, como Facebook, Instagram, TikTok e agora o Bing, podem bloquear a disseminação dessas imagens.
A iniciativa é um grande avanço para ajudar vítimas, já que anteriormente, a Microsoft permitia apenas que os usuários denunciassem diretamente esses conteúdos, abordagem que, infelizmente, não se mostrou suficientemente eficaz.
Em uma postagem oficial, a Microsoft declarou:
Ouvimos preocupações de vítimas e especialistas de que os relatórios de usuários sozinhos podem não ter impacto efetivo no combate ao problema.
Além da Microsoft, Google também tem ferramentas, mas ainda sem se associar ao StopNCII
Enquanto o Bing está agora equipado para ajudar a remover imagens não consensuais, o Google, o mecanismo de busca mais popular do mundo, também oferece suas próprias ferramentas para relatar conteúdos explícitos.
No entanto, o Google enfrentou críticas por ainda não se associar ao StopNCII, o que limita a eficácia de suas ações.
Desde 2020, apenas na Coreia do Sul, usuários já relataram mais de 170 mil links indesejados envolvendo pornografia não consensual.
A situação é agravada pelo uso de deepfakes — vídeos e imagens gerados por IA que podem modificar a aparência das pessoas, muitas vezes sem consentimento.
Infelizmente, nos EUA, ainda não existe uma legislação federal que aborde diretamente o uso de deepfakes em casos de pornografia, deixando o combate ao problema nas mãos de leis estaduais.
Com esse novo passo da Microsoft, espera-se que mais empresas se juntem à luta contra a disseminação de pornografia não consensual, ajudando a proteger as vítimas e a reduzir a presença desse conteúdo na web.
