Em uma ação inédita, a cidade de São Francisco entrou com um processo judicial para fechar 16 sites que permitem a criação de pornografia deepfake, utilizando inteligência artificial para “despir” digitalmente mulheres e meninas sem seu consentimento.
A iniciativa foi liderada por Yvonne Meré, procuradora-chefe adjunta da cidade, e surge como uma resposta direta à crescente ameaça dessa tecnologia.
A preocupação de Meré, que também é mãe de uma adolescente de 16 anos, foi despertada após tomar conhecimento de uma tendência perturbadora: o uso de aplicativos de “nudificação” por meninos para transformar fotos de suas colegas de escola em imagens pornográficas deepfake.
Tais imagens, criadas com base em fotos comuns das vítimas, são sobrepostas a corpos nus gerados por IA, causando danos profundos e irreparáveis às vítimas.
Primeiro processo governamental contra deepfake
A ação judicial foi elaborada após uma discussão entre Meré e seus colegas de trabalho, que também são pais e preocupam-se com os perigos impostos pela tecnologia moderna.
Em uma mensagem de texto para Sara Eisenberg, chefe da unidade de questões sociais do gabinete do procurador da cidade, Meré expressou sua determinação em fazer algo concreto sobre o problema.
O processo busca não apenas encerrar as atividades dos sites, mas também impedir que seus operadores continuem a criar pornografia deepfake no futuro.
A gravidade da situação é evidenciada pelo fato de que os 16 sites visados foram acessados cerca de 200 milhões de vezes nos primeiros seis meses de 2023.
Esses sites, que operam tanto nos Estados Unidos quanto internacionalmente, utilizam modelos de IA treinados com pornografia real e imagens de abuso infantil para criar os deepfakes.
A facilidade com que essas imagens podem ser geradas – em questão de segundos – é alarmante, assim como a capacidade de os usuários usarem essas imagens para extorquir ou humilhar as vítimas.
David Chiu, procurador da cidade de São Francisco, reconhece os desafios de enfrentar uma indústria que avança rapidamente, mas acredita que o processo é um passo necessário.
“Estamos tentando responsabilizar essas empresas, algo que ninguém fez antes”, afirmou Chiu.
O processo se baseia em várias leis, incluindo a Lei de Concorrência Desleal da Califórnia e leis federais contra pornografia infantil e pornografia de vingança.
O objetivo final é não apenas fechar esses sites, mas também estabelecer um precedente legal que impeça a proliferação de novas plataformas que possam surgir.
São Francisco, sendo um epicentro da indústria de inteligência artificial, também está se posicionando como uma cidade que não tolera o uso irresponsável dessa tecnologia.
Embora Chiu reconheça os benefícios da IA, ele destaca que é crucial abordar seus “lados obscuros” para proteger as vítimas e manter a integridade das comunidades.
Essa ação judicial sinaliza um esforço crescente para combater o uso malicioso da tecnologia e proteger os direitos e a dignidade das pessoas em um mundo digital cada vez mais complexo.
