A organização europeia AI Forensics publicou um estudo afirmando que modelos de edição de imagem disponíveis no Hugging Face estariam sendo usados para gerar deepfakes íntimos não consensuais. Segundo o resumo da pesquisa, as ferramentas permitem a criação de imagens sexualizadas sem autorização das pessoas retratadas, em um cenário que também incluiria casos envolvendo mulheres e crianças.
O alerta coloca foco sobre o papel de plataformas abertas que hospedam e distribuem modelos de inteligência artificial. Nesse caso, a preocupação não se limita ao desenvolvimento da tecnologia, mas também à forma como esses sistemas podem ser acessados, adaptados e aplicados em abusos digitais, especialmente quando o conteúdo produzido viola privacidade, dignidade e segurança das vítimas.
O estudo reforça o debate sobre moderação e responsabilização em serviços ligados à IA generativa. Ao apontar o uso desses modelos para produzir material íntimo sem consentimento, a AI Forensics amplia a pressão por regras mais rígidas de monitoramento, remoção e prevenção de abusos em ecossistemas que oferecem ferramentas abertas de imagem por inteligência artificial.
