s
- Modelo Wan 2.1 da Alibaba já é usado para criação de pornografia.
- Plataformas de compartilhamento de IA enfrentam dificuldade para conter abuso.
- Uso indevido de IA reacende debate sobre regulação e segurança digital
A Alibaba lançou na última semana o Wan 2.1, um modelo aberto de geração de vídeo por inteligência artificial. Ferramenta de código aberto, rapidamente ele começou a ganhar versões modificadas e bombar por uso indevido.
A empresa chinesa compartilhou o software no GitHub, permitindo que qualquer pessoa com conhecimento técnico e hardware adequado possa usar e modificar a ferramenta livremente. Assim, cerca de 24 horas após o lançamento do Wan 2.1, a comunidade de criadores de pornografia por IA adotou o modelo. Em seguida, vídeos pornográficos gerados com a ferramenta começaram a surgir aos montes.
Em grupos dedicados à criação e distribuição de mídia íntima não consensual, usuários elogiaram a capacidade do modelo de lidar com movimentos complexos, destacando seu potencial para criações mais realistas.
Uso do Wan 2.1 reacende alerta de criações não consensuais
No Telegram, um usuário afirmou que o Wan 2.1 supera modelos anteriores, como o Hunyuan, por exemplo, desenvolvido pela Tencent, e celebrou a rapidez com que modificaram o novo sistema para gerar esse tipo de conteúdo. Em plataformas como Civitai, desenvolvedores ajustaram e compartilharam diversas variações do Wan 2.1 voltadas para a produção de pornografia. Dados da própria plataforma mostram que os usuários já baixaram esses modelos centenas de vezes.
A Civitai permite o compartilhamento de modelos de IA modificados para reproduzir a semelhança de pessoas reais ou gerar pornografia, mas proíbe explicitamente mídia não consensual. No entanto, casos anteriores mostraram que não há mecanismos eficazes para impedir que os usuários baixem os modelos e os utilizem para criar conteúdo impróprio fora da plataforma.
Essa situação levanta um dilema sobre o futuro dos modelos abertos de inteligência artificial. Enquanto eles ampliam o acesso à tecnologia e fomentam a inovação, por outro facilitam o uso indevido e aumentam os desafios regulatórios. A falta de mecanismos eficientes para restringir a aplicação da IA em cenários não ética torna urgente o debate sobre segurança digital e responsabilidade das empresas.
A pressão por regulamentação cresce, e empresas como Alibaba e Tencent precisarão estabelecer diretrizes mais rígidas para evitar abusos.
Criar vídeos eróticos não consensuais é crime, mas a falta de fiscalização consistente permite que infratores prejudiquem muitas pessoas – especialmente mulheres – antes que as autoridades tomem alguma medida.
