- Sand AI bloqueia imagens sensíveis como Xi Jinping e Taiwan
- Magi-1 impressiona tecnicamente, mas impõe censura política
- Lei chinesa força startups a seguir narrativa oficial
A Sand AI, empresa chinesa que lançou o gerador de vídeos Magi-1, surpreendeu usuários ao bloquear imagens com conteúdo político sensível. A medida restringe a liberdade de experimentação com o modelo, mesmo sendo uma ferramenta de código aberto.
Usuários que tentam subir imagens como a do “Homem-Tanque”, da Praça da Paz Celestial ou da bandeira de Taiwan recebem mensagens de bloqueio. A filtragem impede até mesmo imagens renomeadas.
Magi-1 impressiona, mas censura limita uso
Lançado esta semana, o Magi-1 gerou entusiasmo entre especialistas em inteligência artificial. Kai-Fu Lee, ex-diretor da Microsoft Research Asia, elogiou publicamente o modelo. A Sand AI descreve a ferramenta como uma IA auto regressiva capaz de gerar vídeos com alta fidelidade física.
O modelo impressiona pelo desempenho técnico, mas exige até oito GPUs Nvidia H100 para funcionar. Por isso, a maioria dos usuários precisa usar a versão hospedada na plataforma oficial. Lá, no entanto, enfrentam censuras impostas pela empresa.
O Magi-1 bloqueia imagens relacionadas a temas políticos chineses. As restrições não se limitam a Xi Jinping, mas também afetam ícones de resistência e símbolos de movimentos pró democracia.
Lei chinesa pressiona startups a seguir linha oficial
O comportamento da Sand AI segue um padrão recorrente entre empresas de tecnologia na China. A legislação aprovada em 2023 obriga modelos de IA a evitar qualquer conteúdo que “prejudique a unidade” do país. Isso inclui críticas políticas, símbolos separatistas e temas históricos sensíveis.
Outras empresas seguem a mesma linha. A Hailuo AI, da MiniMax, também bloqueia imagens de Xi Jinping. No entanto, ela permite imagens da Praça da Paz Celestial, o que mostra que a Sand AI aplica um nível mais rígido de censura.
Apesar das barreiras ao conteúdo político, muitas dessas plataformas não bloqueiam pornografia. Investigação do site 404 revelou que alguns modelos geradores de vídeo ignoram proteções básicas contra a criação de nudez não consensual.
As plataformas chinesas parecem ajustar seus filtros com base na prioridade do governo, e não na ética tecnológica. Isso cria uma contradição, censuram liberdade de expressão, mas deixam brechas perigosas para abusos.
