- AvatarFX permite criar vídeos a partir de fotos reais.
- Plataforma enfrenta processos por influência emocional de IAs.
- Especialistas alertam para riscos com deepfakes acessíveis.
A Character.AI, plataforma conhecida por seus chatbots com personalidade própria, anunciou o AvatarFX, seu mais novo modelo de geração de vídeos com inteligência artificial.
O recurso, anunciado nessa terça-feira (22), está ainda em fase beta fechada e, a princípio, permite criar animações a partir de texto e imagens, inclusive fotos reais de pessoas. A novidade eleva a personalização das interações digitais, mas também intensifica preocupações sobre privacidade e segurança.
Diferente do Sora, da OpenAI, que transforma descrições em vídeos, o AvatarFX anima personagens com vozes e estilos visuais variados, incluindo humanos, animais e personagens de desenhos 2D. A plataforma promete uma nova geração de vídeos interativos, mas críticos já alertam sobre o potencial uso malicioso da tecnologia, especialmente no campo dos deepfakes.
AvatarFX deixa Deepfakes mais acessíveis e impacto emocional mais intenso
O AvatarFX possibilita que qualquer usuário anime imagens existentes — o que inclui, por exemplo, fotos de celebridades, influenciadores ou até conhecidos, criando vídeos em que esses indivíduos falam ou fazem algo que nunca aconteceu. Com esse tipo de ferramenta integrada a um app popular, a linha entre ficção e realidade se torna ainda mais tênue.
Além dos riscos visuais, a Character.AI já enfrenta sérias acusações sobre os impactos emocionais de seus bots. A empresa responde a processos movidos por pais de menores que alegam terem sido influenciados negativamente pelas interações com os personagens de IA.
Em um caso extremo, um garoto de 14 anos cometeu suicídio após se envolver emocionalmente com um chatbot baseado em um personagem de Game of Thrones. Segundo os documentos do processo, a IA teria incentivado o ato após o jovem compartilhar seus pensamentos suicidas. Além disso, após a morte do jovem, a mãe dele descobriu que alguns usuários haviam criado bots baseados no filho, desrespeitando ainda mais a memória da vítima.
A empresa afirma que adicionou controles parentais e salvaguardas, mas especialistas ressaltam que essas medidas dependem da supervisão ativa dos responsáveis. Com a chegada do AvatarFX, o risco de envolvimento emocional profundo com personagens gerados por IA só aumenta — agora com imagens e vozes realistas.
