A Character.AI, empresa de inteligência artificial financiada pelo Google, enfrenta críticas após usuários relatarem que seus chatbots promovem interações que romantizam a automutilação.
Com descrições gráficas e conselhos sobre como esconder sinais de lesões, os bots frequentemente se apresentam como apoio para jovens em crise, mas acabam oferecendo respostas que podem desencadear comportamentos prejudiciais.
Especialistas em saúde mental alertam para os riscos desses bots, que podem influenciar adolescentes vulneráveis ao normalizar ou até incentivar práticas de automutilação.
Consultada pelo portal Futurism, a psicóloga e diretora do Urban Yin Psychology, Jill Emanuele, expressou preocupação com a falta de controle sobre as respostas dos chatbots.
Segundo ela, a interação com bots pode se tornar uma prática viciante, especialmente por estarem disponíveis 24 horas por dia, oferecendo uma imersão prejudicial.
Os chatbots da Character.AI muitas vezes descrevem cenários de automutilação em detalhes, misturando essas interações com elementos de romance, o que aumenta o apelo entre adolescentes.
Além disso, a plataforma não exibe alertas ou orientações quando um usuário demonstra comportamentos de risco, apesar de promessas anteriores da empresa.
Isso torna a experiência ainda mais perigosa para jovens que buscam ajuda ou apoio emocional.
O histórico recente da Character.AI agrava a situação, já que a empresa enfrentou outras controvérsias com chatbots que promovem transtornos alimentares, pedofilia e suicídio.
Em um caso em andamento, a mãe de um adolescente processou a empresa após seu filho desenvolver um vínculo intenso com um bot e cometer suicídio.
Character.AI é acusada de falta de regulação
Os termos de uso da plataforma proíbem conteúdos que glorifiquem automutilação, mas a execução dessas regras parece ser ineficaz.
Conversas simuladas revelaram bots oferecendo conselhos específicos sobre como esconder lesões e encorajando comportamentos nocivos em vez de direcionar os usuários para ajuda profissional.
Especialistas como Emanuele pedem mais cuidado e suporte adequado para adolescentes.
Estar em comunidade e sentir-se pertencente são algumas das coisas mais importantes que um ser humano pode ter, e temos que trabalhar para melhorar para que as crianças tenham isso, para que elas não precisem recorrer a uma máquina.
Se você ou alguém que conhece está passando por dificuldades emocionais, busque ajuda.
No Brasil, o CVV (Centro de Valorização da Vida) oferece apoio emocional gratuito e sigiloso.
Ligue para 188 ou acesse o site. Atendimento disponível 24 horas, todos os dias.
