A organização sem fins lucrativos Mental Health Coalition (MHC) anunciou o lançamento do programa Thrive, uma iniciativa destinada a combater a disseminação de conteúdos relacionados ao suicídio e automutilação nas plataformas digitais.
O programa conta com a colaboração de grandes empresas de tecnologia, como Meta, Snap e TikTok, como membros fundadores que se comprometem a compartilhar informações sobre conteúdos potencialmente prejudiciais.
O objetivo do Thrive é fornecer às plataformas digitais uma infraestrutura que permita a troca de hashes — impressões digitais únicas de conteúdo gráfico — de materiais relacionados ao suicídio, automutilação e desafios virais perigosos.
A MHC esclareceu que essas impressões digitais estarão vinculadas apenas ao conteúdo, sem informações pessoais dos usuários envolvidos.
Esse esforço surge em um momento em que as plataformas online enfrentam uma crescente pressão para melhorar suas práticas de moderação de conteúdo.
A Meta foi responsável por fornecer a infraestrutura técnica, que já havia sido utilizada no programa Lantern, dedicado à segurança infantil.
Dan Reidenberg, diretor do Thrive e também do Conselho Nacional de Prevenção ao Suicídio, supervisionará as operações do programa, enquanto as empresas participantes ficarão responsáveis por revisar e tomar medidas sobre os conteúdos identificados.
Além disso, os membros do Thrive receberão alertas sempre que um conteúdo problemático for detectado, podendo decidir de forma independente se medidas adicionais devem ser tomadas.
Thrive têm grandes desafios
Apesar da adesão de grandes plataformas como Meta, Snap e TikTok, algumas notáveis ausências foram sentidas, incluindo o X (antigo Twitter) e o Google, que controla o YouTube.
Ambas as empresas têm enfrentado críticas por falhas em suas abordagens de moderação de conteúdo.
O YouTube, por exemplo, foi alvo de um estudo recente que mostrou sua tendência a recomendar vídeos relacionados ao suicídio para adolescentes, enquanto o X tem uma equipe de moderação significativamente reduzida após cortes realizados por seu CEO, Elon Musk.
Embora ainda existam desafios, o programa Thrive oferece um passo importante na direção de tornar as plataformas mais seguras, especialmente para jovens que podem estar em situações de vulnerabilidade.
No entanto, especialistas seguem atentos à eficácia dessas medidas, considerando os históricos das empresas envolvidas e as dificuldades de moderação que muitas delas enfrentam.
