s
- ROOST unifica esforços para segurança infantil digital com IA aberta.
- Plataformas investem em IA para detecção de conteúdo prejudicial online.
- Empresas unem forças para proteger crianças de abusos na internet.
Google, OpenAI, Roblox e Discord uniram forças para criar a Robust Open Online Safety Tools (ROOST), uma organização sem fins lucrativos voltada para a segurança infantil na internet.
A iniciativa foi lançada no Artificial Intelligence Action Summit, nessa segunda-feira, em Paris. O objetivo é tornar as tecnologias de proteção mais acessíveis e desenvolver ferramentas de código aberto para identificar e relatar materiais de abuso sexual infantil (CSAM). Além disso, busca acelerar inovações no setor, principalmente devido às mudanças trazidas pela inteligência artificial generativa nos ambientes digitais.
Eric Schmidt, ex-CEO do Google e sócio fundador da ROOST, destacou que a abordagem colaborativa e de código aberto promoverá inovação e tornará a infraestrutura de segurança mais transparente e acessível.
Apesar da falta de detalhes sobre o funcionamento das ferramentas, a promessa é unificar diferentes tecnologias de detecção para facilitar sua implementação por outras empresas.
ROOST e a batalha regulatória sobre segurança infantil
A criação da ROOST ocorre em meio a pressões regulatórias sobre a segurança infantil nas plataformas digitais. Empresas como Roblox e Discord, por exemplo, já enfrentaram críticas por não controlarem adequadamente o conteúdo inapropriado e a interação de adultos com crianças.
De acordo com o National Center for Missing and Exploited Children (NCMEC), as denúncias de exploração infantil aumentaram 12% entre 2022 e 2023.
A ROOST pretende trabalhar com desenvolvedores de IA para criar um ecossistema colaborativo de segurança. As empresas participantes oferecerão financiamento e expertise para o projeto, além de fornecer conjuntos de dados de treinamento verificados.
A Roblox, por exemplo, que vem adotando ações para dar mais segurança aos menores em sua plataforma, planeja abrir seu modelo de IA para moderação de conteúdo ainda este ano, permitindo que outras empresas integrem a tecnologia via API.
Discord, por sua vez, contribuirá com sua experiência no projeto Lantern, uma plataforma de compartilhamento de informações de segurança digital. Além disso, a empresa lançou o recurso “Ignorar”, permitindo que usuários ocultem mensagens indesejadas sem notificar os emissores, reforçando seu compromisso com um ambiente online mais seguro.
O financiamento inicial da ROOST é de R$ 156,2 milhões (US$ 27 milhões), com apoio de organizações como McGovern Foundation e Knight Foundation.
Especialistas em inteligência artificial, código aberto e combate ao extremismo violento também farão parte da iniciativa.
