s
- Anúncios com deepfake enganam usuários e expõem falhas da Meta.
- Figuras públicas têm imagem usada em golpes sem rótulo de IA.
- Meta não aplica regras para identificar manipulações com inteligência artificial.
Anúncios produzidos com inteligência artificial trafegam livremente pelo Facebook, sem qualquer identificação ou rótulo informando o uso da tecnologia.
Quem afirma isso, após uma pesquisa que, em apenas cinco dias identificou 298 anúncios na rede da Meta, é a agência de checagem Lupa, conhecida pelo combate à Fake News e desinformação.
Durante cinco dias em novembro de 2024, pesquisadores analisaram conteúdos e identificaram deepfakes de figuras públicas promovendo produtos e golpes financeiros. Sem a identificação de IA, muitos usuários acreditam consumir informações legítimas e acabam sendo enganados.
Um dos casos mais emblemáticos envolveu o médico Drauzio Varella, cuja imagem foi manipulada para promover um medicamento sem registro na Anvisa. Nos comentários, pessoas demonstravam interesse no suposto remédio, acreditando nas falsas promessas de cura. Entretanto, Varella jamais gravou o vídeo, e o produto em questão já foi alvo de investigações anteriores por causar efeitos adversos.
Falsos anúncios com deepfake explodem
Desde janeiro de 2024, a Meta, proprietária do Facebook, Instagram e Threads, exige que anunciantes sinalizem o uso de IA em conteúdos relacionados a temas sociais, eleições ou política. No entanto, a pesquisa da Lupa revelou que essa diretriz não tem sido aplicada de forma eficaz.
Os deepfakes identificados no levantamento incluem personalidades como Ana Maria Braga, Celso Portiolli, Eliana, César Tralli e Rodrigo Faro, além de figuras políticas como Celso Russomanno. Esses vídeos promovem desde curas milagrosas até falsas oportunidades de resgate de valores financeiros, muitas vezes direcionando vítimas para sites fraudulentos.
A professora Pollyana Ferrari, especialista em desinformação digital da PUC-SP, alerta para os riscos da proliferação de deepfakes sem controle.
O impacto dessas desinformações é gigantesco e a Meta não me parece preocupada. Na minha visão de pesquisadora e educadora, as plataformas têm a obrigação de zelar pela democracia, auto-regular tudo o que trafega pelas plataformas. Mas, o que estamos vendo com o fim da checagem de fatos na Meta é exatamente o contrário.
A Meta alega que trabalha para melhorar a detecção desses conteúdos, mas não detalha como e quando isso ocorrerá. Além disso, a empresa não explicou à solicitação da Lupa se penaliza anunciantes que omitem o uso de IA em suas publicações.
Com a crescente sofisticação das ferramentas de IA, identificar um conteúdo manipulado muitas vezes é difícil para um usuário comum. Há vários relatos de casos de golpes usando deepfake como recurso. Por isso mesmo, especialistas reforçam a necessidade de maior transparência e responsabilidade das Big Techs para proteger os usuários contra fraudes digitais.
