Uma declaração juramentada, apresentada para sustentar a legislação de Minnesota contra o uso de deepfakes em eleições, virou alvo de polêmica. O documento, supostamente elaborado por Jeff Hancock, fundador do Stanford Social Media Lab, trouxe fontes inexistentes e indícios de texto gerado por inteligência artificial. O caso reacendeu o debate sobre o papel da IA em processos jurídicos e políticos.
Fontes inexistentes comprometem argumentos
A declaração, usada em um processo que aborda o impacto de deepfakes em eleições, citou um estudo inexistente do Journal of Information Technology & Politics.
Além disso, outra referência, intitulada “Deepfakes e a ilusão de autenticidade: processos cognitivos por trás da aceitação de desinformação”, também não foi localizada. Tais inconsistências geraram suspeitas de que o texto teria sido produzido ou revisado por ferramentas de IA, como o ChatGPT.
Essas falhas levantaram críticas de opositores da legislação, incluindo advogados que representam o YouTuber conservador Sr. Reagan e a deputada estadual Mary Franson. Eles classificaram o documento como uma “alucinação” de IA, um fenômeno em que modelos geram informações aparentemente confiáveis, mas incorretas. O episódio fragilizou a credibilidade da declaração e abriu espaço para ataques ao projeto de lei.
Scrutínio jurídico e impacto político
O erro na declaração gerou questionamentos sobre o uso de IA na elaboração de provas para processos legais. Especialistas afirmam que a tecnologia, apesar de útil, precisa de supervisão humana rigorosa para evitar situações como essa.
O caso em Minnesota ocorre em um momento em que metade dos estados norte-americanos busca regulamentar o uso de deepfakes e IA em eleições, diante de seu potencial para manipular o processo democrático.
O procurador-geral Keith Ellison, responsável pela submissão do documento, enfrenta pressão para revisar a abordagem do caso e garantir que a legislação avance sem novas falhas.
O incidente também destaca a necessidade de maior conscientização sobre os limites da IA em contextos que exigem precisão e verificação. Minnesota agora se encontra em uma encruzilhada, decidindo entre corrigir o erro ou correr o risco de enfraquecer os esforços para proteger suas eleições.
