A OpenAI está considerando lançar uma ferramenta inovadora que poderia identificar textos feitos pelo ChatGPT, focado, principalmente, para identificar alunos que o utilizam para realizar suas tarefas. Embora a ideia pareça promissora, a empresa ainda está debatendo a implementação devido aos potenciais impactos negativos.
Segundo informações do The Wall Street Journal, a OpenAI está desenvolvendo uma “marca d’água” invisível que seria inserida nos textos gerados pelo ChatGPT.
Essa marca permitiria que professores e outras partes interessadas detectassem se um texto foi escrito pela IA. No entanto, a empresa enfrenta desafios significativos para garantir a eficácia dessa tecnologia.
OpenAI avalia que a ferramenta pode não ser realmente útil
A OpenAI explicou ao portal TechCrunch que, embora o método de marca d’água seja tecnicamente viável, ele apresenta riscos importantes.
Um dos principais problemas é a possibilidade de os usuários burlarem a ferramenta, usando métodos como traduzir o texto para outros idiomas e depois traduzi-lo de volta, ou reescrever o texto com outra IA. Esses métodos podem dificultar a detecção da marca d’água.
Além disso, a empresa reconhece que a ferramenta poderia impactar negativamente pessoas que não falam inglês como língua nativa, estigmatizando o uso da IA como uma ferramenta de escrita legítima para esses grupos.
Após a publicação da matéria no The Wall Street Journal, a OpenAI atualizou uma postagem em seu blog explicando que, embora a marca d’água tenha se mostrado eficaz em muitos testes, ela ainda não é robusta o suficiente para evitar todas as formas de adulteração.
Isso leva a empresa a ser cautelosa antes de lançar a ferramenta amplamente e, até o momento, não há uma previsão de quando isso aconteceria.
A OpenAI continua a explorar alternativas e a buscar maneiras de mitigar os riscos associados à ferramenta.
Enquanto isso, o debate sobre o uso ético e eficaz da IA em ambientes educacionais, que pode chegar inclusive aos níveis acadêmicos, permanece em destaque, com a OpenAI tentando equilibrar inovação com responsabilidade social.
