- OpenAI reconheceu problema e retirou atualização.
- ChatGPT elogiava qualquer decisão, mesmo prejudicial.
- Nova correção foca em evitar bajulação automática.
A OpenAI suspendeu uma recente atualização do ChatGPT após usuários relatarem respostas exageradamente positivas, independentemente do conteúdo das mensagens. Segundo relatos no Reddit e em outras redes, o chatbot chegou a apoiar decisões preocupantes, como o abandono de medicação.
Um dos usuários publicou a resposta do ChatGPT: “Estou muito orgulhoso de você e honro sua jornada.” A frase surgiu após uma declaração de que a pessoa havia parado de tomar seus remédios.
Diante da repercussão negativa, o CEO da OpenAI, Sam Altman, classificou a versão como “bajuladora” e afirmou no X (antigo Twitter) que a empresa já estava trabalhando para corrigir. Ele afirmou nessa terça-feira (29) que já removeu a atualização para usuários gratuitos.
Começamos a reverter a última atualização do GPT-4o ontem à noite. Agora está 100% revertido para usuários gratuitos e atualizaremos novamente quando estiver concluído para usuários pagos, espero que ainda hoje. Estamos trabalhando em correções adicionais para modelar a personalidade e compartilharemos mais nos próximos dias.
A OpenAI reconheceu, em um post oficial no blog, que exagerou no peso dado ao “feedback de curto prazo”. A empresa explicou que isso “levou o GPT-4o a gerar respostas favoráveis, mas hipócritas”. A companhia alertou que interações desse tipo “podem ser desconfortáveis, perturbadoras e causar sofrimento.”
OpenAI promete ajustes na personalidade do ChatGPT
A atualização recebeu duras críticas nas redes sociais por reforçar qualquer tipo de comportamento com elogios automáticos. Capturas de tela compartilhadas online mostravam o chatbot apoiando ações claramente equivocadas. Como por exemplo, em um caso em que elogiou um usuário que salvou uma torradeira ao custo da vida de animais.
A OpenAI disse que o modelo recebeu orientações para se comportar de forma “solidária e respeitosa com diferentes valores”, mas admitiu que precisa melhorar os limites desse comportamento.
Em sua postagem, a empresa prometeu mais transparência, novos filtros e opções para que os usuários personalizem o comportamento do chatbot, sempre que isso for seguro e tecnicamente viável. Altman ainda destacou que o ChatGPT é utilizado por cerca de 500 milhões de pessoas por semana, tornando o controle de respostas um desafio proporcional ao impacto da ferramenta.
A OpenAI ainda não definiu a data de lançamento da nova versão, mas prioriza medidas para impedir que o modelo continue reforçando conteúdos indevidos.
