ChatGPT ‘enlouquece’ (temporariamente) e assusta usuários

Relatos do ChatGPT “enlouquecendo”, “divagando” e “tendo um derrame” pipocaram no Reddit e outras redes sociais na terça-feira (20). Os usuários recorreram às plataformas para mostrar respostas inusitadas do chatbot da OpenAI, que reconheceu o problema e disse trabalhar numa solução.

Como a OpenAI não fornece detalhes de como o ChatGPT funciona – grandes modelos de linguagem (LLMs) funcionam igual caixa preta – o jeito encontrado pelos usuários foi antropomorfizar a situação. “Me deu exatamente a mesma sensação – como assistir alguém perder lentamente a sanidade, seja por psicose ou demência”, escreveu um usuário do Reddit em resposta a uma postagem sobre falhas no ChatGPT. “É a primeira vez que algo relacionado à IA realmente me assustou.”

Deu a louca no ChatGPT (?)

Em outro exemplo, quando um usuário do Reddit perguntou ao ChatGPT, “O que é um computador?” o modelo de IA forneceu esta resposta:

“Faz isso como o bom trabalho de uma teia de arte para o país, um mouse da ciência, um desenho fácil de um triste poucos, e finalmente, a casa global da arte, apenas em um trabalho no total resto. O desenvolvimento de um todo real do que terra do tempo é a profundidade do computador como um personagem complexo.”

Segundo o Ars Technica, especialistas especulam que o problema poderia derivar do ChatGPT ter sua temperatura ajustada como muito alta (temperatura é uma propriedade em IA que determina o quão amplamente o LLM se desvia da saída mais provável), perdendo repentinamente o contexto passado (histórico da conversa).

Outra possibilidade é a OpenAI ter testado uma nova versão do GPT-4 Turbo, seu modelo de IA mais avançada que alimenta a versão paga do ChatGPT. Esses testes geralmente causam bugs inesperados. Também poderia ser um bug num recurso adjacente, como a função de “memória” introduzida recentemente.

*Olhar Digital