OpenAI suspende usuário por criar bot de candidato presidencial

A OpenAI decidiu suspender um desenvolvedor após ele criar um bot baseado no ChatGPT para se passar por Dean Phillips, candidato presidencial nos EUA. De acordo com The Washington Post, o chatbot, cadastrado pela startup de IA Delphi, tinha o intuito de reforçar a campanha de Phillips interagindo com usuários.

O que você precisa saber: 

• Chamado de Dean.Bot, o bot divulgava a mensagem do candidato na disputa à presidência dos EUA; 
• O programa, no entanto, alertava os usuários sobre o uso de inteligência artificial (IA), mas também para a isenção de responsabilidade da empresa dona do bot, a Delphi; 
• A OpenAI decidiu suspender o bot após a publicação do Washington Post — ao que tudo indica, a empresa não sabia do novo app; 
• O caso ocorre poucas semanas após a startup dona do ChatGPT desautorizar o uso de suas IAs para campanhas eleitorais.

“Chatbots que se passam por candidatos” são exatamente o exemplo que a OpenAI ofereceu sobre o que não será permitido durante as eleições de 2024 nos EUA. A empresa publicou atualização de suas políticas na última segunda-feira, 15 de janeiro, desautorizando o uso das ferramentas de IA da startup para campanhas políticas.

Após a denúncia do Washington Post, a Delphi manteve o app funcionando sem a base do ChatGPT, apenas com outras ferramentas de código aberto, mas a OpenAI apontou o desenvolvimento do programa como irregular, por usar a IA da companhia e infringir suas regras.

“À medida que nos preparamos para as eleições em 2024 nas maiores democracias do mundo, a nossa abordagem é continuar o nosso trabalho de segurança da plataforma.”

“Queremos ter certeza de que nossos sistemas de IA sejam construídos, implantados e usados com segurança. Como qualquer nova tecnologia, essas ferramentas trazem benefícios e desafios. Eles também não têm precedentes e continuaremos evoluindo nossa abordagem à medida que aprendermos mais sobre como nossas ferramentas são usadas. “

OpenAI em comunicado sobre a atualização de suas políticas.

Segundo o Engadget, o site já está fora do ar por “dificuldades técnicas”. O portal apresenta a seguinte mensagem: “Desculpas, DeanBot está ausente em campanha agora!”.

Nem a OpenAI, nem a Delphi se pronunciaram oficialmente sobre o caso.

*Olhar Digital